구글 딥마인드 CEO, AI의 치명적 약점 '들쭉날쭉한 지능' 경고¶
원제목: Google DeepMind CEO Demis Hassabis' clear warning on AI - Times of India
핵심 요약
- 최첨단 AI도 초등학교 수준의 문제를 틀리는 '일관성 부족' 문제를 가지고 있음이 밝혀졌습니다.
- 현재 AI의 '들쭉날쭉한 지능'은 특정 분야에서는 뛰어나지만 다른 분야에서는 허점을 드러내는 '불균형' 상태임을 의미합니다.
- 진정한 범용 인공지능(AGI) 달성을 위해서는 데이터와 연산 능력 확장 외에 추론, 계획, 기억 능력 개선 및 새로운 평가 방식이 필수적입니다.
상세 내용¶
구글 딥마인드의 CEO 데미스 하사비스가 인공지능(AI)의 치명적인 약점으로 '일관성 부족'을 지적하며 강력한 경고를 보냈습니다. 그는 현재 가장 발전된 AI 시스템조차 엘리트 수학 경시대회에서는 우수한 성적을 거두지만, 초등학교 수준의 단순한 문제에서는 실패할 수 있다는 점을 강조했습니다. 이러한 취약점은 인공 일반 지능(AGI)으로 나아가기 전에 반드시 해결해야 할 과제라고 그는 말했습니다. 하사비스는 구글의 제미니(Gemini) 모델이 딥씽크(DeepThink)를 통해 국제 수학 올림피아드에서 금메달을 획득할 만큼 뛰어나지만, 고등학교 수준의 수학 문제에서는 여전히 단순한 실수를 저지를 수 있다고 구체적인 예를 들었습니다. 그는 "일반인이 시스템의 사소한 결함을 쉽게 찾아낼 수 있어서는 안 된다"고 덧붙였습니다. 이러한 AI의 '들쭉날쭉한 지능' 문제는 AGI 개발 일정을 지연시킬 수 있는 심각한 요인으로 간주됩니다. 하사비스는 현재 AI가 '고르지 못한 지능' 또는 '들쭉날쭉한 지능'을 가지고 있다고 묘사하며, 특정 영역에서는 눈부시게 뛰어나지만 다른 영역에서는 쉽게 노출될 수 있다고 설명했습니다. 이는 올해 초 구글 CEO 순다르 피차이가 불균형적인 능력을 가진 시스템을 설명하기 위해 만든 용어인 'AJI(Artificial Jagged Intelligence, 인공 들쭉날쭉한 지능)'와 맥을 같이 합니다. 딥마인드 CEO는 이러한 일관성 부족 문제를 해결하기 위해서는 단순히 데이터와 컴퓨팅 파워를 늘리는 것 이상의 노력이 필요하다고 강조했습니다. 그는 "추론, 계획, 기억 능력에서의 일부 누락된 역량을 해결해야 한다"고 설명하며, AI의 강점과 약점을 정확하게 파악하기 위한 더 나은 테스트 방법론과 "새롭고 더 어려운 벤치마크" 개발의 필요성을 역설했습니다. 여러 주요 기술 기업들이 아직 진정한 AGI와는 수년 떨어진 것으로 보입니다. 하사비스는 지난 4월 AGI의 등장을 "향후 5~10년 이내"로 예측했지만, 여전히 상당한 난관이 남아 있음을 인정했습니다. 그의 우려는 최근 OpenAI CEO 샘 알트먼이 GPT-5 출시 후 "진정한 AGI에 필수적"이라고 여기는 지속적인 학습 능력이 부족하다는 점을 시사한 평가와도 일맥상통합니다. 이러한 경고들은 AI 리더들 사이에서 환각, 허위 정보, 기본적인 오류를 일으키는 현재 시스템의 경향이 인간 수준의 추론 능력을 달성하기 전에 반드시 해결되어야 한다는 인식이 확산되고 있음을 보여줍니다. 이는 소셜 미디어 플랫폼들이 규모를 키우면서 초기에 예상치 못한 결과를 예측하지 못했던 실패를 떠올리게 하는 경고적인 이야기입니다.
편집자 노트¶
이번 구글 딥마인드 CEO의 발언은 AI 기술이 고도화될수록 더욱 섬세하고 근본적인 문제에 직면하고 있음을 시사합니다. 흔히 AI가 인간처럼 모든 것을 다 할 수 있는 AGI(범용 인공지능)를 향해 빠르게 나아가고 있다고 생각하기 쉽지만, 하사비스 CEO의 경고는 현재 AI가 가진 '들쭉날쭉한 지능'이라는 치명적인 약점을 명확히 보여줍니다. 이는 단순히 연산 능력이 부족해서가 아니라, 인간처럼 논리적으로 사고하고 일관성 있게 문제를 해결하는 능력이 아직 부족하다는 것을 의미합니다. 마치 뛰어난 운동선수가 특정 종목에서는 세계 최고지만, 다른 기본적인 신체 활동에서는 서툰 것과 같은 이치라고 볼 수 있습니다. 이러한 AI의 불완전성은 우리 생활에도 직접적인 영향을 미칠 수 있습니다. 예를 들어, AI 기반의 의료 진단 시스템이 특정 질병은 정확하게 진단하지만, 다른 흔한 질병에서는 잘못된 진단을 내리거나, 자율 주행 자동차가 복잡한 도로에서는 완벽하게 운전하지만 예상치 못한 돌발 상황에서는 오류를 일으킬 가능성을 배제할 수 없습니다. 따라서 AGI로의 발전은 단순히 기술적 성능 향상을 넘어, AI가 얼마나 믿을 수 있고 일관성 있게 작동하는지에 대한 검증과 안전 장치 마련이 무엇보다 중요하다는 점을 이번 뉴스는 강조하고 있습니다. 이는 AI 기술의 발전 속도만큼이나 질적인 성숙이 중요하다는 것을 다시 한번 상기시켜 줍니다.