AI 전문가 안드레이 카르파티: 범용 인공지능(AGI)은 아직 10년 남았다¶
원제목: Andrej Karpathy – AGI is still a decade away - Hacker News
핵심 요약
- 현재 AI 발전은 인간의 뇌 활동을 모방하지만, 현실 인식과는 거리가 있다는 주장임.
- AI의 능력 향상이 지수적으로 보여도, 다음 단계의 어려움 또한 지수적이어서 실질적인 발전은 선형적이라는 분석함.
- AGI 달성을 위해선 단순히 규모 확장만으로는 부족하며, 다른 방식의 연구와 투자가 필요하다는 의견임.
상세 내용¶
AI 분야의 저명한 전문가인 안드레이 카르파티는 현재 인공지능(AI)의 발전 속도와 방향에 대해 심층적인 분석을 내놓았습니다. 그는 우리가 현재 AI 연구에서 신경 활동을 특정 추상화된 데이터를 기반으로 모방하는 방식에 집중하고 있지만, 이는 인간이 현실을 인지하는 방식과는 상당한 차이가 있다고 지적합니다. 이러한 접근 방식은 AI의 능력을 특정 벤치마크에서 지수적으로 향상시키는 것처럼 보일 수 있으나, 다음 단계로 나아가기 위한 어려움 역시 지수적으로 증가하기 때문에 전반적인 발전은 실질적으로 선형적인 개선에 가깝다고 보았습니다.
카르파티는 언어 이해를 위해선 세상에 대한 모델이 필요하다는 기존의 관점에 대해 질문을 던지며, 현재 최첨단 대규모 언어 모델(LLM)이 기본적인 반사실적 시나리오의 결과를 꽤 잘 예측하지만 이것이 진정한 '이해'를 의미하는지는 회의적인 입장을 보였습니다. 그는 인간의 뇌가 생존을 위해 세상에 대한 정보를 압축하도록 진화했으며, LLM 역시 '텍스트 세계'와 '픽셀 세계'의 정보를 성공적으로 압축하여 훈련 데이터에서 좋은 손실(loss) 지표를 얻고 있다고 설명합니다. 그러나 그는 정보 압축이 어떤 형태로든 최소한의 내부 모델 없이는 어렵다고 강조하며, 그것이 소위 '월드 모델'의 정의에 부합하는지는 언어적인 문제일 수 있다고 덧붙였습니다.
그는 더 나아가 이해란 '세상에 대한 모델'을 필요로 한다고 주장합니다. 이해를 위해서는 세부 사항을 명확히 설명할 수 있어야 하며, 이는 물리학이나 수학과 같이 정교한 학문에서 볼 수 있듯이 단순한 실험 결과 이상으로 방정식과 반사실적 사고를 포함하는 과정이라고 설명했습니다. 이러한 과정을 '압축'으로 볼 수도 있지만, 그 힘은 일반화뿐만 아니라 세부적인 뉘앙스에 있다는 것입니다. AI 분야에서 오랫동안 규모 확장만으로는 AGI에 도달하기 어렵다는 경고가 있었지만, 'AGI는 해결되었고 규모만 키우면 된다'는 단순한 주장으로 인해 이러한 목소리가 묻혔다고 아쉬움을 표했습니다.
카르파티는 이러한 잘못된 낙관론이 AI 발전을 저해했다고 보고 있습니다. 그는 연구 자금이 더 나은 방향으로 투입되었더라면 지금과는 다른 양상이 펼쳐졌을 것이라고 말하며, 자신의 연구가 중단되지 않았더라면 현재 AI의 한계를 더 일찍 극복할 수 있었을지도 모른다고 언급했습니다. 그는 수학적으로도 규모 확장만으로는 한계가 있다는 것을 보여주었지만, 가시적인 발전 앞에서 이러한 수학적 경고가 무시되었다고 지적했습니다. 성공적인 예측 자체가 중요한 것이 아니라, 돈을 많이 벌었는지 여부로 성공을 평가하는 현재의 기형적인 성공 척도를 비판하며, 이러한 평가 방식이 AGI 개발의 올바른 방향 설정을 방해하고 있다고 주장했습니다.
결론적으로, 카르파티는 AGI가 아직 10년 이상 남았다는 자신의 이전 발언을 재확인하며, 단순히 현재의 기술을 규모만 확장하는 방식으로는 AGI에 도달할 수 없다고 강조했습니다. 그는 '기계가 인간만큼 작업을 잘 수행하면 인간과 똑같이 이해한다'는 관점은 문제 자체를 사라지게 만드는 방식일 뿐, 진정한 이해를 위한 근본적인 해법이 아니라고 말했습니다. 그의 수십 년간의 AI 연구 경험에 기반한 전문적인 의견은 현재 AI 연구의 방향성에 대한 중요한 질문을 던지고 있습니다.
편집자 노트¶
이번 기사는 AI 분야의 전문가인 안드레이 카르파티의 AGI(범용 인공지능)에 대한 통찰을 담고 있어 주목할 만합니다. 많은 사람들이 AI 기술의 급속한 발전에 힘입어 AGI가 곧 실현될 것처럼 기대하고 있지만, 카르파티는 이러한 기대에 제동을 걸고 현실적인 관점을 제시합니다. 특히 '성공적인 예측이 전부가 아니다'라는 그의 발언은 매우 중요합니다. 현재 AI는 특정 과제에서 뛰어난 성능을 보여주지만, 이것이 진정한 의미의 '이해'나 '지능'으로 이어지는지는 별개의 문제입니다. 그는 인간의 뇌가 세상을 이해하고 상호작용하는 방식과 현재 AI가 데이터를 처리하는 방식 사이의 근본적인 차이를 강조하며, 단순히 연산 능력을 확장하는 것만으로는 AGI에 도달하기 어렵다는 점을 분명히 하고 있습니다.
카르파티의 분석은 일반 대중에게도 중요한 시사점을 제공합니다. AI가 우리 삶에 점점 더 깊숙이 들어오면서, AI의 능력과 한계를 정확히 이해하는 것이 중요해지고 있기 때문입니다. 'AGI가 곧 온다'는 과장된 기대보다는, AI가 현재 어느 수준에 와 있고 앞으로 어떤 과제들을 극복해야 하는지에 대한 현실적인 정보를 아는 것이 중요합니다. 그의 지적처럼, AI 연구의 방향성이 단순히 '더 많은 데이터'와 '더 큰 모델'에만 집중된다면, 우리는 AGI라는 궁극적인 목표에 도달하는 데 예상보다 훨씬 오랜 시간이 걸리거나, 혹은 잘못된 방향으로 나아가고 있을지도 모릅니다. 따라서 이 기사는 AI 기술의 발전 과정을 비판적으로 성찰하고, 미래 AI 연구가 나아가야 할 방향에 대한 중요한 질문을 던지고 있다고 평가할 수 있습니다.