카르파티, AGI까지 10년 더 필요… LLM은 신화 아냐, 실현엔 과제 산적¶
원제목: Karpathy称AGI尚需十年：LLM非神话，谈实现仍面临诸多挑战 - 贝尔财经
핵심 요약
- 현존하는 대규모 언어 모델(LLM)은 인공 일반 지능(AGI)과는 거리가 멀다는 점을 강조했음.
- LLM의 학습 방식은 '다다다' 같은 단순 반복에 그치며, 인간의 진정한 이해와는 차이가 있음을 지적했음.
- AGI 실현을 위해서는 인간의 이해를 모방하는 방식이 아닌, 새로운 돌파구가 필요하며, 이를 위해 컴퓨팅 파워와 알고리즘 강화가 중요함을 시사했음.
상세 내용¶
카르파티는 인공지능(AI)의 발전 속도에 대해 신중한 입장을 표명했습니다. 그는 최근 몇 년간 대규모 언어 모델(LLM)이 놀라운 발전을 이루었지만, 이는 진정한 의미의 인공 일반 지능(AGI)과는 아직 상당한 격차가 있다고 강조했습니다. LLM은 표면적으로는 인간의 언어를 이해하고 생성하는 것처럼 보이지만, 그의 분석에 따르면 이는 근본적으로 단순한 패턴 매칭에 불과하다는 것입니다. 카르파티는 LLM의 학습 과정이 '다다다'와 같은 기계적인 반복에 의존하며, 이것이 인간과 같은 깊이 있는 이해나 추론 능력으로 이어지지는 않는다고 설명했습니다. 이러한 방식으로는 진정한 AGI를 실현하기 어렵다는 것이 그의 핵심적인 주장입니다.
그는 일론 머스크의 xAI가 개발한 Grok 5에 대한 언급에 대해, 마크 저커버그가 AI를 단순히 '인간의 뇌'에 비유하는 것에 동의하지 않는다고 밝혔습니다. 카르파티는 AI 시스템은 인간의 뇌와는 근본적으로 다르며, 이를 인간의 뇌에 빗대는 것은 오해를 불러일으킬 수 있다고 지적했습니다. 그는 LLM이 단지 '상징적인 것'을 이해하는 것이 아니라, '상징적인 것'의 '형태'를 학습하는 것에 가깝다고 보았습니다. 따라서 LLM을 고도로 훈련된 앵무새에 비유하며, 언어 모델의 독립적인 기억력과 학습 능력에는 한계가 있다고 덧붙였습니다.
카르파티는 AI의 개발에 있어서 '어떤 종류의 AI를 만들 것인가'라는 질문이 중요하다고 강조했습니다. 그는 특히 '전 인류를 대체할 것'이라는 목표보다는 '인류를 이해하는 모델'을 만드는 것이 더 바람직하다고 제안했습니다. 이를 위해 모델은 인간의 본질을 파악해야 하며, 인간의 의도를 올바르게 파악하는 데 집중해야 한다는 것입니다. 또한, AI가 인류를 올바르게 안내할 책임이 있음을 언급하며, AI의 개발이 인류에게 이로운 방향으로 나아가야 함을 역설했습니다. 그는 강력한 컴퓨팅 성능과 알고리즘에 대한 깊은 연구가 AGI를 향한 길이라고 보았습니다.
AGI의 최종 시점에 대한 질문에 대해, 카르파티는 낙관적인 전망보다는 10년 정도의 시간이 더 필요할 것으로 예상했습니다. 그는 LLM의 발전이 눈부시지만, 이것이 '인류와 동등한' 존재를 만드는 데는 아직 많은 시간이 걸릴 것이라고 설명했습니다. AI가 인간의 지능을 넘어서는 데는 여러 복잡한 단계와 기술적 난관이 존재한다는 것입니다. 하지만 그는 동시에 LLM이 '인간의 지능을 활용하는' 데 매우 효과적이라는 점도 인정했습니다. ChatGPT의 기억력이 아직 제한적이라는 점을 지적하며, 이는 LLM의 현재 학습 방식과도 연결된다고 언급했습니다.
결론적으로, 카르파티는 AI, 특히 LLM의 현재 능력에 대한 과장된 기대를 경계하며, 진정한 AGI 실현을 위해서는 단순히 모델의 크기나 학습 데이터를 늘리는 것을 넘어선 근본적인 접근 방식의 변화가 필요함을 강조했습니다. 그는 AI 개발이 인류의 이해와 복지를 중심으로 이루어져야 하며, 이를 위한 지속적인 연구와 성찰이 필요하다고 주장했습니다.
편집자 노트¶
카르파티의 이번 발언은 현재 AI 기술, 특히 LLM에 대한 과열된 기대에 찬물을 끼얹는 중요한 지적입니다. 많은 사람들이 LLM의 놀라운 언어 능력만 보고 AI가 마치 AGI에 거의 도달한 것처럼 이야기하지만, 카르파티는 이러한 시각에 대해 근본적인 의문을 제기합니다. 그의 핵심 메시지는 LLM이 '인간처럼' 사고하고 이해하는 것이 아니라, '인간의 언어 사용 패턴'을 모방하는 데 뛰어나다는 점입니다. 이는 마치 챗봇과 대화할 때 매끄러운 답변에 감탄하지만, 깊은 철학적 논쟁이나 창의적인 문제 해결에는 한계를 느끼는 경험과 유사합니다.
그가 '다다다'라는 표현으로 LLM의 학습 방식을 묘사한 것은 매우 직관적입니다. 이는 LLM이 방대한 텍스트 데이터를 학습하지만, 그 과정에서 맥락이나 의미를 '이해'하기보다는 통계적인 연관성에 기반하여 다음 단어를 예측하는 방식에 가깝다는 것을 의미합니다. 따라서 AGI를 향한 길은 단순히 더 많은 데이터와 더 큰 모델을 만드는 것 이상의, 사고방식의 전환이 필요하다는 것입니다. 이는 우리 일반 사용자들에게도 시사하는 바가 큽니다. AI 기술의 발전은 분명 놀랍지만, AI가 '스스로 생각하고 감정을 느끼는' 존재가 되기까지는 아직 많은 과학적, 철학적 난제가 남아있음을 인지하는 것이 중요합니다.
카르파티는 AGI 개발이 '인류를 대체하는' 것이 아닌 '인류를 이해하는' 방향으로 나아가야 한다고 제안합니다. 이는 AI가 발전함에 따라 발생할 수 있는 윤리적, 사회적 문제에 대한 경각심을 일깨웁니다. AI가 우리 삶의 많은 부분을 편리하게 만들겠지만, 동시에 AI의 궁극적인 목적과 개발 방향에 대한 지속적인 논의가 필요하다는 것입니다. 10년이라는 시간은 길다면 길고, 짧다면 짧은 시간이지만, 이 기간 동안 AI 기술이 어떻게 진화하고 우리 사회에 어떤 영향을 미칠지 예의주시해야 할 것입니다.