OpenAI 공동 창업자 카파시, 'AI 거품' 지적: 'AGI까지 아직 멀었다'¶
원제목: Did an OpenAI cofounder just pop the AI bubble? 'The models are not there' | Fortune
핵심 요약
- AI 업계의 인공 일반 지능(AGI) 개발 속도에 대한 과대 광고가 만연해 있음을 지적함.
- 현재의 대규모 언어 모델(LLM)은 뛰어난 성능을 보이지만, AGI 구현에는 최소 10년 이상이 소요될 것이라는 전망을 내놓음.
- AI 에이전트 기술의 불안정성과 잠재적 위험을 경고하며, 신중한 접근과 더 나은 안전 관행의 필요성을 강조함.
상세 내용¶
인공지능 분야의 선구자이자 OpenAI의 공동 창업자인 안드레이 카파시가 인공 일반 지능(AGI)에 대한 업계의 과도한 기대감에 제동을 걸었습니다. 그는 최근 팟캐스트 인터뷰에서 AGI 개발 속도가 과장되었으며, 현재의 기술 수준으로는 AGI 구현까지 최소 10년 이상이 소요될 것이라고 진단했습니다. 카파시는 지난 3년간 대규모 언어 모델(LLM) 분야에서 빠른 발전이 있었지만, 이는 AGI의 본질적인 부분과는 거리가 멀다고 지적하며, 많은 기업들이 AI의 능력을 과장하여 홍보하는 경향이 있다고 비판했습니다. 그는 현재의 AI 모델들이 '엉망진창(slop)'이며, 이는 업계 전체에 부정적인 영향을 미칠 수 있다고 경고했습니다. 이러한 카파시의 발언은 AI 개발에 막대한 자본이 투자되고 경쟁이 치열한 가운데, 기술 커뮤니티에 큰 파장을 일으키고 있습니다. 많은 전문가들은 그의 인터뷰가 AI 거품을 가라앉힐 수 있을 것이라고 평가하며, AI 선구자인 리처드 서튼의 LLM을 '사장될 기술'로 본 발언과 맞물려 업계에 혼란을 가중시키고 있습니다. 카파시는 테슬라의 AI 책임자 및 OpenAI 초기 멤버로서의 경험을 바탕으로, 그의 AGI 타임라인이 일반적인 예측보다 5~10배는 보수적이라고 설명했습니다. 하지만 그는 10년이라는 시간이 AGI 달성에는 오히려 매우 낙관적인 시기라고 덧붙였습니다. 이는 샘 알트만 OpenAI CEO의 2030년 이전 인간 수준의 AI 달성 예측이나 일론 머스크의 더 빠른 시점 예측과는 대조적입니다. 카파시는 현재의 AI 성능 평가 방식이 문제라고 지적했습니다. 공개 시연, 벤치마크 경쟁, 챗봇 대화, 코드 생성 테스트 등은 특정 영역에 대한 최적화에 불과하며, 장기 계획, 구조적 추론, 안전한 시스템 설계와 같은 AI의 가장 어려운 난제들을 해결하지 못하고 있다고 설명했습니다. 특히 최근 업계에서 폭발적인 인기를 얻고 있는 'AI 에이전트'에 대한 비판의 목소리를 높였습니다. AI 에이전트는 LLM 기반의 자율적인 디지털 작업자로, 코드 작성 및 실행, 인터넷 검색, 소프트웨어 조작, 업무 수행 등을 최소한의 감독으로 처리할 수 있다고 홍보되고 있습니다. 카파시는 이 개념 자체는 유망하지만, 현재의 구현 수준은 신뢰성이 매우 떨어지며 불안정하고 예측 불가능한 결과를 초래한다고 지적했습니다. 그는 AI 에이전트가 충분한 추론 능력을 갖추지 못했고, 소프트웨어 환경에 대한 인식이 제한적이며, 도구를 올바르게 사용하는 데 어려움을 겪는다고 강조했습니다. 이러한 문제점이 제대로 해결되지 않으면 소프트웨어 전반에 걸쳐 '엉망진창'이 쌓이고, 취약점 및 보안 침해가 증가할 수 있다는 점을 경고했습니다. 그럼에도 불구하고 카파시는 AI 기술이 장기적으로는 해결 가능한 길에 있다고 믿습니다. 그는 앞으로 마주할 기술적 도전들이 어렵지만, 시간, 연구, 그리고 더 나은 안전 관행을 통해 극복할 수 있다고 확신하며, 현재의 문제들이 '극복 가능하다'고 마무리했습니다.
편집자 노트¶
이번 안드레이 카파시의 발언은 AI, 특히 AGI(인공 일반 지능) 분야에 대한 현재의 과열된 기대감과 실제 기술 발전 속도 간의 괴리를 명확히 보여준다는 점에서 매우 중요합니다. 많은 기술 기업과 투자자들이 AGI라는 거대한 목표를 앞세워 경쟁하고 있지만, 정작 이 분야의 핵심적인 개척자 중 한 명인 카파시가 '모델은 아직 거기에 도달하지 못했다'고 직접적으로 언급하며 현실적인 진단을 내린 것은 큰 의미를 가집니다. 일반 대중의 입장에서는 AI 기술이 마치 마법처럼 우리 삶을 즉각적으로 바꿀 것처럼 느껴질 수 있습니다. 하지만 이번 인터뷰는 AI가 아직 해결해야 할 근본적인 문제들이 많으며, 특히 인간 수준의 지능을 넘어서는 AGI의 등장은 단기간에 이루어지지 않을 것이라는 점을 시사합니다. 이는 AI 관련 투자나 기술 활용 계획을 세우는 기업들에게도 중요한 시사점을 제공하며, 맹목적인 기대보다는 현실적인 기술 로드맵을 구축하는 데 도움을 줄 수 있습니다. 더 나아가, 카파시가 AI 에이전트의 현재 상태를 'slop(엉망진창)'이라고 표현한 것은, 실질적인 효용성보다는 과장된 홍보에 집중하는 업계의 관행에 대한 비판으로 해석될 수 있습니다. 이는 AI 기술이 우리 사회에 통합되는 과정에서 발생할 수 있는 여러 부작용, 예를 들어 오류 발생 증가, 보안 취약점 노출 등을 예방하기 위한 신중한 접근의 필요성을 강조하는 것으로 볼 수 있습니다. 결국 이번 인터뷰는 AI 거품론을 확산시키기보다는, AI 발전의 본질적인 어려움과 앞으로 나아가야 할 방향에 대한 깊이 있는 성찰을 제공한다는 점에서 가치가 있습니다.