AGI, 과연 AI의 올바른 최종 목표일까? - 게리 마커스의 통찰¶
원제목: Is AGI the right goal for AI? - by Gary Marcus - Substack
핵심 요약
- 최근 AI 기술 발전은 환각 및 오류에 취약한 LLM에 집중되어 있어, 실질적인 투자 대비 수익을 창출하는 데 어려움을 겪고 있음.
- 기술 업계는 범용 AI보다는 특정 문제 해결에 최적화된 좁고 전문화된 AI 도구 개발에 자원을 집중해야 함.
- AGI의 정의는 경제적 지표가 아닌, 인간 성인 수준의 인지적 다재다능함과 숙련도를 기준으로 삼아야 함.
상세 내용¶
AI 분야의 저명한 비평가인 게리 마커스는 그의 최신 글에서 인공 일반 지능(AGI)이 AI 연구의 궁극적인 목표인지에 대해 의문을 제기합니다. 그는 특히 현재 AI 기술 발전의 주류를 이루고 있는 대규모 언어 모델(LLM)이 AGI로 가는 올바른 길이 아니라고 주장하며, 기술적으로나 윤리적으로 여러 문제점을 안고 있다고 지적합니다. LLM은 본질적으로 환각과 오류에 취약한 특성을 가지고 있으며, 이로 인해 많은 기업이 AI 파일럿 연구에서 기대만큼의 투자 수익을 얻지 못하고 있다고 그는 언급합니다. MIT의 NANDA Initiative 연구 결과에 따르면, AI 파일럿 연구를 진행한 기업의 95%가 적거나 전혀 투자 수익을 거두지 못했으며, AI 기업들은 2030년까지 약 8,000억 달러의 수익 부족을 겪을 것으로 예상됩니다.
마커스는 이러한 상황에서 기술 업계가 '만능'으로 여겨지는 범용 AI 도구에 과도하게 집중하는 대신, 특정 문제 해결에 탁월한 성능을 발휘하는 좁고 전문화된 AI 도구 개발에 더욱 주력해야 한다고 강조합니다. 그는 현재 빅테크 기업들이 마치 벽에 스파게티를 던지듯 범용 AI 기술을 무분별하게 시도하고 있다고 비판하며, AI 선구자인 요슈아 벤지오의 의견을 인용하여 인간의 이익과 반드시 일치하지 않는 자율성이 높은 범용 AI 시스템 개발보다는 과학, 의학, 기술, 교육 등 특정 분야에 필요한 전문화된 도구 개발에 더 많은 자원을 투자하는 것이 인류에게 더 유익할 것이라고 주장합니다.
또한, 마커스는 AGI의 정의에 대해서도 논의합니다. 그는 인공지능 안전 연구자인 댄 헨드릭스와 수많은 저명한 연구자들이 공동으로 작성한 논문에서 제시된 AGI 정의에 대해 언급합니다. 이 논문은 AGI를 '잘 교육받은 성인의 인지적 다재다능함과 숙련도를 능가하거나 동등한 AI'로 정의하는데, 이는 마커스가 과거에 제안했던 '인간 지능에 필적하거나 그 이상의 자원 활용 능력과 신뢰성을 갖춘 유연하고 일반적인 지능'이라는 정의와 매우 유사합니다. 그는 AGI의 정의를 경제적 이익이나 일자리 대체율과 같은 경제적 기준으로 삼는 접근 방식에 반대하며, 이는 본질적인 인지적 문제에서 벗어나게 한다고 지적합니다.
새로운 논문은 인지 능력을 다양한 하위 영역으로 세분화하려는 시도를 하고 있으며, 이는 인지 능력이 단일한 것이 아니라 여러 복합적인 요소로 이루어져 있다는 점을 명확히 합니다. 이러한 세분화는 현재의 AI 기술이 인간 인지 능력의 극히 일부만을 포착하고 있다는 점을 시사합니다. 마커스는 이러한 인지 능력의 세분화가 AGI를 이해하고 정의하는 데 있어 중요한 진전이라고 평가하며, 향후 이에 대한 활발한 논의가 이어질 것으로 기대합니다.
결론적으로, 마커스는 AGI라는 장기적인 목표 자체는 중요하지만, 현재 우리가 나아가는 방식, 특히 LLM에 대한 지나친 의존이 그 목표 달성에 최선의 길인지에 대한 성찰이 필요하다고 역설합니다. 그는 AI 기술이 인류에게 실질적인 혜택을 가져다주기 위해서는 보다 현실적이고 집중적인 접근 방식이 요구된다고 강조하며 글을 마무리합니다.
편집자 노트¶
게리 마커스의 이번 글은 현재 AI 업계가 AGI라는 거대한 목표를 향해 나아가면서 겪고 있는 기술적, 전략적 딜레마를 명확하게 짚어줍니다. 특히 LLM의 환각 현상과 투자 대비 낮은 수익률을 구체적인 수치를 들어 지적하며, '되는대로 밀어붙이기'식의 범용 AI 개발 방식에 대한 경고 메시지를 전달하는 점이 주목할 만합니다. 많은 일반 대중들은 AI 하면 마치 영화 속 슈퍼 AI처럼 모든 것을 할 수 있는 능력을 기대하지만, 현실은 그렇지 않다는 것을 이번 기사를 통해 알 수 있습니다. 결국, AI가 우리 삶에 실질적인 도움을 주기 위해서는 영화 같은 꿈보다는 특정 분야에서 묵묵히 제 역할을 다하는 '똑똑한 도구'로서의 AI 개발이 중요하다는 점을 쉽게 이해할 수 있습니다.
마커스는 AGI의 정의에 있어서도 경제적 성과보다는 인간의 인지 능력과 비교하는 것이 더 근본적인 접근 방식임을 역설합니다. 이는 AI의 발전 방향이 단순히 기술적 성취를 넘어 인간의 지능과 어떻게 상호작용하고, 궁극적으로 인간의 삶을 어떻게 풍요롭게 만들 것인가에 대한 철학적 질문으로 확장될 수 있음을 보여줍니다. 앞으로 AI 기술이 더욱 발전함에 따라, 이러한 '목표 설정'과 '정의'에 대한 논의는 더욱 중요해질 것이며, 우리 사회가 AI와 함께 나아가야 할 방향을 설정하는 데 중요한 기준점이 될 것입니다. 따라서 이번 분석은 AI 기술의 현재 상황과 미래 전망을 이해하는 데 있어 매우 시의적절하고 가치 있는 정보를 제공한다고 판단됩니다.