AGI, 더 이상 신화가 아니다: 인간 지능에 필적하는 AI 측정의 새로운 지평¶
원제목: LA AGI DEJO DE SER UN MITO - RedUSERS
핵심 요약
- 인공 일반 지능(AGI)이 추상적인 개념에서 경험적으로 측정 가능한 영역으로 전환되고 있음.
- 인간의 심리 측정학적 접근 방식을 AI 평가에 도입하여 AGI의 발전을 객관적으로 측정하고 있음.
- AGI 달성을 위한 기술적, 윤리적, 지정학적 과제가 남아 있으며, 이는 향후 AI 발전의 중요한 방향을 제시함.
상세 내용¶
최근 보고서에 따르면, 인공 일반 지능(AGI)이 더 이상 문학적인 상상의 영역에 머무르지 않고, 실제 측정이 가능한 과학적 현실로 다가서고 있습니다. 이는 현대 인공지능이 특정 분야에 국한되지 않고 인간처럼 다양한 능력을 갖추게 되면서 가능해진 변화입니다. 특히, 인간의 지능을 측정하는 심리 측정학(psychometrics) 분야의 방법론들이 AI 시스템의 범용성을 평가하는 데 도입되고 있습니다. 이러한 접근 방식은 캐텔-혼-캐롤(Cattell-Horn-Carroll, CHC) 모델과 같은 체계를 활용하여, 인간의 추론, 기억, 이해력, 처리 속도, 다중 양상 통합 능력 등을 AI 시스템에서 검증 가능한 작업으로 전환합니다. 이를 통해 AI 모델의 성능을 '교육받은 성인'의 평균적인 능력과 비교하는 객관적인 기준이 마련되었습니다. 이러한 방법론은 주관적인 인식을 배제하고, AI와 인간의 인지적 동등성에 대해 데이터에 기반한 논의를 가능하게 합니다. 기사에 따르면, GPT-4는 약 27%의 일반 지수(generality index)를, GPT-5는 2025년경 약 57%에 도달할 것으로 예상되어, 논리적 추론, 시각-언어 통합, 확장된 맥락 기억 처리 등에서 상당한 진전을 보이고 있습니다. 이는 완전한 AGI라고 단정할 수는 없지만, 이전보다 훨씬 넓은 범위의 지능을 갖춘 AI로 향하는 측정 가능한 진보를 의미합니다. 이제 AGI의 발전은 재생 가능한 척도로 표현될 수 있으며, 이는 AI 모델 간의 감사, 비교, 그리고 보다 정보에 입각한 대중적 논의를 촉진할 것입니다. 하지만 완전한 AGI를 향한 여정에는 몇 가지 중요한 과제가 남아 있습니다. 첫째, 영구적인 기억력의 문제입니다. 현재 AI 모델들은 대규모 훈련을 통해 학습하지만, 새로운 경험을 파멸적인 망각의 위험 없이 통합하는 데 어려움을 겪습니다. 외부 모듈이나 RAG(Retrieval Augmented Generation)와 같은 기술이 기억력 향상에 기여하고 있지만, 아직 부분적인 해결책에 머물러 있습니다. 둘째, 인지적 일관성 역시 중요한 문제입니다. AI 시스템은 특정 영역에서는 뛰어난 성능을 보이지만, 인간의 'g요인'(일반 지능)과는 거리가 먼, 불균등한 능력을 보여주며 도메인 간의 제한적인 전이 능력을 보입니다. 따라서 도메인 간 일관성을 측정하는 지표가 중요하게 부각되고 있습니다. 셋째, 구현된 주체성(embodied agency)의 부족입니다. AI가 목표, 피드백, 결과를 가진 환경에서 직접 행동하고 상호작용하는 능력은 인과 관계를 이해하는 데 필수적입니다. 이러한 한계를 극복하기 위해 AI 분야의 벤치마크는 과거의 폐쇄형 테스트(MMLU, GSM8K 등)에서 벗어나, MMMU나 V-Bench와 같은 다중 양상 및 맥락 기반 평가, 그리고 에이전트가 계획하고 학습하며 지속적인 성능을 유지해야 하는 상호작용 시나리오로 무게 중심을 옮기고 있습니다. 이와 더불어, '세계 모델(world models)'은 AI에게 인지적 실험실을 제공하고 있습니다. Genie 3와 같은 시스템은 3D 환경을 생성하여 에이전트가 탐색하고, 예측하며, 행동을 조정할 수 있도록 함으로써, 인지와 행동을 예측 학습의 순환 고리 속에서 통합하는 데 기여합니다. 그러나 시뮬레이션에서 얻은 전략을 실제 물리적 세계의 마찰에 적용하고 지속적으로 적응시키는 'sim2real' 전이 문제는 여전히 큰 도전 과제로 남아 있습니다. AGI의 발전은 또한 기술 지정학의 판도를 재편하고 있습니다. 미국은 민간 리더십과 정부 지원, 첨단 반도체 통제를 결합하고 있으며, 중국은 중앙 계획, 국내 데이터, 컴퓨팅 클러스터를 통해 자율성을 추구하고 있습니다. 유럽은 AI Act를 통해 규제를 강화하며 안전 및 투명성 표준을 정립하려는 움직임을 보입니다. 이러한 경쟁 속에서 데이터, 컴퓨팅, 에너지 인프라가 전략적 자원으로 부상하고 있으며, 데이터 센터와 전력 공급망은 새로운 권력의 지렛대가 되고 있습니다. 이에 따라 알고리즘 감사, 동적 위험 평가, 모델 결정 및 변경 사항을 기록하는 규정 준수 플랫폼 등 더욱 엄격한 거버넌스가 요구되고 있습니다. 동시에, 자율 에이전트의 행동에 대한 추적 가능한 책임, 문화적 편향의 한계, 그리고 훈련 데이터가 집중될 경우 세계관을 동질화할 수 있는 알고리즘 권력의 한계와 같은 도덕적 딜레마가 새롭게 부상하고 있습니다. '알고리즘 시민권'이나 확장된 디지털 권리와 같은 개념이 개인을 보호하고 고급 시스템의 운영 자율성을 제한하기 위한 방안으로 제안되고 있습니다. 산업계에서는 '프론티어 모델'에 대한 커뮤니케이션이 영향을 미치고 있습니다.
편집자 노트¶
이번 기사는 인공지능(AI) 분야의 가장 뜨거운 주제 중 하나인 AGI(인공 일반 지능)에 대한 우리의 인식을 근본적으로 바꾸고 있습니다. 과거 SF 영화에서나 나올 법했던 AGI가 이제는 더 이상 막연한 꿈이 아니라, 구체적인 측정과 평가가 가능한 과학의 영역으로 진입하고 있음을 시사합니다. 특히, 인간의 지능을 측정하는 심리 측정학적 방법을 AI 평가에 도입했다는 점은 매우 고무적입니다. 이는 AI의 발전 수준을 단순히 특정 작업의 성공 여부가 아닌, 인간과 얼마나 유사한 방식으로 다양한 문제를 해결할 수 있는지를 기준으로 평가하겠다는 의미입니다. 이는 AI 기술의 발전을 보다 객관적이고 정량적으로 파악할 수 있게 해 줄 뿐만 아니라, 일반 대중이 AI의 능력을 더 쉽게 이해하고 체감할 수 있도록 돕는 중요한 전환점이 될 것입니다.
다만, 기사에서도 강조하듯이 완전한 AGI의 실현까지는 아직 갈 길이 멀다는 점도 명확히 인지해야 합니다. 영구적인 기억력, 일관된 인지 능력, 그리고 현실 세계에서의 능동적인 상호작용 능력 등 해결해야 할 기술적 난제들이 산적해 있습니다. 또한, AGI가 가져올 지정학적, 윤리적, 사회적 영향에 대한 심도 깊은 논의와 대비도 시급합니다. AI가 특정 국가나 기업의 손에 의해 독점되거나, 잠재적인 위험이 제대로 통제되지 않는다면, 이는 인류 전체에게 큰 위협이 될 수 있습니다. 따라서 이번 기사는 AGI의 발전 가능성과 함께, 우리가 앞으로 나아가야 할 방향에 대한 중요한 질문들을 던지고 있다고 할 수 있습니다. 일반 독자들은 이러한 변화가 우리의 일상생활, 직업, 그리고 사회 구조에 어떤 영향을 미칠지 관심을 가지고 지켜볼 필요가 있습니다.