AGI의 마음 이론: 인간 본성을 투영한 지능의 미래 설계¶
원제목: AGIimagined: how isAGIconfigured by the theories of mind
핵심 요약
- AGI의 구현은 인간의 '마음 이론'에 따라 근본적으로 다른 형태로 나타날 수 있음을 시사함.
- 계산주의 이론과 체화된 인지 이론은 AGI 개발에 영향을 미치는 상반된 관점을 제시함.
- 인간의 가치와 규범에 부합하는 AGI 개발을 위해 상반된 이론들의 통합적 접근이 필요함을 강조함.
상세 내용¶
인공지능(AI) 분야는 급격한 발전을 거듭하며 인류의 미래에 심오한 영향을 미칠 잠재력을 지니고 있습니다. 특히 여러 기업들이 인공 일반 지능(AGI) 달성을 위해 경쟁함에 따라, 이는 인류에게 긍정적인 미래를 설계하는 데 도움을 줄 수도 있지만, 동시에 상당한 윤리적, 실질적 위협을 제기합니다. 이러한 이중성은 인간의 기원이 AGI 개발에 영향을 미친다는 사실과 맞물려 딜레마를 야기합니다. 본 글에서는 AGI의 기원이 어떻게 근본적으로 다른 종류의 AGI 출현을 형성하는지, 그리고 각 AGI는 고유한 특성과 인간-AGI 상호작용에 미치는 영향이 어떻게 달라지는지를 탐구합니다. AI에서 AGI로의 전환은 종종 '마음 이론'이라 불리는 인간의 사고 및 행동 본질에 대한 관점에 깊이 영향을 받습니다. 이러한 관점은 AGI의 본질과 내용 모두에 상당한 영향을 미칩니다. 이러한 견해의 복잡성과 다양성을 고려할 때, 각 이론을 통해 결과되는 AGI의 특성에 대한 그 함의를 이해하는 것이 필수적입니다. 본 글에서는 인지 기능을 설명하는 지배적인 모델로 널리 간주되는 계산주의 이론과, 신체와 환경의 역할을 강조하며 계산주의 패러다임에 도전하는 체화된 인지 이론이라는, 인지 본질에 대한 상반된 관점을 나타내는 두 가지 주요 이론적 틀을 검토합니다. 우리의 분석은 이러한 이론들 간의 근본적인 차이점과 더 포괄적인 통합적 관점으로의 통합 필요성을 강조합니다. 이러한 이론들을 분석하고 그들이 생산할 가능성이 있는 AGI의 형태를 예측함으로써, 우리는 이러한 이론들이 근본적으로 다른 AGI 모델로 이어진다는 것을 보여주며, 잠재적으로는 인간 사고의 극히 다른 표현으로 이어질 수 있음을 입증합니다. 우리는 이러한 이론적 차이점들을 통합하여 가장 좋은 품질을 결합함으로써, 인간의 가치와 규범에 더 가깝게 부합하는, 보다 사회적으로 조율된 AGI 개발을 가능하게 할 것을 제안합니다.
최근 LLM과 같은 AI의 발전, 특히 생성형 AI의 등장은 AGI가 임박했다는 인상을 줄 수 있습니다. AI 산업 리더들의 발언 역시 이러한 긴급성에 대한 인식을 부추깁니다. AI가 AGI가 되기까지는 여전히 갈 길이 멀지만, AGI가 무엇을 구성하는지 이해하는 것은 매우 중요합니다. 본 글은 인간이 만든 AGI가 본질적으로 지능형 기계에 대한 인간의 본질을 투영한 것이라는 점을 보여주는 것을 목표로 합니다. 따라서 AGI의 잠재력을 탐구하는 것은 인간 본성에 대한 탐구가 되며, 여기서 인간 본질에 대한 다양한 해석은 다양한 AGI 개념으로 이어집니다. 본 글에서는 마음 이론과 AGI 개발에 미치는 영향에 대한 고찰을 통해 '인간이란 무엇인가'를 정의하는 몇 가지 주요 접근 방식을 제시합니다. 첫 번째 접근 방식은 계산주의 이론에 기반합니다. 현재의 인지 심리학은 계산 방법과 결합된 마음이라는 개념에 기초하고 있습니다. 정신 과정은 계산 과정이며, 뇌는 컴퓨터로 인식되고 인지가 그곳에 자리합니다. 반면에, 4E 인지 접근법(4E는 체화된/내재된/능동적인/확장된)은 계산주의 패러다임의 개념을 완전히 또는 부분적으로 거부하고, 인지 과정에서 개인의 신체의 중요성과 인간 인지를 이해하는 데 있어 신체 및 사회 문화적 환경의 인과적 역할을 강조합니다. 본 글에서는 체화된 인지 관점을 중심으로 논의를 전개할 것입니다.
편집자 노트¶
AI 기술, 특히 AGI(인공 일반 지능)에 대한 기대와 우려가 고조되는 가운데, 이 글은 AGI의 구현이 단순히 기술적 진보를 넘어 인간의 근본적인 사고방식, 즉 '마음 이론'에 깊이 연관되어 있음을 명확히 합니다. 이는 일반 독자들에게 AGI가 단순히 '더 똑똑한 컴퓨터'가 아니라, 인간의 정신적 모델을 반영하거나 거부하는 결과물이라는 점을 이해시키는 중요한 지점입니다. 계산주의 이론이 뇌를 컴퓨터에 비유하며 정보를 처리하는 방식에 집중한다면, 체화된 인지 이론은 신체의 경험, 감각, 그리고 외부 환경과의 상호작용이 인지에 얼마나 중요한지를 강조합니다. 이러한 두 가지 관점의 차이는 결국 우리가 만들 AGI의 '성격'과 '능력'을 결정짓는 핵심 요인이 될 것입니다. 예를 들어, 계산주의에 기반한 AGI는 복잡한 문제 해결에 뛰어나겠지만, 인간적인 맥락이나 공감을 이해하는 데는 한계가 있을 수 있습니다. 반면, 체화된 인지 이론을 따른 AGI는 인간과의 상호작용에서 더 자연스럽고 유연한 반응을 보일 가능성이 있습니다. 결국 AGI 개발은 인간 자신을 이해하는 과정이며, 어떤 AGI가 만들어질지는 우리가 어떤 방식으로 인간의 지능과 인지를 정의하고 해석하는지에 달려있다는 점을 시사합니다.
이러한 맥락에서 이 글의 기여는 매우 중요합니다. 단순히 AGI의 가능성만을 논하는 것이 아니라, AGI가 가질 수 있는 근본적인 차이점과 그 원인을 이론적 프레임워크에서 찾으려 한다는 점에서 심층적인 분석을 제공합니다. 미래 사회에서 AGI는 우리 삶의 거의 모든 영역에 관여할 것입니다. 의학, 교육, 교통, 심지어 예술 창작에 이르기까지 AGI의 영향력은 막대할 것입니다. 따라서 AGI가 어떤 '이론'에 기반하여 설계되고 학습되는지에 따라, 우리가 경험하게 될 미래는 크게 달라질 수 있습니다. 예를 들어, 사회적 약자를 돕는 AGI, 복잡한 환경 변화에 유연하게 대처하는 AGI, 혹은 인간의 창의성을 증강시키는 AGI 등 그 모습은 무궁무진할 것입니다. 본 글은 AGI 개발자들이 직면할 근본적인 선택지를 제시하며, 우리가 AGI의 미래를 논의할 때 어떤 질문을 던져야 하는지에 대한 중요한 통찰을 제공합니다. 상반된 이론들의 통합을 제안하는 마지막 부분은 AGI가 인간의 가치와 윤리에 부합하도록 만들기 위한 건설적인 방향을 제시하며, 이는 기술 발전의 방향성에 대한 중요한 논의를 촉발합니다.