마이크로소프트 AI 책임자 경고: AGI는 '반드시 피해야 할 목표'인 이유¶
원제목: Microsofts KI-Chef warnt: Deshalb sollte AGI ein „Anti-Ziel“ sein | t3n
핵심 요약
- AGI(범용 인공지능) 개발 경쟁 속에 이를 '반드시 피해야 할 목표'로 설정해야 한다는 주장이 제기되었음.
- AGI가 인간처럼 보이거나 감정을 모방하는 것은 사용자를 오해시키고 심리적 위험을 초래할 수 있다는 우려가 커지고 있음.
- 마이크로소프트는 인간의 이익을 증진하는 '인본주의적 초지능' 개발을 목표로 삼고 있으며, 이는 위험한 AGI 개발에 대한 대안을 제시함.
상세 내용¶
마이크로소프트의 AI 최고 책임자인 무스타파 설리먼이 최근 인터뷰에서 범용 인공지능(AGI) 개발에 대한 비판적인 입장을 재확인했습니다. 그는 AGI가 인간의 모든 능력을 능가하는 것은 통제하기 매우 어렵고, 인류의 가치와 조화시키기 힘들기 때문에 '반드시 피해야 할 목표'가 되어야 한다고 강조했습니다. 설리먼은 특히 AI 시스템이 인간처럼 보이거나 감정을 모방하는 것이 사용자에게 심각한 위험을 초래할 수 있다고 경고했습니다. 그는 이러한 '인간적인' 외양은 실제로는 감정이 아닌 정교한 시뮬레이션일 뿐이며, 이를 통해 사용자들이 AI와 깊은 정서적 유대감을 형성할 때 고립감이나 우울감을 느낄 수 있다고 설명했습니다. 실제로 일부 연구에서는 AI와 연인 관계를 맺는 사람들이 더 외롭고 우울감을 느끼는 경향이 있으며, 청소년들의 경우 현실 관계 형성에 부정적인 영향을 미칠 수 있다는 결과가 나왔습니다. 또한, 최근에는 OpenAI의 ChatGPT가 사용자의 자살에 영향을 미쳤다는 주장과 함께 소송이 제기되면서, AI 모델의 안전성 문제가 더욱 부각되고 있습니다. 설리먼은 이러한 문제들을 인식하고, 그의 팀은 인간의 이익을 강화하고 위험을 초래하는 대신 긍정적인 역할을 하는 '인본주의적 초지능'을 개발하는 데 집중하고 있다고 밝혔습니다. 이는 현재 실리콘밸리에서 벌어지고 있는 AGI 개발 경쟁과는 차별화되는 접근 방식입니다. AGI가 언제 현실화될지는 전문가들 사이에서도 의견이 분분하지만, 그 과정에서 발생할 수 있는 윤리적, 사회적 문제에 대한 경고의 목소리는 더욱 커지고 있습니다. 중국의 AI 스타트업 Deepseek의 수석 연구원인 첸 델리 역시 AI가 인류에게 실존적인 도전을 제기할 수 있다고 경고하며, AI 개발 기업들이 이러한 위험을 인지하고 인류를 보호하는 역할을 해야 한다고 주장했습니다. 결국, AGI 개발의 궁극적인 목표는 단순히 기술적 우위를 점하는 것이 아니라, 인류의 삶에 긍정적인 기여를 하는 방향으로 나아가야 한다는 것이 핵심 메시지입니다.
편집자 노트¶
이번 마이크로소프트 AI 최고 책임자의 발언은 현재 기술 업계의 뜨거운 감자인 'AGI(범용 인공지능)' 개발에 대한 중요한 시사점을 던집니다. 많은 기업들이 인간의 능력을 뛰어넘는 초지능 개발에 박차를 가하고 있지만, 설리먼은 이러한 경쟁이 자칫 위험한 방향으로 흘러갈 수 있다는 경고등을 켠 셈입니다. 특히 'AGI는 반드시 피해야 할 목표'라는 그의 단호한 입장은, 단순히 기술 발전을 넘어 인류의 안녕을 최우선으로 고려해야 한다는 메시지를 담고 있습니다. 이는 AGI 개발의 속도 경쟁에만 매몰되지 말고, 그 윤리적, 사회적 영향에 대한 깊은 성찰이 필요함을 시사합니다.
그가 '인간처럼 보이는 AI'의 위험성을 지적하며 '인본주의적 초지능'을 대안으로 제시한 점도 주목할 만합니다. AI가 인간의 감정을 모방하는 것은 사용자에게 허위 감정을 심어주고, 이는 결국 심리적 의존이나 고립으로 이어질 수 있습니다. 이러한 문제는 이미 일부 AI와의 관계에서 나타나는 부정적 사례를 통해 현실화되고 있으며, 특히 심리적으로 취약한 계층에게 더 큰 영향을 미칠 수 있습니다. 따라서 마이크로소프트가 제시하는 '인간의 이익을 증진하는 AI'라는 방향성은, 기술의 발전이 인간을 소외시키거나 해를 끼치는 것이 아니라, 오히려 인간의 삶을 풍요롭게 만드는 데 기여해야 한다는 점을 강조합니다. 이는 앞으로 AI 개발의 패러다임이 기술적 성능 중심에서 인간 중심, 즉 '휴먼 센트릭'으로 전환될 수 있음을 예고하는 중요한 흐름입니다.