마이크로소프트 AI 최고 책임자, '초지능' 위험성 경고: '반(反)목표'로 삼아야¶
원제목: Microsoft AI Chief warns Superintelligence may become too powerful, calls it an 'anti-goal'
핵심 요약
- 마이크로소프트 AI 책임자가 초지능 개발 경쟁이 잘못된 방향이라고 경고하며, 인간 통제를 벗어날 수 있는 위험성을 지적함.
- AGI(범용 인공지능)는 초지능의 전 단계로 간주되며, 향후 5년 내 AGI 도달 가능성이 높다는 예측이 있음.
- 인간 중심의 AI 개발에 초점을 맞춰 인간의 이익을 지원하고, 규제와 안전장치를 마련하여 인간과 함께 작동하는 AI를 설계해야 함을 강조함.
상세 내용¶
마이크로소프트의 AI 최고 책임자인 무스타파 설리먼(Mustafa Suleyman)이 최근 팟캐스트에 출연하여 AI 초지능 개발을 향한 전 세계적인 경쟁이 잘못된 방향일 수 있다고 경고했습니다. 그는 초지능 시스템이 인간의 통제를 벗어날 만큼 강력해질 수 있으며, 따라서 이를 궁극적인 목표가 아닌 '반(反)목표(anti-goal)'로 간주해야 한다고 주장했습니다. 설리먼은 초지능을 자기 개선, 독립적인 목표 설정, 그리고 인간의 감독을 넘어선 자율적 행동이 가능한 AI 시스템으로 정의했습니다. 그는 이러한 시나리오가 긍정적인 미래를 나타내지 않으며, 초지능을 인간의 가치에 부합하도록 제어하거나 조정하는 것이 극도로 어려울 것이라고 설명하며, 따라서 그 생성을 적극적으로 회피해야 한다고 강조했습니다.
그는 또한 인공지능 범용 인공지능(AGI)과 초지능의 차이점을 설명하며, AGI는 초지능으로 가는 전 단계로 볼 수 있지만 용어는 종종 혼용된다고 말했습니다. 설리먼은 마이크로소프트가 대신 '인간주의적 형태의 초지능'을 구축하는 데 집중하고 있다고 밝혔습니다. 이는 인간의 이익과 확고하게 연계되어 있으며, 독립적으로 작동하기보다는 사용자들을 지원하는 시스템을 의미합니다.
설리먼은 구글 딥마인드의 CEO이자 그의 전 공동 창업자인 데미스 하사비스(Demis Hassabis)가 예측한 AGI 도달 시점에 대해서도 언급하며, 그가 예측한 5년 이내에 AGI가 도달할 수 있다는 점에 동의했습니다. 그는 AI 시스템이 해당 기간 내에 대부분의 작업에서 인간 수준의 성능을 달성할 것으로 예상하며, 현재 모델들이 이미 요약, 번역, 전사, 연구, 문서 초안 작성 및 시와 같은 분야에서 인간을 능가하고 있다고 주장했습니다. 또한, 프로젝트 관리, 마케팅 및 인사와 관련된 작업에서도 AI가 꾸준히 개선되고 있다고 덧붙였습니다.
그는 이러한 변화가 일자리를 근본적으로 변모시킬 것이며, 작업이 실행되는 방식뿐만 아니라 사람들이 어떤 종류의 일을 하는지에도 영향을 미칠 것이라고 예측했습니다. 설리먼은 AI가 지능에 대한 접근성을 민주화하고 있으며, 이것이 전례 없는 수준의 경쟁을 촉발할 것이라고 말했습니다. 아이디어를 구상하는 것부터 그것을 실행하는 것까지의 간극이 빠르게 좁혀지고 있기 때문입니다. 그는 사람들이 곧 전례 없는 속도로 새로운 회사, 제품 및 창의적인 작업을 현실로 가져올 수 있게 될 것이라고 말했습니다.
마지막으로 설리먼은 규제와 안전장치의 필요성을 강조하며, 미래의 자율 에이전트는 독립적으로 행동하기보다는 인간과 함께 작동하도록 설계되어야 한다고 강조했습니다. 이는 AI 기술 발전의 속도와 그에 따른 잠재적 위험에 대한 깊은 성찰을 보여주는 발언으로, 기술 발전과 더불어 윤리적이고 인간 중심적인 접근 방식의 중요성을 다시 한번 일깨워주고 있습니다.
편집자 노트¶
마이크로소프트 AI 최고 책임자인 무스타파 설리먼의 이번 발언은 현재 AI 기술 발전의 속도와 그 방향성에 대한 중요한 질문을 던지고 있습니다. 특히 '초지능'을 '반(反)목표'로 삼아야 한다는 그의 주장은, 많은 이들이 AI 발전의 최종 목표로 여기는 초지능 개발 경쟁에 제동을 걸고, 인간 중심의 안전한 AI 설계를 우선해야 한다는 메시지를 전달합니다. 이는 단순히 기술적 성과를 넘어, AI가 인류에게 미칠 심오한 영향에 대한 깊은 고민을 담고 있습니다.
AGI가 5년 내 도달 가능성이 있다는 예측과 함께, AI가 이미 다양한 분야에서 인간의 능력을 뛰어넘고 있다는 점은 우리 삶에 미칠 변화를 더욱 현실적으로 느끼게 합니다. 이러한 변화는 생산성 향상이라는 긍정적인 측면과 함께, 일자리 감소, 윤리적 문제 등 새로운 과제를 안겨줄 것입니다. 설리먼이 강조하는 '인간주의적 AI'와 '인간과 함께 작동하는 AI'는 이러한 과제에 대한 해법을 제시하며, 기술 발전의 궁극적인 목적이 인간의 복지와 안전에 기여해야 함을 시사합니다. 향후 AI 정책 결정 및 개발 방향 설정에 있어 중요한 참고 자료가 될 것으로 보입니다.