AI 거장들, AGI 개발 중단 촉구! 글로벌 규제 여론 확산¶
원제목: 힌턴·벤지오 등 거물들 'AGI 개발 금지' 한목소리… 글로벌 여론도 규제 지지 - TokenPost
핵심 요약
- AI 분야 최고 권위자들을 포함한 수백 명의 전문가들이 AGI 개발 중단을 촉구하는 성명을 발표했음.
- AGI의 잠재적 위협에 대한 우려로 인해 대중과 정치권에서도 규제 강화 필요성에 대한 지지가 높아지고 있음.
- AI 기술 발전 속도와 사회적 영향력을 고려할 때, 안전성 확보 및 사회적 합의를 위한 신중한 접근이 요구됨.
상세 내용¶
인공지능(AI) 분야의 세계적인 석학인 제프리 힌턴과 요슈아 벤지오를 비롯해 수백 명의 과학자, 기술 기업 임직원, 예술가, 정치인들이 인공 일반지능(AGI) 개발을 전면 중단해야 한다는 공동 성명을 발표했습니다. 이들은 AGI가 인류에게 심각한 위협을 초래할 수 있으며, 안전성, 통제 가능성, 사회적 합의가 충분히 확보되기 전까지는 개발을 유예해야 한다고 주장했습니다. 이번 성명은 스카이프 공동창업자가 설립한 비영리단체 '미래생명연구소'를 통해 공개되었습니다. 성명서에는 '강인공지능(Superintelligence)의 개발은 과학계의 광범위한 합의와 국민적 지지 없이는 금지되어야 한다'는 내용이 포함되어, AGI 개발 중단에 대한 명확한 여론 형성 가능성을 시사했습니다. 이러한 주장은 최근 발표된 여론조사 결과에서도 뒷받침됩니다. 미래생명연구소의 조사에 따르면, 미국 성인의 64%가 초인적인 AI 개발 연기 또는 전면 금지를 지지하는 것으로 나타나, 기술 개발에 대한 대중의 깊은 불안감과 우려를 드러냈습니다. 제프리 힌턴은 지난해 AI 연구 성과로 노벨 물리학상을 수상하고 역전파 알고리즘 개발에 기여했으며, 요슈아 벤지오는 LLM의 기초가 되는 임베딩 기술과 주목 메커니즘을 개발한 AI 기초 연구의 핵심 인물입니다. 이 두 사람은 튜링상을 함께 수상한 바 있습니다. 이번 성명에는 이들 외에도 노벨상 수상자 4명, 저명한 교수진, 애플 공동창업자 스티브 워즈니악 등 저명한 인사들이 대거 참여했습니다. 또한, 전직 미 의회 의원, 유럽의회 의원, 해리 왕자 부부, 리처드 브랜슨 등 사회 각계각층의 인사들이 합류하며 AGI 규제에 대한 목소리가 사회 전반으로 확산되고 있음을 보여줍니다. 특히 오픈AI와 앤스로픽의 현직 직원 2명도 서명에 동참한 것은 주목할 만합니다. 이들 기업은 AGI 개발을 선도하지만, 알고리즘 투명성과 리스크 관리 문제로 논란이 끊이지 않았으며, AGI 규제안은 이들 기업의 사업 전략에 직접적인 영향을 미칠 수 있습니다. 이번 발표는 지난해 6월 공개된 또 다른 공개서한에 이은 것으로, 당시에도 오픈AI, 앤스로픽, 구글 딥마인드 소속 직원들이 AI 위험에 대한 기업의 공개와 책임을 요구한 바 있으며, 힌턴과 벤지오 역시 당시 서한에 서명하며 지속적인 우려를 표명한 바 있습니다. 결국, 세계적인 권위를 가진 연구자들과 사회 지도층이 한목소리로 AGI 개발 중단을 촉구하는 것은, 기술 발전을 무비판적으로 수용하기보다 '사전 통제와 사회적 검증'의 중요성이 얼마나 커졌는지를 보여주는 방증입니다. AI 기술이 우리의 일상과 산업 전반에 더욱 깊숙이 영향력을 행사하는 지금, 인류는 개인의 권익과 안전을 최우선으로 하는 새로운 개발 기준을 시급히 마련해야 할 시점에 와 있습니다.
편집자 노트¶
이번 성명은 인공지능 발전의 양면성을 다시 한번 강력하게 상기시키는 중요한 사건입니다. 제프리 힌턴, 요슈아 벤지오와 같은 AI 분야의 '살아있는 전설'들이 직접 나서서 AGI 개발의 위험성을 경고하고, 심지어 개발 중단을 촉구했다는 점은 단순한 우려 표명을 넘어선다고 볼 수 있습니다. 이들은 AI 기술의 최전선에 서 있는 인물들로서, 기술의 잠재력뿐만 아니라 그 이면에 숨겨진 위험성까지 누구보다 잘 파악하고 있을 것입니다. 이러한 전문가들의 목소리에 수많은 저명 인사들이 동참하고, 대중적 지지까지 확인된 것은, AI 기술이 더 이상 특정 연구실이나 기업만의 영역이 아니라 우리 사회 전체의 미래와 직결된 문제임을 명확히 보여줍니다.
특히 주목할 점은 AI 개발을 주도하는 기업들의 내부에서도 이러한 우려가 공존하고 있다는 사실입니다. 오픈AI와 앤스로픽의 현직 직원들이 성명에 서명했다는 것은, 개발 속도 경쟁 속에서 안전과 윤리적 측면을 간과할 수 있다는 경각심이 내부에 자리 잡고 있음을 시사합니다. 이는 AGI 개발이 가져올 사회적 파급력과 통제 불가능성에 대한 기술계 내부의 자성적인 목소리로 해석될 수 있습니다. 이제 AGI 개발은 단순히 기술적 성취를 넘어, 인류의 미래를 좌우할 수도 있는 중대한 사안으로 인식되어야 하며, 이에 대한 사회적, 윤리적, 제도적 논의가 더욱 활발하게 이루어져야 할 시점입니다. 이러한 움직임이 실제 규제나 개발 방향에 어떤 변화를 가져올지 주목해야 할 것입니다.