AI 거장들, '인류 위협' AGI 개발 중단 촉구 성명 발표¶
원제목: Geoffrey Hinton, Yoshua Bengio sign statement urging suspension of AGI development
핵심 요약
- AI 분야 핵심 인물들이 범용인공지능(AGI) 개발 중단을 요구하는 성명에 서명했음.
- AGI의 잠재적 위험성이 현실화되기 전에 안전성과 통제 가능성에 대한 광범위한 과학적 합의가 필요함을 강조했음.
- 일반 대중 역시 초지능 AI 개발에 대한 유보 또는 금지를 지지하는 여론이 형성되고 있음을 보여줌.
상세 내용¶
인공지능(AI) 분야의 세계적인 석학인 제프리 힌튼과 요슈아 벤지오를 포함한 수백 명의 과학자, 정치인, 기업가, 예술가들이 범용인공지능(AGI) 개발을 일시 중단할 것을 촉구하는 성명에 서명했습니다. 이 성명은 미래생명연구소(Future of Life Institute) 웹사이트를 통해 발표되었으며, AGI가 인간을 능가하는 다양한 작업을 수행할 수 있는 가상의 AI 형태임을 명시하고 있습니다. 서명자들은 AGI 개발이 인류에게 미칠 수 있는 잠재적 위험 때문에 중단을 요구하며, '안전하고 통제 가능하게 개발될 수 있다는 광범위한 과학적 합의와 강력한 대중적 지지가 확립될 때까지 초지능 개발을 금지할 것'을 촉구했습니다. 이는 최근 미래생명연구소가 발표한 설문조사 결과와도 맥락을 같이 합니다. 이 설문조사에서 미국 성인 2,000명을 대상으로 한 결과, 응답자의 64%가 초지능 AI 개발이 안전이 입증되거나 완전히 금지될 때까지 중단되어야 한다고 믿는 것으로 나타났습니다. 이번 성명에 서명한 힌튼과 벤지오는 오늘날 거대 언어 모델(LLM)의 기반이 되는 여러 기술을 개발한 AI 연구의 선구자들입니다. 힌튼은 신경망이 새로운 기술을 학습하는 데 사용하는 역전파 알고리즘을 발명했으며, 벤지오는 임베딩에 대한 초기 연구를 주도하고 LLM의 주의 메커니즘의 전신을 개발했습니다. 이 외에도 4명의 노벨상 수상자, 다수의 교수, 애플 공동 창립자 스티브 워즈니악, 전직 의원 및 유럽 의회 의원, 유명 인사들도 이 성명에 지지를 표했습니다. 특히, AGI 개발 규제에 직접적인 영향을 받을 수 있는 OpenAI와 Anthropic PBC의 현직 직원 두 명도 서명에 참여했다는 점이 주목할 만합니다. 이번 성명 발표는 약 1년 반 전, OpenAI, Anthropic, Google DeepMind의 현직 및 전직 직원들이 AI 위험성에 대한 투명한 대처를 요구하며 발표했던 공개 서한 이후 나온 것입니다. 당시 힌튼과 벤지오도 이 서한을 지지한 바 있습니다.
편집자 노트¶
AI 기술 발전의 속도가 기하급수적으로 빨라지면서, 인류의 미래를 좌우할 수 있는 '범용인공지능(AGI)'에 대한 우려의 목소리가 더욱 커지고 있습니다. 이번에 AI 분야의 두 거목인 제프리 힌튼과 요슈아 벤지오가 AGI 개발 중단을 촉구하는 성명에 동참한 것은 매우 상징적인 사건이라 할 수 있습니다. 이들은 AI의 발전 방향을 설정하는 데 지대한 영향을 미쳐온 인물들이기에, 그들의 경고는 단순한 기술적 논의를 넘어선 의미를 갖습니다. 이들이 주장하는 핵심은 '안전'과 '통제 가능성'입니다. 인간의 지능을 초월하는 AGI가 만약 통제 불가능한 방식으로 발전한다면, 그 파급 효과는 예측하기 어려울 정도로 클 수 있습니다. 현재 AI 기술이 보여주는 놀라운 발전 속도를 감안할 때, 이러한 우려가 과장된 것만은 아닐 것입니다. AI가 사회 곳곳에 깊숙이 통합되는 현실에서, 기술 발전의 속도만큼이나 중요한 것이 바로 윤리적, 안전적 고려임을 다시 한번 강조하는 계기가 되고 있습니다.
특히 이번 성명은 일반 대중의 인식 또한 반영하고 있다는 점에서 시사하는 바가 큽니다. 대중의 64%가 초지능 AI 개발의 중단 또는 신중한 접근을 지지한다는 설문 결과는, AI 기술 발전에 대한 사회적 논의가 더욱 확대되고 심화되어야 함을 보여줍니다. 이는 단순히 기술 전문가들만의 영역이 아니라, 우리 사회 구성원 모두가 관심을 가지고 참여해야 할 중요한 의제임을 시사합니다. 앞으로 AGI 개발은 기술적 진보뿐만 아니라, 사회적 합의와 윤리적 틀 안에서 신중하게 추진될 필요가 있으며, 이번 성명은 그 중요한 첫걸음이 될 수 있습니다. 우리 역시 AI 기술 발전의 혜택을 누리는 동시에, 잠재적 위험에 대한 경각심을 늦추지 않고 지속적인 관심과 논의를 이어가야 할 것입니다.