KAUST, 자체 코드 개선하는 '괴델 머신' AI 공개… 스스로 진화하는 AI 시대 성큼¶
원제목: A self-rewriting AI from KAUST revives Jürgen Schmidhuber’s vision of a Gödel Machine
핵심 요약
- KAUST 연구진이 스스로 코드를 수정하고 개선하는 '헉슬리-괴델 머신(HGM)'을 개발했음을 밝혔습니다.
- HGM은 단기 성능보다 후손 AI들의 장기적인 생산성을 측정하는 새로운 지표인 '클레이드 메타생산성(CMP)'을 사용합니다.
- 이 AI는 기존 인간 설계 모델 대비 효율적인 컴퓨팅 자원 사용으로도 높은 성능을 기록하며, 스스로 발전하는 AI의 가능성을 제시했습니다.
상세 내용¶
사우디아라비아의 킹 압둘라 과학기술대학교(KAUST) 연구진이 자체적으로 코드를 수정하고 개선하여 스스로를 발전시키는 인공지능(AI) 에이전트인 '헉슬리-괴델 머신(Huxley-Gödel Machine, HGM)'을 공개했습니다. 이는 AI 개척자인 위르겐 슈미트후버(Jürgen Schmidhuber) 교수가 제시했던 '괴델 머신'의 개념을 부분적으로 구현한 것으로, AI가 장기적인 유용성을 증대시킬 수 있을 때만 스스로를 수정하도록 하는 아이디어에 기반합니다.
기존의 많은 AI 연구는 단기적인 벤치마크 성능에 집중하는 경향이 있었지만, KAUST 팀은 이러한 접근 방식에 도전합니다. 연구진은 높은 시험 점수가 반드시 AI의 지속적인 개선 능력을 보장하지는 않는다는 점을 지적하며, 이를 '메타생산성-성능 불일치(Metaproductivity–Performance Mismatch)'라고 명명했습니다. 즉, 단기적으로 뛰어난 성능을 보인 AI가 후손에서 약한 모습을 보일 수 있고, 반대로 당장은 덜 유능해 보이는 AI가 시간이 지남에 따라 더욱 생산적인 계보로 진화할 수 있다는 것입니다.
이러한 역동성을 측정하기 위해 연구진은 '클레이드 메타생산성(Clade Metaproductivity, CMP)'이라는 새로운 지표를 제안합니다. CMP는 단일 AI의 성능을 측정하는 대신, 그 AI가 생성하는 모든 후손들의 총체적인 결과물을 평가합니다. HGM은 이 CMP 값을 추정하여 스스로의 코드 수정을 안내하며, 이를 위해 트리 탐색, 베이지안 샘플링, 적응형 스케줄링 기법을 결합하여 새로운 AI를 생성할 시점과 기존 AI를 계속 테스트할 시점을 결정합니다. 이는 본질적으로 AI 스스로에 대한 지속적인 실험을 수행하는 것과 같습니다.
HGM은 언어 모델 자체의 지식보다는 AI의 작동 방식, 즉 제어 로직, 도구 사용, 오류 분석 등 AI의 주변 프레임워크 개선에 집중합니다. 파이썬 파일, 테스트 스크립트, 도구 등을 수정하고, 실험을 실행하며, 성공적인 변형을 영구적으로 채택하는 과정을 반복합니다. 이러한 과정을 통해 HGM은 시간이 지남에 따라 자신의 아키텍처, 전략, 제어 흐름을 스스로 정교화하게 됩니다.
실제로 HGM은 500개의 실제 GitHub 프로그래밍 과제로 구성된 SWE-Bench Verified 벤치마크에서 GPT-5-mini 모델을 활용하여 61.4%의 과제를 해결하는 높은 성능을 기록했습니다. 이는 해당 모델 유형에서 보고된 최고 점수이며, 인간이 설계한 GPT-5-mini 기반 AI보다 우수한 성적을 거두었고, Claude 3.7과 같은 더 크고 비용이 많이 드는 모델을 사용한 경쟁 시스템들과도 어깨를 나란히 했습니다. 또한, Polyglot 벤치마크에서도 더 적은 컴퓨팅 자원을 사용하면서도 기존 접근 방식을 능가하는 결과를 보여주었습니다. 이는 HGM의 핵심적인 강점이 단순히 강력한 언어 모델이 아니라, AI의 아키텍처를 스스로 개선하는 능력에 있음을 시사합니다.
편집자 노트¶
이번 KAUST 연구진의 '헉슬리-괴델 머신' 개발 소식은 AI 분야에 있어서 매우 흥미로운 진전이라고 할 수 있습니다. 우리가 흔히 접하는 AI는 특정 목적을 위해 인간이 설계하고 학습시킨 결과물입니다. 하지만 이번에 공개된 HGM은 '스스로 배우고 개선한다'는 점에서 기존 AI의 패러다임을 한 단계 나아가게 합니다. 마치 생명체가 환경에 적응하며 진화하듯, HGM은 자신의 코드와 구조를 끊임없이 발전시키는 능력을 보여줍니다.
이러한 '자기 개선' 능력은 AI가 더욱 복잡하고 예측 불가능한 실제 환경에 유연하게 대처할 수 있게 만든다는 점에서 큰 의미를 가집니다. 단기적인 성능에만 초점을 맞추는 것이 아니라, 장기적인 생존과 발전을 염두에 둔다는 '괴델 머신'의 철학은 AI가 단순한 도구를 넘어, 스스로 성장하는 파트너가 될 가능성을 열어줍니다. 물론 아직 완전한 '괴델 머신' 구현까지는 갈 길이 멀지만, HGM은 그 가능성을 탐색하는 중요한 발걸음이 될 것입니다. 이는 미래 우리의 일상생활에서 AI가 더욱 똑똑하고, 적응력이 뛰어나며, 때로는 우리보다 더 나은 해결책을 제시하는 존재로 발전할 수 있음을 시사합니다.