인간처럼 생각하는 AI, 더 똑똑하고 믿음직해지다¶
원제목: Human-aligned AI models prove more robust and reliable
핵심 요약
- AI 모델이 인간의 시각적 인지 방식을 모방하도록 학습시켜 성능을 향상시켰음.
- 인간과 유사한 계층적 사고 구조를 AI에 도입하여 추상적인 개념 이해 능력을 높였음.
- 이번 연구를 통해 개발된 AI 모델은 오류를 줄이고 예측 불가능한 상황에서도 안정적인 성능을 보였음.
상세 내용¶
구글 딥마인드, 앤트로픽, 독일 연구진이 인간의 인지 방식을 더 잘 모방하는 AI 모델 개발 방법을 제시했습니다. 자연(Nature)에 게재된 이 연구는 인간의 인식과 유사하게 조정된 AI 모델이 더 견고하고, 더 나은 일반화 성능을 보이며, 오류를 적게 생성한다는 사실을 발견했습니다.
현대의 딥러닝 신경망은 특정 시각적 작업에서 인간의 수준을 맞출 수 있지만, 익숙하지 않은 상황에서는 성능이 저하되는 경향이 있습니다. 연구에 따르면 이러한 문제는 AI의 정보 처리 구조에 기인합니다. 인간은 사물을 미세한 디테일부터 더 넓은 범주까지 계층적으로 조직하여 이해하지만, AI 모델은 주로 국소적인 유사성에 집중하여 추상적인 연결을 놓치는 경우가 많습니다.
이러한 차이는 중요한 방식으로 나타납니다. 예를 들어, 인간은 겉모습이 전혀 다르더라도 개와 물고기를 '생명체'라는 범주로 묶을 수 있지만, AI는 이러한 추상적인 도약을 하지 못합니다. 또한, 인간은 자신의 정확도에 비례하여 확신 수준을 조절하는 반면, AI는 틀린 상황에서도 높은 확신을 보일 수 있습니다.
연구진은 이러한 AI와 인간 인식 간의 격차를 줄이기 위해 'AligNet'이라는 방법을 개발했습니다. 핵심은 '대리 교사 모델'로, 인간의 판단 데이터를 학습한 SigLIP 멀티모달 모델을 미세 조정하여 구축했습니다. 이 교사 모델은 수백만 개의 합성 ImageNet 이미지에 대해 '가상 인간' 유사도 점수를 생성합니다. 이 라벨을 활용하여 Vision Transformers(ViT) 및 DINOv2와 같은 다양한 비전 모델을 미세 조정하는 데 사용됩니다. AligNet으로 조정된 모델은 특히 추상적인 비교 작업에서 인간의 판단과 훨씬 더 자주 일치하는 결과를 보였습니다.
새로운 'Levels' 데이터셋을 사용한 테스트에서는 473명의 사람으로부터 받은 평가를 바탕으로, AligNet으로 조정된 ViT-B 모델이 인간 평균 동의율보다 더 높은 성능을 기록했습니다. 이러한 인간과 유사한 구조는 단순히 AI를 '인간처럼' 만드는 것을 넘어 기술적으로도 큰 개선을 가져왔습니다. 일반화 및 견고성 테스트에서 AligNet 모델은 기본 모델에 비해 정확도가 두 배 이상 향상되기도 했습니다. 특히 훈련 데이터와 테스트 데이터 간의 변화에 강한 BREEDS 벤치마크에서 더 나은 성능을 보였고, 적대적 이미지넷-A(adversarial ImageNet-A)에서는 정확도가 최대 9.5%p 향상되었습니다. 또한, AI는 자신의 불확실성을 인간의 반응 시간과 유사하게 더 현실적으로 추정했습니다. 모델의 내부 표현 또한 재구성되어, 시각적 외형뿐만 아니라 의미에 따라 객체를 그룹화했습니다.
편집자 노트¶
이번 구글 딥마인드 등의 연구는 인공지능, 특히 시각 인지 분야에서 매우 중요한 진전을 보여줍니다. 단순히 데이터 학습량을 늘리거나 복잡한 알고리즘을 적용하는 것을 넘어, AI가 '어떻게' 세상을 인식하고 이해하는지에 대한 근본적인 접근 방식을 개선하려는 시도라는 점에서 주목할 만합니다. 기존 AI들이 직면했던 '익숙하지 않은 상황에서의 오류'나 '과신'과 같은 문제는 결국 인간의 유연하고 계층적인 사고방식을 AI가 제대로 모방하지 못했기 때문이라는 점을 명확히 한 것입니다.
AligNet이라는 새로운 방법론은 AI가 인간의 뇌처럼 추상적인 개념을 연결하고, 상황에 따른 불확실성을 보다 현실적으로 인지하도록 돕습니다. 이는 AI 기술이 더 많은 사람에게 친숙하고 신뢰할 수 있는 형태로 다가가는 데 기여할 수 있습니다. 예를 들어, 의료 진단 AI가 환자의 미묘한 증상 변화를 인간 의사처럼 종합적으로 판단하거나, 자율주행차가 예상치 못한 도로 상황에서도 인간 운전자처럼 유연하게 대처하는 미래를 상상해 볼 수 있습니다. 물론 완벽한 인간 모방이 목표가 아니라는 연구진의 언급처럼, AI는 인간의 편향까지 그대로 답습하지 않도록 발전해야 할 것입니다. 이러한 균형 잡힌 발전이야말로 AI가 우리 삶에 긍정적인 영향을 미치는 열쇠가 될 것입니다.