Hugging Face 논문AI · 머신러닝

인간의 직관을 넘지 못하는 멀티모달 AI…'제6의 감각' 벤치마크 공개

원제 Humanity's Sixth Sense: Benchmarking Intuitive Visual Reasoning in Multimodal Models

추천 23댓글 2Xingang Guo, Jing Gu, Brian Jang 외
Key Point

최고 수준의 멀티모달 AI도 인간의 직관적 시각 이해에 40%P 이상 뒤처지는 이유를 파악할 수 있는 새 평가 틀이 제시되었습니다.

핵심 요약

  • 인간은 장면에서 명시적으로 드러난 것 이상을 인지한다. 과거 원인과 미래 궤적, 차량이 좁은 공간에 들어갈 수 있는지 여부, 영상에서 권위 관계, 보이지 않는 규칙 같은 추상적 패턴까지 순식간에 파악한다.
  • 이런 빠른 직관적 추론 능력은 일상 네비게이션과 사회 상호작용의 핵심이며, 인간 곁에 배치되는 멀티모달 LLM에 필수적이다.
  • 기존 시각 벤치마크들은 학술 수학 영역의 전문가 수준 분석 또는 저수준 지각만 다루며, 인간이 일상적으로 수행하는 직관적 추론은 검증되지 않는 문제가 있다.
  • 연구팀은 'Humanity's Sixth Sense(HSS)' 벤치마크를 제시했다. 다양한 이미지와 영상으로 구성되며, 시간·공간·사회·추상 구조 등 사람들이 한눈에 인식하는 암묵적 정보를 묻는 인간 작성 질문을 담는다.
  • 인간은 93.1% 정확도에 도달했으나, 최강 모델인 GPT-6-astra는 최대 추론 노력 상황에서도 53.6%에 그쳤다.
  • 현재 모델들은 고급 지각과 지식이 필요한 복잡한 작업에서는 뛰어나지만, 인간에게는 직관적인 시각 과제에서는 심각하게 부진한다.
  • 동적 시각 조작을 적용하는 에이전트 설정을 시도해도 격차를 줄일 수 있을 뿐 완전히 좁혀지지 않는다.
  • HSS는 직관적 시각 추론을 측정 가능한 영역으로 확립하며, 현재 벤치마크 스케일링으로 외면받아온 능력에 주목하도록 한다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗