다중 에이전트 협력을 위한 추상적 '마음 이론'을 잠재 공간에서 학습
Key Point
LLM 기반 멀티에이전트 시스템에서 파트너의 의도를 정확히 파악해야 하는 협력 작업에 새로운 접근법을 제시하며, 잠재 공간 추론이 텍스트보다 효과적임을 실증적으로 보여준다.
핵심 요약
- 다중 에이전트 협력에서 정확한 마음 이론(Theory-of-Mind, ToM)을 형성하려면 여러 파트너 상태를 동시에 추론해야 하는데, LLM 에이전트의 텍스트 표현으로는 하나의 상태만 효과적으로 표현되는 문제가 있다.
- 이를 해결하기 위해 ToM2Vec을 제안했으며, 이는 고정된 예산의 연속 추론 토큰을 통해 풍부한 잠재 공간에서 추상적인 마음 이론을 학습한다.
- 학습 중에는 파트너의 실제 생각을 감독 신호로 사용하여 ToM 토큰이 이를 추상화하고 일치시키도록 훈련된다.