AI 에이전트, 인간과의 역할 분담을 제대로 학습하나

핵심 요약

• 언어 모델 에이전트가 능력이 증가하면서 인간의 도움 의존도가 낮아지는데, 이것이 협력 실패인지 올바른 역할 분담인지 구분하기 어렵다.
• 이를 체계적으로 조사하기 위해 연구팀은 공유된 목표 하에 에이전트와 인간을 놓고, 누가 이점을 가지는지 변화시키는 실험을 설계했다.
• 공유 제어 미로 과제에서 에이전트 제어 아바타와 인간 제어 아바타가 공동으로 최소 턴 수로 목표에 도달해야 하며, 에이전트가 매 턴마다 자신이 행동할지 인간에게 넘길지 결정한다.
• 초기 배치는 인간의 최단경로 이점을 설정하고, 과제는 동일하게 유지된다.
• GPT-5.6-Sol, Command A+, Qwen-3.8-27B, Command R 등 4개 모델을 단일 아바타 및 전체 맵 관찰로 개별 능력을 측정한 후, 세 가지 이점 조건에서 인간 참여자와 함께 협력 플레이를 진행했다.
• 강한 개별 성능의 모델들은 선택적, 경로 조건부 인간 개입을 보였다: 인간이 이점이 없을 때는 거의 모든 경우 자신이 행동했고, 인간 경로가 더 짧을 때는 초기 결정의 약 80%에서 인간을 포함했다.
• 개별 성능이 현저히 약한 Command R은 이러한 선택성을 보이지 않았다.