LLM 에이전트, 사용자 감정 변화에 취약하다

핵심 요약

• 장시간의 도구 호출 작업에서 LLM 에이전트는 도구 사용 오류뿐만 아니라 사용자와의 비효율적인 상호작용으로도 실패한다.
• 기존 벤치마크는 협조적이고 안정적인 사용자를 가정하고 있어 감정 변화가 에이전트 신뢰성에 미치는 영향을 제대로 평가하지 못했다.
• τ-Emotion-Bench는 10개 도메인에서 감정 조건부 사용자 상호작용 하에서 도구 호출 에이전트를 평가하는 벤치마크를 제시한다.
• Tracer라는 확장 가능한 에이전트 데이터 생성 파이프라인은 기저를 둔 정책 유효 작업을 구성하고 에이전트-사용자-환경 상호작용 환경을 통해 궤적을 수집한다.
• 불만족한 사용자가 비효율적 상호작용을 종료할 수 있는 메커니즘은 과도한 사용자 의존성의 궤적을 걸러내고 효과적 도구 사용을 강화하는 상호작용 인식 신호를 제공한다.
• 두 가지 사용자 시뮬레이터로 실험한 결과 최첨단 에이전트도 신뢰성이 낮으며 평균 작업 성공과 일관된 작업 완료 사이에 상당한 격차가 있다.
• Tracer로 생성된 학습 신호는 Qwen3 모델들을 모든 규모에서 일관되게 개선하고 보이지 않은 도메인으로 일반화되며 τ-Bench와 τ-Trait으로 전이된다.
• 행동 분석은 높은 작업 성공이 도구 실행과 필요한 사용자 후속 조치 사이의 균형과 연관되어 있음을 보여준다.