능동형 AI 에이전트 설계·평가 원리 제시

핵심 요약

• 사용자가 요청하지 않아도 미리 도움을 주는 능동형 LLM 에이전트가 필요하지만, 사용자 의도를 잘못 읽거나 신뢰를 잃을 수 있다는 문제가 있다.
• 논문은 능동형 에이전트 설계를 위해 3T 원칙을 제시한다: ①Task Capability(필요를 예측하고 유용한 작업 수행), ②Temporal Allocation(자원 가용성과 필요 시점에 맞춰 계산 배분), ③Trust(사용자 신뢰와 적절한 의존성 유지).
• 이 원칙들을 구현하기 위해 5가지 설계 차원(작업 범위, 예측 지평, 활성화 트리거, 처리 시점, 개입 깊이)으로 설계 공간을 조직했다.
• 사용자·환경 표현, LLM 백본, 에이전트 하네스 등 상황과 시스템 모델링을 명시했다.
• 평가를 위해 '프로액티비티 짐(Proactivity-Gym)'이라는 시뮬레이션 기반 테스트베드를 제안했으며, 여러 날의 시나리오, 상태 유지 환경, 사용자 페르소나 기반 시뮬레이션이 포함된다.
• 23개 모델-하네스 조합 평가 결과 3T 원칙 전반에서 상당한 성능 격차가 드러났고, LLM 판사들이 작업 능력과 신뢰를 혼동하는 경향을 보였다.
• 30명 참여 인간 연구에서 3T 원칙의 공동 최적화 중요성이 확인되었다: 결과가 맞아도 개입이 맞지 않으면 신뢰가 급격히 떨어졌고, 사용자들은 진행 중인 작업 집중력을 지키기 위해 불완벽하더라도 야간 지원을 선호했다.
• 종합하면 능동형 에이전트는 유용한 작업, 계산 배분, 진화하는 사용자 신뢰를 함께 고려해 설계·평가해야 한다는 결론이다.