능동형 AI 에이전트 설계·평가 원리 제시
Key Point
능동형 AI 에이전트의 신뢰 문제를 다루는 첫 종합 프레임워크로, 실제 사용자 연구를 통해 '올바른 작업'과 '신뢰'가 별개임을 검증했다.
핵심 요약
- 사용자가 요청하지 않아도 미리 도움을 주는 능동형 LLM 에이전트가 필요하지만, 사용자 의도를 잘못 읽거나 신뢰를 잃을 수 있다는 문제가 있다.
- 논문은 능동형 에이전트 설계를 위해 3T 원칙을 제시한다: ①Task Capability(필요를 예측하고 유용한 작업 수행), ②Temporal Allocation(자원 가용성과 필요 시점에 맞춰 계산 배분), ③Trust(사용자 신뢰와 적절한 의존성 유지).
- 이 원칙들을 구현하기 위해 5가지 설계 차원(작업 범위, 예측 지평, 활성화 트리거, 처리 시점, 개입 깊이)으로 설계 공간을 조직했다.