장시간 자율 에이전트의 중요 결정 추적, EBG 방식 제안

핵심 요약

• 에이전트가 장시간 작업을 수행할 때 사용자는 개별 의사결정에서 자율 실행 감시로 전환하는데, 방대한 에이전트 활동과 증거의 분산으로 인해 검증이 필요한 결정을 파악하기 어렵다.
• 연구팀은 중요한 결정을 식별하고 증거를 위치시켜 사용자의 판단을 돕는 모니터를 연구했다.
• 소프트웨어 엔지니어링 벤치마크 AgentMonBench를 소개하며, 요구사항과 동작의 정렬, 검증을 위한 중요 자율 결정의 인식이라는 두 측면을 다룬다.
• 증거 기반 동작 그래프(EBG)라는 학습 없는 방식을 제안하는데, 이는 출처가 연결된 증거를 동작으로 묶고 관계를 그래프로 조직하며 작업 중심 뷰를 제시한다.
• 8개 모델 실험 결과 EBG는 원본 맥락에 직접 접근하는 것 대비 대부분의 경우 결정 식별과 증거 위치 파악을 개선했다.
• 입력 규모와 하이퍼파라미터 설정 변화에서도 EBG의 증거 위치 파악 효과가 유지되었으며, 실제 응용 사례에서 인간 감시의 실용적 가치를 보여준다.