AI 에이전트가 스스로 배우는 기억 시스템 DAEDALUS
원제 DAEDALUS: Bootstrapping Agent Memory from Self-Generated Tasks
추천 10댓글 2
Key Point
LLM 에이전트가 새 환경에서 시행착오를 줄이고 독립적으로 능력을 갖추는 방식의 발전으로, 기존 인간 주석 의존성을 제거한 자가 학습 메커니즘을 제시한다.
핵심 요약
- LLM 에이전트는 새로운 환경에서 도구 동작과 규칙을 직접 발견해야 하는데, 과거 시도 기억 없이 같은 실수를 반복해 실패율이 높아진다.
- DAEDALUS는 인간의 지침이나 오라클 검증자 없이 자동 생성된 과제로부터 에이전트 기억을 부트스트래핑하는 방법이다.
- 탐험 에이전트가 환경과 상호작용하며 어려우면서도 풀 수 있는 과제를 만들고, 풀이 에이전트가 이를 시도한다.
- 풀이 에이전트의 실패에서 휴리스틱을 도출하고, 풀이 에이전트가 반복적으로 성공할 때만 채택하며, 탐험 에이전트는 이 피드백으로 과제 난이도를 조정한다.
- 채택된 휴리스틱들은 메모리 뱅크에 저장되어 테스트 시점에 활용된다.
- AppWorld, τ²-bench, AutomationBench 벤치마크에서 메모리 없는 기준 대비 성공률을 최대 15.9포인트, pass@5를 최대 2.2배 향상시켰다.
- 훈련 과제를 사용한 방법과 비슷한 성능을 내면서 추론 비용은 더 낮다.
- 소규모 탐험 예산으로도 성능 개선이 나타나며, 생성된 휴리스틱은 다른 모델 계열의 에이전트도 도울 수 있다.
- 풀이 에이전트의 추적 기록이 효과적 휴리스틱 도출의 핵심 정보이며, 초기 발견의 분해가 탐험 효율을 높인다.
- DAEDALUS가 생성한 과제는 모델 성능 순위 매김의 벤치마크 대리로도 활용 가능하다.