에이전트를 위한 최적 실행 환경, AI가 학습해 설계한다

핵심 요약

• 에이전트의 성능은 추론 능력뿐 아니라 작동하는 환경에도 의존하는 만큼, Builder 모델이 Target 모델을 위해 더 나은 실행 환경을 구축하는 방법을 연구했다.
• 두 모델의 가중치는 모두 고정된 상태에서 test-time AI-for-AI 방식을 적용했다.
• Builder가 학습한 경험을 재사용 가능하게 하기 위해 Meta-Skill을 도입했으며, 이는 언제 지원이 필요한지와 어떤 리소스를 제공할지를 규정하는 원칙이다.
• Builder는 개발 세트에서 Target의 실행 피드백으로부터 이러한 원칙들을 학습한 뒤, 고정된 스킬 뱅크를 사용해 미처음 본 과제들을 위한 하네스를 구축한다.
• Harness-Bench와 NewtonBench 벤치마크에서 전체 스킬 뱅크를 활용한 meta-skills는 스킬 없이 구축한 경우 대비 거시 평균 성능을 8.95 포인트 향상시켰다.
• 같은 스킬 뱅크를 Target에 직접 전달했을 때와 비교하면 12.02 포인트 향상을 기록했다.
• 이 결과는 경험을 실행 가능한 지원으로 변환하는 가치를 보여준다.
• 같은 모델이 Builder와 Target 역할을 동시에 수행할 때 성과가 더 크다는 것은 더 나은 환경 구축을 학습함으로써 시스템 수준의 자가 개선 경로를 제시한다.