AI 에이전트 학습용 소프트웨어 환경 자동 생성 기술
원제 SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments
추천 92댓글 2
Key Point
자동 생성된 소프트웨어 환경으로 학습한 AI 에이전트가 기존 벤치마크에서 대폭 성능을 향상시켜, CUA 개발의 데이터 부족 문제에 새로운 해결책을 제시한다.
핵심 요약
- Computer-use agent(CUA)는 발전 중이지만 다양하고 신뢰할 수 있는 소프트웨어 환경을 대규모로 합성하는 것이 어려운 상황이다.
- 기존 네이티브 애플리케이션 환경은 구축과 통합에 많은 노력이 필요해 범용성이 낮고 오버피팅 위험이 있으며, 브라우저 기반 환경은 상호작용 깊이와 워크플로우 복잡성이 제한적이다.
- SoftwareGym은 다양한 인터페이스, 실행 가능한 기능, 런타임 검증된 동작을 갖춘 GUI 소프트웨어 환경을 자동으로 합성하는 파이프라인이다.
- 구조적으로 다양한 설계를 생성하고 실행 가능한 애플리케이션으로 구현한 후 GUI 평가와 반복적 수정을 통해 기능 신뢰성을 보장한다.
- 12개 카테고리에 걸쳐 182개 애플리케이션을 합성했으며 평균 GUI 작업 통과율은 91.5%를 달성했다.
- 같은 12개 카테고리를 다루는 120개 과제로 이루어진 SoftwareGym-Bench 평가 모음을 구성하고, 이 환경에서 수집한 궤적을 CUA 학습에 사용했다.
- 결과적으로 학습된 모델은 완전히 도메인 외부인 OSWorld 벤치마크에서 Pass@3를 41.39%에서 56.97%로 개선했으며 SoftwareGym-Bench에서 40.0%을 달성했다.
- 합성된 소프트웨어 환경이 CUA 학습을 위한 확장 가능하고 전이 가능한 감독 신호로 작용할 수 있음을 보여준다.