가상 세계에서 코드로 에이전트를 진화시키는 AgentGarten
원제 AgentGarten: Code Worlds for Evolving Agents
추천 226댓글 3
Key Point
기존 강화학습은 수백만 번의 상호작용이 필요하지만 AgentGarten은 4라운드만으로 에이전트를 학습시키므로, AI 에이전트의 훈련 효율을 획기적으로 높이는 방법론이다.
핵심 요약
- AgentGarten은 시뮬레이터·게임 엔진과 신경 렌더러를 결합하여 실시간 상호작용 환경을 구축하는 프레임워크다.
- 시뮬레이션 백엔드는 지속적인 월드 상태를 유지하고 프로그램 정의 규칙을 실행하며, 렌더러는 공통 인터페이스를 통해 구조화된 조건으로부터 시각 관찰을 생성한다.
- 신경 렌더러는 사전학습된 비디오 모델을 기하학 조건에 맞춰 적응시키고, 제안된 Adversarial Forcing으로 증류하며, 실시간 상호작용을 위해 추론을 최적화한다.
- Adversarial Forcing은 정확한 재현을 통해 히스토리 프리필링을 미분 가능하게 만들어 나중 예측의 손실이 렌더러가 이전 관찰을 인코딩하는 방식을 업데이트하도록 하며, 실제 데이터 적대적 감시를 추가해 시각 품질을 높인다.
- AgentGarten에서 에이전트는 시각 관찰을 통해 세계를 인식하고 실시간으로 상호작용하며, 각 경험을 후속 에이전트가 상속·개선할 플레이북으로 증류해 학습을 개선한다.
- 에이전트는 기존 강화학습의 수백만 라운드 대비 4라운드만으로 학습하는 상당한 효율 향상을 보였다.
- 새로운 세계를 코드로 작성하고 동일 인터페이스로 렌더링할 수 있어, 환경이 에이전트와 함께 수와 난이도 모두에서 확장될 수 있으며, 이는 상호작용 경험을 통해 계속 진화하는 에이전트로 나아가는 단계다.