로봇 자가학습 에이전트로 장기 조작 과제 정복
원제 From VLM Planners to Robotic Agents: Self-Evolving Harnesses for History-Dependent Manipulation
추천 28댓글 1
Key Point
로봇이 여러 단계의 조작 작업에서 과거 경험을 학습하며 스스로 개선되는 기법이 실제로 성능을 높이는 방식과 수치를 제시했다.
핵심 요약
- Vision-Language-Action(VLA) 모델은 시각 이해, 언어 조건, 행동 생성을 통합해 로봇 조작에 우수한 성능을 보이지만, 장기 과제에서는 과거 상호작용 결과와 작업 진행도를 기억해야 하는 비마르코프 의존성이 발생한다.
- 부분 관측 가능성과 실행 오류가 시간에 따라 누적되며, 기존 방식은 기초 모델에 메모리를 추가하거나 고수준 계획과 저수준 실행을 분리하는 계층적 구조로 이를 해결해왔다.
- 연구팀은 고수준 VLM을 수정 가능한 하네스(harness)를 통해 로봇 에이전트로 구성해 작업 맥락을 유지하고 실행 경험으로 계획을 개선하는 접근법을 제시했다.
- SERA(Self-Evolving Robotic Agent)라 명명한 이 방식은 고정된 VLA 실행기로 저수준 제어를 담당하며, 하네스가 관측과 실행 피드백으로 작업 맥락을 유지·갱신해 후속 계획을 안내한다.
- 자가진화 단계에서 환경 롤아웃을 통해 하네스 개정안을 제안하고 평가하며, 선택된 구성은 보류 테스트 전에 고정된다.
- RoboMME 벤치마크에서 SERA는 자동 선택 시 51.38% 전체 성공률을 달성했으며, 자가진화 없는 경우의 44.38%보다 7% 향상됐다.