미래 예측 없이도 일반화 가능한 로봇 모델 개발
원제 What Makes World Action Models Generalize? An Empirical Study of Test-Time Future Modeling
추천 55댓글 1
Key Point
로봇 모델의 일반화 능력을 해치지 않으면서 계산 효율성을 확보하는 새로운 접근으로, 로봇 비전 모델의 실용성을 크게 높일 수 있다.
핵심 요약
- World Action Models(WAMs)는 학습 중 미래 프레임을 예측하면서 행동을 학습하는 모델이다.
- Explicit WAMs는 매 행동 청크마다 비디오를 디노이징해 깨끗한 프레임을 생성하고, 효율성을 위해 미래 생성을 건너뛰는 Latent WAMs도 있다.
- 연구팀은 Latent WAMs가 학습 데이터와 같은 환경에서는 Explicit WAMs와 비슷하지만, 환경 변화, 데이터 부족, 작업 변경 상황에서 일반화 능력을 잃는다는 것을 발견했다.
- 문제의 원인은 첫 번째 디노이징 단계에 있으며, 미래를 생성하는 것이 아니라 준비하는 단계에서 이점이 나온다는 것을 확인했다.
- 이를 바탕으로 Simple-WAM을 제안했으며, 이는 완전히 노이징된 비디오 토큰 한 번의 정방향 계산으로 미래 모델링을 단순화하고 학습 시간의 노이즈 스케줄을 추론 행동에 맞춘다.
- 시뮬레이션과 실제 로봇 작업에서 Simple-WAM은 Explicit WAMs보다 일반화 성능이 우수하면서 Latent WAMs 수준의 효율성을 달성했다.