짧은 영상으로 장시간 예측하는 세계 모델 훈련법
원제 Frechet Forcing: Training Long-Horizon Streaming World Models from Short Clips
추천 16댓글 2
Key Point
짧은 영상만으로 학습한 생성 모델이 장기간 예측에서 표류하는 근본적 문제를 해결하는 새로운 훈련 방식으로, 비용 높은 교사 모델 없이도 안정적인 장시간 롤아웃을 만들 수 있다.
핵심 요약
- 스트리밍 비디오 세계 모델은 행동 조건에 따라 미래를 청크 단위로 생성하는데, 짧은 클립으로만 훈련되면 시간이 지날수록 예측 오차가 누적되어 표류한다.
- 기존 방식은 분포 일치 증류(DMD)로 모델 자신의 예측을 다시 훈련하지만, 외부 교사는 행동을 모르고 내부 교사도 같은 문제로 고통받는다.
- 프레셰 거리(Fréchet Distance)를 활용한 프레셰 포싱(Fréchet Forcing) 기법을 제안한다: 생성적 앵커링은 실제 데이터로 끝나는 자체 생성 이력에 플로우 매칭 손실을 적용하고, 문맥 충실도는 각 클립의 자유 롤아웃 통계와 실제 통계 간 거리를 계산해 장면 일관성을 유지하며, 현실성 일치는 고정된 지각 공간에서 생성 프레임과 실제 프레임 간 거리를 측정한다.
- 이 방식은 긴 미래 영상과 비교할 필요가 없어 교사 모델, 온라인 평가자, 장시간 영상이 모두 필요 없다.
- MiniWorld-1B(253프레임 클립으로 사전훈련)를 381프레임 클립으로 최대 36 GPU시간 동안 미세조정하면 4,000프레임 이상에서도 안정적이고 로봇 조작과 카메라 제어 탐색 모두에서 행동을 따르는 예측을 생성한다.