자동주행 AI, 시뮬레이션으로 가상 주행 영상 학습
원제 SimVTA: Simulation-Grounded Video-Trajectory Alignment for Driving World Action Models
추천 17댓글 2
Key Point
자동주행 AI가 시뮬레이션으로 생성한 가상 영상을 학습 데이터로 사용해 강화학습 후보 궤적도 감독할 수 있게 되어, 제한된 실제 데이터만으로도 계획 성능을 5% 이상 향상시킬 수 있다.
핵심 요약
- 자동주행 세계 액션 모델(WAM)은 실제 주행 로그에서 기록된 궤적에 대한 영상 데이터만 갖고 있어, 강화학습으로 탐색한 대안적 궤적에는 시각적 감독이 없다.
- SimVTA는 이 문제를 해결하기 위해 시뮬레이션 기반 사후훈련 프레임워크를 제안한다.
- 각 관찰에 대해 후보 궤적을 샘플링하고, 3D 가우시안 스플래팅(3DGS)으로 재구성한 실제 장면에서 월드 엔진 같은 시뮬레이터로 높은 보상을 받는 궤적들의 미래 영상을 렌더링한다.
- 제한된 렌더링 예산 내에서 렌더링된 후보들 중 예측 오류가 큰 미래에 대해 우선적으로 영상 감독을 제공한다.
- 궤적 계획은 그룹 상대 정책 최적화(GRPO)로 최적화하고, 매칭된 영상에 흐름 매칭 손실을 적용해 공유 표현을 업데이트한다.
- 추론 시간에는 시뮬레이터를 호출하지 않고 모델이 직접 궤적을 예측한다.
- NAVSIM v1에서 기존 WAM의 PDMS를 86.2에서 91.3으로 개선(+5.1)하며, NAVSIM v2에서는 88.2 EPDMS를 달성했다.
- HUGSIM에서 폐루프 평가 시 평균 HD-Score 38.8을 기록하며, 공유 표현 업데이트와 높은 오류 미래 우선화가 성능 향상에 기여함을 확인했다.