안전한 자율주행을 위한 VLA 모델 SafeDriveVLA 제시
원제 SafeDriveVLA: Navigation-Conditioned World Model Dreaming for Conflict-Aware End-to-End Autonomous Driving
추천 11댓글 1
Key Point
자연어 지시 기반 자율주행에서 운전자의 부주의하거나 악의적 명령이 만드는 충돌 문제를 처음으로 체계적으로 다루고, 이를 해결하는 방법론을 제시했기 때문에 안전성이 중요한 자율주행 개발자들에게 실질적인 가치가 있다.
핵심 요약
- Vision-Language-Action(VLA) 모델이 자율주행에 주목받고 있으나, 자유형식 자연어 지시가 현재 장면과 충돌할 수 있다는 새로운 취약점이 있다.
- 연구진은 네비게이션 추종과 충돌 인식, 적대적 강건성을 함께 평가하는 첫 벤치마크 스위트를 공개했으며, 기존 VLA 모델들이 모두 불안전한 지시에서 성능이 급격히 저하된다.
- SafeDriveVLA는 3단계 네비게이션 준수 모드를 명시적으로 예측해 충돌 추론을 행동 생성에서 분리한다.
- 네비게이션 조건화 월드 모델 드리밍 기법을 사용하여, 전문가나 계획된 행동이 아닌 네비게이션 신호를 엄격히 따를 때의 안전성을 판단한다.
- Bench2Drive 벤치마크에서 88.16 Driving Score와 68.64% Success Rate를 달성했으며, 폐루프 언어 추종은 49.3% 개선했다.
- 불안전한 지시 하에서 충돌을 기존 최고 성능 모델 대비 60건에서 38건으로 줄였다.