로봇 제어 모델 추론 1.3~2배 가속하는 VSpark 등장
원제 VSpark: Speculative Decoding for Autoregressive Vision-Language-Action Models
추천 10댓글 3
Key Point
로봇 제어 모델의 추론 속도 문제를 근본적으로 해결하는 기법으로, 다양한 로봇 플랫폼에서 2배 이상의 성능 향상을 무손실로 달성하는 실용적 가치가 있다.
핵심 요약
- 로봇 동작을 한 번에 하나씩 생성하는 자동회귀 비전-언어-행동(VLA) 모델의 추론을 가속하기 위해 추측 디코딩 기법을 적용했다.
- 경량의 초안 모델이 여러 토큰을 한 번에 제안하고, VLA가 이를 한 번의 패스로 검증해 일치하는 것만 수용함으로써 손실 없는 디코딩을 유지한다.
- 로봇 제어에서는 여러 토큰이 거의 같은 동작을 인코딩할 수 있어 초안 모델의 토큰이 올바른 행동에 가까워도 거부되는 문제가 있었다.
- VSpark는 세 가지 설계로 이를 해결한다: (i) 보정된 행동 노이즈로 수집한 롤아웃으로 초안 모델을 더 넓은 로봇 상태에 노출, (ii) 출력 토큰뿐 아니라 VLA의 숨겨진 특징과 일치하도록 초안 모델을 훈련하는 특징 정렬, (iii) 거부된 초안 경로를 따라 VLA가 이미 계산한 예측을 버리지 않고 다음 검증 단계의 후보로 유지하는 연속성 재사용.
- 서로 다른 행동 토크나이저를 가진 4개 VLA와 4개 조작 벤치마크에서 VSpark는 VLA의 디코딩 손실 없이 1.28배에서 2.10배의 속도 향상을 달성했다.