언어-행동 이중 부트스트래핑으로 네비게이션 성능을 자동 개선하다

핵심 요약

• 자연어 지시를 따라 목표 위치에 도달하는 비전-언어 네비게이션 모델을 만들 때 고품질의 언어 감독 데이터가 필수이나, 사람이 직접 주석을 다는 것은 비용이 많이 든다.
• 기존 방법들은 네비게이션과 명령어 생성을 분리된 모델로 처리하거나 특정 컴포넌트로 묶어서 처리하는 한계가 있었고, 고정된 모델로 전체 궤적을 미리 주석해서 생성된 감독이 진화하는 정책에 뒤처지는 문제가 있었다.
• 논문은 RSI-Nav라는 데이터 중심의 재귀적 자가개선 프레임워크를 제안하며, 하나의 공유 모델로 비전-언어-행동 명령 수행과 비전-행동-언어 명령 생성을 통합한다.
• 지도학습으로 기본 능력을 갖춘 후, 라벨 없는 궤적을 작은 단위(샤드)로 나누어 순차 처리하면서 현재 모델이 명령어를 생성하고, 목표 완료와 경로 효율성을 평가한 뒤 적합한 샘플을 유지하고 다음 샤드를 처리하기 전에 즉시 자신을 업데이트한다.
• 이러한 샤드 단위 업데이트는 새로 생성된 감독이 진화하는 정책과 항상 동기화되도록 유지한다.
• 공간 이해 데이터를 함께 활용했으며, 더 나은 공간 추론이 네비게이션 성능을 향상한다는 점을 반영했다.
• 실험 결과 R2R-CE에서 68.6% SR, RxR-CE에서 72.4% SR을 달성했으며, 명령어 생성 능력과 재귀적 진화 후 공간 이해도 개선되었다.