인간 시연으로 로봇 정책 적응 가능하게한 H2RB 프레임워크
원제 Human-to-Robot Transfer via Bridging Representation and Action Space in VLAs
추천 13댓글 2
Key Point
로봇 정책 미세조정 시 비용이 많이 드는 로봇 데이터 대신 수집이 쉬운 인간 시연을 활용할 수 있는 실질적 방법을 제시하기 때문이다.
핵심 요약
- 사전학습된 Vision-Language-Action(VLA) 정책은 로봇 배포의 좋은 출발점이지만, 대상 로봇과 환경에 맞추려면 로봇 고유의 비용 많이 드는 시연이 필요하다.
- 인간 시연은 수집이 훨씬 쉽지만, VLA가 주로 로봇 데이터로 사전학습된 경우 인간-로봇 embodiment 차이가 크면 직접 활용하기 어렵다.
- H2RB(Human-To-Robot Bridge)는 쌍을 이루지 않은 인간과 로봇 시연으로부터 사전학습된 VLA 정책을 적응시키는 인간-로봇 공동 학습 프레임워크다.
- H2RB는 두 인터페이스에서 embodiment 격차를 해소한다: 기하학 앵커 정렬은 인간과 로봇 관측을 호환 가능한 표현으로 정렬하고, 분리된 디코더 토크나이저는 액션 잠재값을 공유해 두 도메인을 단일 액션 매핑으로 강제하지 않는다.
- 이 설계는 인간 시연이 행동 감독을 제공하면서도 사전학습된 VLA의 풍부한 시각, 의미론, 제어 사전지식을 유지한다.
- 실제 작업에서 H2RB는 물체 이동 성능을 8.0에서 51.8로 크게 향상시켰고, 기존 공동학습 기준선이 인간 시연 기술 이전에 완전히 실패하는 설정에서 기술 이전 점수 62.7을 달성했다.
- 물체 배치 변화 환경에서도 효과가 지속되어, 분포 외 이전 성능을 6.0에서 45.3으로 개선했다.
- H2RB는 인간 시연이 사전학습된 로봇 정책 적응의 확장 가능한 감독 소스로 기능하여, 비용이 큰 대상 로봇 데이터 수집에 대한 의존성을 줄일 수 있음을 시사한다.