생성 비디오의 3D 일관성을 평가하는 벤치마크 'Orbia' 공개
원제 Orbia: Do Generated Videos Form a Consistent 3D World?
추천 31댓글 2
Key Point
생성 AI 비디오 모델이 시각적으로는 그럴듯하지만 기하학적으로 일관된 3D 세계를 구성하지 못하는 근본적 문제를 첫 체계적으로 평가할 수 있게 해준다.
핵심 요약
- 생성 비디오 모델이 만드는 장면이 실제로 일관된 3D 세계를 이루는지 체계적으로 평가하는 첫 벤치마크 'Orbia'가 발표되었다.
- 기존 벤치마크는 선별된 기하학적 성질만 테스트하거나 비전-언어 모델로 모호하게 일관성을 판단했으나, Orbia는 3D 일관성을 포괄적으로 측정한다.
- 입력 보존, 생성 콘텐츠 지속성, 3D 자체 일관성 세 가지 차원으로 평가를 구성했다.
- 입력 보존은 RGB-D 참고 이미지와 주석이 달린 기준점으로 외형·기하학·공간 안정성을 측정하고, 생성 콘텐츠 지속성은 모델이 스스로 만든 장면을 재방문했을 때 보존하는지 검증한다.
- 3D 자체 일관성은 뷰 간 깊이 대응, 특징점 매칭, 영역별 스케일 일치, 가우시안 렌더링으로 생성된 뷰들이 같은 3D 장면을 설명하는지 확인한다.
- 1분 이상의 탐색 및 재방문을 통해 장기적 일관성도 테스트한다.
- 공개 데이터셋·자체 촬영·시뮬레이션을 결합해 실내외 환경 총 720개 인스턴스를 구성하고 6가지 탐색-재방문 프로토콜을 제시했다.
- 텍스트·행동·카메라 조건부 27개 모델을 평가했으며, 이 벤치마크는 생성 비디오 세계 모델의 3D 불일치 진단과 개선에 체계적 기준을 제공한다.