이미지 생성을 위한 '연속 공간 추론' 통합 멀티모달 모델 LARC
원제 Latent Reasoning in Continuous Space for Unified Multimodal Models
추천 23댓글 1
Key Point
이미지 생성 모델에서 추론과 생성의 공간 불일치를 해결하는 새로운 접근법으로, 테스트 시간 스케일링과 더 나은 제어 능력을 가능하게 한다.
핵심 요약
- 통합 멀티모달 모델(UMM)이 다양한 멀티모달 작업에서 성공하지만, 언어 기반 사고 체인을 활용한 이미지 생성에서는 약점을 보인다.
- 기존 추론 강화 모델들은 큰언어모델처럼 테스트 시간 스케일링이나 세밀한 제어 능력을 갖지 못하는데, 추론이 이산 토큰 공간에서 이뤄지면서 이미지 생성의 연속 공간과 불일치하기 때문이다.
- 연속 공간 잠재 추론(LARC) 프레임워크는 연속 숨겨진 상태를 기반으로 추론하여 토큰 수준의 병목을 해결한다.
- 학습은 두 단계로 진행된다: 먼저 교육과정 지도학습 미세조정(SFT)으로 토큰 기반 추론을 잠재 추론으로 점진적으로 전환하고, 다음으로 정보 획득 강화학습(RL)으로 감독 데이터 없이 자체 진화하는 추론을 개발한다.
- 텍스트-이미지 생성 벤치마크 전반에서 생성 품질, 프롬프트 준수, 구성 충실도가 일관되게 향상되었다.
- GenEval에서 BAGEL 대비 7%p 향상을 달성했으며, 병렬과 순차 테스트 시간 스케일링 전략 모두에서 토큰 기반 생성을 초과하는 명확한 테스트 시간 스케일링 거동을 보인다.