시각-언어 모델의 "의식" 구조 규명, 개념 접근성 분석 도구 개발
Key Point
시각-언어 모델의 내부 작동 원리를 뇌의 의식 메커니즘과 연결하여 해석하는 새로운 분석 도구로, 모델의 의미 이해 과정과 정렬 훈련의 구체적 메커니즘을 규명하는 데 도움이 된다.
핵심 요약
- Vision-language models(VLMs)가 시각과 텍스트 정보를 통합하지만 내부 개념 표현은 드러나지 않는 문제를 해결하기 위해 Multimodal Concept Lens(MC-Lens)를 개발했다.
- MC-Lens는 multimodal Jacobian lens로서 뇌의 global workspace theory(GWT)를 모델링하며, 중간 상태를 디코더의 출력 어휘로 정의된 공유 의미 공간에 매핑한다.
- multimodal 개념 정보는 중간 상태에서 읽을 수 있으며, 작업 요구에 따라 선택적으로 접근 가능함을 확인했다.