다단계 디노이징 중 환각 제거, 마스크된 확산 언어 모델에 새로운 방법
원제 Rethinking in Spikes: Mitigating Hallucinations in MDLMs with Step-Aware Decoding
추천 35댓글 3
Key Point
마스크된 확산 언어 모델의 환각 문제를 구체적인 원인(엔트로피 스파이크)로 진단하고 단계별 개선으로 해결하는 방법이 여러 모델에서 검증되었기 때문에, 멀티모달 모델 개발팀이 바로 적용할 수 있습니다.
핵심 요약
- 마스크된 확산 언어 모델(MDLM)은 반복적 개선으로 강한 전역 모델링 성능을 보이지만, 디노이징 과정에서 일부 단계에서 엔트로피 스파이크가 나타나며 이것이 환각과 밀접히 연관되어 있습니다.
- 연구팀은 각 디노이징 단계의 엔트로피를 이웃 시간 윈도우와 비교해 이상 단계를 식별할 수 있다고 발견했습니다.
- 문제는 이산 토큰 커밋이 마스크된 위치의 분포 정보를 버려서, 엔트로피 스파이크 시 후보 의미론과 문맥 간 상호작용이 제한된다는 것입니다.
- StepRefine이라는 플러그 앤 플레이 디코딩 전략을 제안하며, 핵심은 이산 디노이징과 잠재 공간 개선 사이의 단계 인식형 전환입니다.
- 엔트로피 스파이크 단계에서 확률 가중치가 적용된 임베딩을 사용해 다양한 추론 가설을 보존하고 여러 차례 연속 개선을 수행합니다.
- 개선 컨트롤러가 분포 안정성을 모니터링해 불필요한 반복을 줄이고 표준 이산 디노이징으로 전환합니다.
- StepRefine은 다양한 MDLM에서 멀티모달 벤치마크 전반에 걸쳐 환각 제거 측면에서 현저한 개선을 보여줍니다.