다단계 디노이징 중 환각 제거, 마스크된 확산 언어 모델에 새로운 방법
Key Point
마스크된 확산 언어 모델의 환각 문제를 구체적인 원인(엔트로피 스파이크)로 진단하고 단계별 개선으로 해결하는 방법이 여러 모델에서 검증되었기 때문에, 멀티모달 모델 개발팀이 바로 적용할 수 있습니다.
핵심 요약
- 마스크된 확산 언어 모델(MDLM)은 반복적 개선으로 강한 전역 모델링 성능을 보이지만, 디노이징 과정에서 일부 단계에서 엔트로피 스파이크가 나타나며 이것이 환각과 밀접히 연관되어 있습니다.
- 연구팀은 각 디노이징 단계의 엔트로피를 이웃 시간 윈도우와 비교해 이상 단계를 식별할 수 있다고 발견했습니다.
- 문제는 이산 토큰 커밋이 마스크된 위치의 분포 정보를 버려서, 엔트로피 스파이크 시 후보 의미론과 문맥 간 상호작용이 제한된다는 것입니다.