LLM 환각 탐지 벤치마크 비교 불가능한 이유
원제 Mycelium: A Meta-Study of Hallucination Detection Across Provenance, Typology, and Granularities
추천 26댓글 2
Key Point
LLM 성능을 평가하는 핵심 지표인 환각 탐지가 벤치마크마다 다르게 정의되고 측정되기 때문에, 어떤 방법이 실제로 더 나은지 판단할 수 없다는 문제를 드러낸다.
핵심 요약
- 대규모언어모델(LLM)의 환각 탐지는 모델 평가와 배포에 점점 중요해지고 있으나, 기존 방법들은 서로 다른 정의와 측정 방식을 쓰는 벤치마크에서 비교되고 있다.
- 연구팀은 환각 탐지를 벤치마크 조건부 측정 문제로 보고, 세 가지 축으로 기존 벤치마크들을 분류했다: 모델 출력과 근거 조건을 어떻게 얻는지를 설명하는 '출처', 사실성과 충실성 오류를 어떻게 정의하는지를 나타내는 '유형분류', 환각을 어떤 단위로 주석·예측·평가하는지를 명시하는 '단위'이다.
- 벤치마크 구성, 주석 방식, 평가 방법의 차이가 예측 작업에 어떻게 영향을 미치고, 탐지기의 메커니즘과 가정이 어떤 조건에서 성능을 보이는지를 분석했다.
- 구간 단위 평가에서 주석 경계 차이가 보고된 결과에 상당한 영향을 미칠 수 있음을 확인하고, 포함 범위 기반 대체 지표인 Span Coverage F1을 제안했다.
- 이 분석은 탐지기 점수가 무엇을 측정하는지를 명확히 하고, 벤치마크 간 비교의 한계를 드러내며, 벤치마크 조건 간 일반화에 대한 더 명시적인 평가의 필요성을 제시한다.