LLM 점수 매기기, 순서에 따라 결정 달라진다
Key Point
LLM을 활용한 텍스트 순위 매기기는 정보 검색·추천 시스템의 핵심 기술인데, 같은 품질의 모델이 후보 순서에 따라 다른 결정을 내리는 숨겨진 문제를 드러내고 실질적 해결책을 제시한다.
핵심 요약
- 문서 재순위화·응답 순위 매기기·다중 문서 질의응답에서 LLM은 한 프롬프트에 여러 후보를 함께 점수 매기는데, 이 점수로 문턱값 유지 여부·독자 답변·선호도 학습용 쌍을 결정한다.
- 같은 쿼리와 후보에 대해 순서를 바꾸면 점수가 달라져 최종 결정이 바뀌는데, 랭킹 품질이 같아도 의사결정이 다르다는 문제가 발생한다.
- 실험 결과 점수 매김 품질이 0.010 nDCG@10 범위 내인 다섯 모델도 순서 변경 시 유지 대상 집합의 겹침이 0.66~0.84에 불과했다.