동영상 검색 쿼리를 개인화된 의도대로 다시 쓰는 WeFair
원제 WeFair: Fidelity-Aware Alignment from Human Feedback for Personalized Query Rewriting in Short-Video Search
추천 26댓글 1
Key Point
사용자의 실제 검색 의도를 보존하면서 쿼리를 개선하는 기술이 온라인 서비스에서 입증된 효과를 냈기 때문에, 검색 시스템 개선에 관심 있는 개발자와 PM이 참고할 만하다.
핵심 요약
- 웨이신 동영상 검색에서 사용자의 실제 의도를 모호한 쿼리로부터 복구하는 컴팩트한 쿼리 재작성 모델을 제안한다.
- 기존 LLM 기반 방식은 사용자 행동 피드백을 과도하게 강조해 시청률 높은 콘텐츠를 우선하며 의도 편향을 야기한다.
- WeFair는 인간 피드백의 신뢰도를 할당해 시연(demonstration) → 선호(preference) → 검증(verification) 단계로 진행한다.
- 시연 단계는 검색 세션의 실제 쿼리와 사용자 재작성을 마이닝한 후, 문맥적 지지로 필터링하고 지도학습으로 학습한다.
- 선호 단계는 직접 선호 최적화로 이후 시청 행동으로부터 상대 선호를 학습하고, 검증 단계는 그룹 상대 정책 최적화로 재작성 목표와의 정확한 일치를 보상한다.
- 실험 결과 광범위한 지도학습이 전체 커리큘럼에 유리하며, 엄격한 검증이 보조 보상보다 더 좋은 성능을 낸다.
- 오프라인 실험에서 WeFair-2B가 기존 재작성 모델을 정확도와 의도 보존에서 능가한다.
- 온라인 A/B 테스트에서 유효 영상 시청률 2.593%, 쿼리 재작성률 2.350% 개선을 보였다.
- WeFair-2B는 현재 웨이신 동영상 검색에 배포되어 하루 1억 건 이상의 쿼리를 처리한다.