LLM으로 상품 검색 정확도 높이는 카탈로그 최적화 기법
원제 RPTune: Learned Context Curation for LLM Catalog Search
추천 29댓글 2
Key Point
소규모 상점의 상품 검색 정확도를 대폭 높일 수 있는 실용적 기법이며, 장문맥 LLM을 실제 전자상거래에 활용하는 방식을 제시한다.
핵심 요약
- 소규모 온라인 상점들은 전체 카탈로그를 LLM의 장문맥 윈도우에 집어넣는 방식을 사용할 수 있으나, 단순히 포함시키는 것만으로는 모델이 정보를 효과적으로 활용하지 못한다.
- RPTune은 카탈로그 구성 방식을 학습하고 LLM을 미세조정하는 통합 프레임워크로, 자동 생성된 카탈로그 기반 감독 신호를 사용한다.
- 인코더-재정렬기 큐레이터가 다운스트림 LLM 피드백에 따라 상품을 순서대로 정렬하고 불필요한 항목을 제거한다.
- 정렬된 카탈로그를 사용하면 문맥 상대 보상을 통해 LLM 미세조정의 효과가 향상된다.
- 실제 7개 온라인 상점에서 상품당 100개의 복잡한 대화형 쿼리로 평가한 결과, RPTune은 상용 및 오픈소스 LLM 모두에서 검색 정확도를 개선했다.
- 카탈로그 최적화만으로도 최대 31.4%포인트 향상, 추가 미세조정으로 평균 10.3%포인트 더 개선된다.