추천 모델, 각 아이템별로 계산량 다르게 할당
원제 Think Harder Where It Matters: Item-Level Adaptive Recursion for Sequential Recommendation
추천 31댓글 2
Key Point
추천 시스템의 계산 효율을 각 아이템의 중요도에 맞춰 동적으로 조정하는 새로운 접근법을 제시하며, 실제 모든 백본 아키텍처에서 성능 향상을 입증했다.
핵심 요약
- 기존 순차 추천 시스템은 사용자 상호작용 이력의 모든 아이템에 동일한 계산량을 할당하는데, 최종 예측에 미치는 영향이 크게 다르다는 문제가 있다.
- 논문은 두 가지 핵심 진단을 제시한다: (1) 동일 시퀀스 내 아이템들이 필요한 계산량이 큰 차이가 있으며, 대부분은 얕은 처리로 수렴하지만 일부 중요 아이템은 최대 깊이에서만 안정화된다. (2) 고정 할당은 최적이 아니어서 이미 수렴한 아이템의 계산 용량을 낭비하면서 동시에 전체 추천 품질을 손상시킨다.
- 이를 해결하기 위해 LoopRec을 제안한다. LoopRec은 단일 가중치 공유 블록을 반복 적용하고 각 반복 경계에 경량 게이트를 도입해 개별 아이템마다 계속 진행할지 종료할지 이진 결정을 내린다.
- 표현이 충분히 성숙한 아이템은 조기 종료되고, 더 깊은 추론이 필요한 아이템은 다음 반복으로 진행된다.
- 이 설계는 고정된 전역 깊이를 보조 깊이 레이블 없이 학습된 아이템별 속성으로 변환하며, 다양한 백본 아키텍처에 쉽게 적용 가능하다.
- 공개 벤치마크의 4개 백본 패밀리에 대한 광범위한 실험 결과 LoopRec은 일관되게 동일 깊이 고정 모델을 능가한다.
- 추가 분석에서 LoopRec의 학습된 할당은 저빈도 아이템과 최근 상호작용이 자연스럽게 더 깊은 계산을 받는 패턴을 보여 해석 가능하며, 사후 오라클 분석 결과와도 일치한다.
- 코드는 GitHub에서 공개되어 있다.