추측 샘플링과 확산 모델의 속도-품질 트레이드오프 분석
원제 Speculative Diffusion is a Tale of Two Tradeoffs
추천 21댓글 2
Key Point
LLM 추론 성능을 높이는 두 가지 기술(추측 디코딩과 확산 모델)의 트레이드오프를 체계적으로 분석함으로써 최적 조합 방식을 제시한다.
핵심 요약
- 추측 디코딩(Speculative Decoding)은 빠르지만 품질이 낮은 초안 모델에서 샘플링해 LLM 추론 속도를 높이는 기법으로, 전통적으로는 검증자 분포 대비 손실 없이 속도 향상을 보장한다.
- 최근 개발된 확산 LLM(dLLM)은 더 적은 확산 스텝으로 출력 품질을 떨어뜨려도 대폭의 속도 향상을 달성할 수 있다는 점에서 다르다.
- 확산 모델은 토큰을 병렬로 생성하기 때문에 자회귀 모델보다 빠르게 샘플링할 수 있어, 추측 디코딩의 초안 모델로 유망하다.
- 추측 디코딩 자체도 검증자 분포에 대해 더 관대한 수용 기준을 사용해 손실을 감수하면서 더 빠른 샘플링을 할 수 있도록 일반화할 수 있다.
- 본 논문은 확산 스텝과 추측 디코딩 관대성이라는 두 파라미터를 함께 조정했을 때 달성 가능한 완전한 파레토 프론티어를 탐색한다.
- 실험 결과 두 파라미터를 함께 변화시키면 단일 스텝 확산 초안 방식보다 속도-품질 파레토 경계를 확장할 수 있음을 보여준다.