극한 압축으로 확산 모델 가속화하는 APEX 등장
원제 APEX: Asynchronous Prefix Denoising for Extreme Compression
추천 45댓글 2
Key Point
확산 모델의 토큰 수를 획기적으로 줄이면서도 생성 품질을 유지할 수 있는 방법으로, 추론 속도와 비용에 민감한 생성형 AI 서비스 개발에 직접 영향을 미친다.
핵심 요약
- 확산 모델의 레이턴시 토큰을 극단적으로 압축하면 재구성과 생성 사이의 트레이드오프가 발생한다.
- APEX는 계층적 레이턴시 공간과 채널 그룹별 비동기 디노이징을 결합한 새로운 방식이다.
- 오토인코더가 채널 프리픽스를 구조에서 세부사항 순서로 정렬하고, 공유된 단일 디노이저가 토큰을 추가하지 않고 엇갈린 시간에 생성한다.
- ImageNet-512에서 APEX는 64배, 128배 압축 시 기존 방식을 모든 채널 수에서 능가한다.
- 학습 및 안내 샘플링 계산이 같은 조건에서 256토큰 모델보다 모든 버짓에서 우수하며, 낮은 계산량일수록 개선 효과가 크다.
- 코드는 https://daviddinkevich.github.io/APEX에서 공개된다.