루프형 트랜스포머의 단계 크기를 동적으로 조절하는 TAPS 알고리즘
원제 Scheduling Recursive Reasoning in Looped Transformers
추천 11댓글 1
Key Point
반복적인 추론으로 정확도를 높이는 생성 모델의 효율성을 단계 크기 조절만으로 최대 56% 빠르게 만드는 실용적 기법이 핵심입니다.
핵심 요약
- 순환 추론 모델은 공유 파라미터로 잠재 상태를 반복 개선하며 테스트 시간 계산을 확장하는데, 기존에는 고정된 단위 크기의 업데이트를 적용해 효율성이 제한됨.
- 연구진은 터미널 손실에 대한 순환 업데이트 크기의 민감도를 분석하고, 시간 평균을 지속적 진전(persistent progress)과 중심화된 변동(centered fluctuation)의 정확한 분해식으로 도출함.
- 이를 바탕으로 TAPS(Trajectory Adaptive Progress-Fluctuation Scheduler)를 제안하며, 순환 업데이트 전반에서 두 요소의 균형을 추적하고 온라인으로 단계 크기를 동적 조정함.
- 이론적으로 TAPS가 특정 조건에서 터미널 손실을 감소시키고 더 적은 루프로 목표 품질에 도달함을 증명함.
- 실험 결과 TAPS는 재학습 없이 구조화된 추론 작업에서 터미널 정확도를 개선하고, 학습에 진전-변동 원리를 통합하면 기준선 정확도 대비 최대 1.56배 벽시계 속도 향상을 달성함.
- TAPS는 다양한 순환 구조와 추론 전략에 효과적이며, 업데이트 크기가 아키텍처·깊이와 함께 순환 추론의 보완적 제어축임을 확립함.