루프형 모델로 필요한 만큼만 생각하는 의사결정 AI

핵심 요약

• 기존 의사결정 모델은 단일 포워드 패스로 한 번에 답을 내놓지만 계산 깊이가 학습 시점에 고정되어 쉬운 문제나 어려운 문제 모두 같은 연산량을 씀.
• 텍스트 생성 방식 모델은 더 깊게 추론할 수 있지만 생성하는 토큰 수에 비례해 계산 비용이 늘어남.
• 논문이 제시한 LEV는 토큰 생성 대신 모델 레이어를 루프로 반복 실행해 더 깊은 추론을 구현함.
• 루프 구조로 사전학습된 언어 모델을 기반으로 하며, 매 루프 단계마다 선택지를 읽고 모든 단계를 함께 학습해 하나의 체크포인트로 임의의 깊이에서 답할 수 있음.
• 세 가지 루프형 기반 모델에서 깊이가 증가할수록 정확도가 상승했으며, 특히 어려운 문제에서 개선이 두드러짐.
• 2.6B LEV 모델은 깊이 1에서 63.2%에서 깊이 4에서 76.2%로 정확도가 올랐음.
• 작은 스토퍼 모듈이 문제별로 필요한 깊이를 동적으로 정하면 정확도 1포인트 미만 손실로 연산량 15~24%를 절감함.
• 비공개 테스트 셋에서 1.4B와 3B LEV 모델은 50ms 이하 지연시간 제약 하에서 일반 밀집 모델과 계단식 모델보다 5.4~8.8포인트 더 정확함.