System-1과 System-2의 협력이 AGI 확장의 열쇠인가

핵심 요약

• AGI 달성을 위해 지금까지는 더 큰 모델, 더 많은 데이터와 계산력으로 System-2(실행 담당)를 확장하는 방식에 의존해왔다.
• 논문은 System-1(가벼운 의미 인식 예측기)과 System-2를 함께 설계해 System-2가 가치 있는 작업만 수행하도록 게이팅하는 방식을 제안한다.
• 조건부 상호작용 루프는 System-1이 각 후보의 유용성을 추정, System-2가 적응형 임계값으로 승인된 것만 실행, 결과가 System-1을 업데이트하는 구조로 동작한다.
• 이 루프는 학습, 테스트 시간 추론, 적응형 의사결정, 에이전트 도구 사용 등 전 단계에 걸쳐 작동한다.
• 이상적인 스크리닝과 동일한 실행 비용 하에서 실행 계산량은 1/ρ_u(유용성 관련 상호작용의 밀도) 배수만큼 감소한다.
• 예측 오류, 탐색, 분포 변화는 이 절감 효과를 낮추는 요인이다.
• 선택 후회(selection regret)는 예측기 오류와 유용성 마진으로 제한된다.
• 논문의 핵심 가설은 ρ_u가 확장 효율성의 측정 가능한 좌표이며, 전체 계산량보다 정보 기반 계산(informative compute)이 확장을 더 잘 설명한다는 것이다.