선택 문제의 구조를 존중하는 AI 모델 'Jeva' 제안
원제 Jeva: System One Models from First Principles
추천 270댓글 3
Key Point
선택지 기반 의사결정 시스템의 구조적 요구사항을 처음 체계적으로 정의하고 이를 만족하는 아키텍처를 제시하여, 추천·검색·순위 결정 등 실무 문제들을 근본적으로 다시 설계할 수 있는 접근법을 제공한다.
핵심 요약
- System One 모델은 낮은 지연시간의 의사결정을 가능하게 하지만, 기존 텍스트 직렬화 방식은 의사결정 문제의 구조를 충분히 반영하지 못한다.
- 논문은 구조적으로 중요한 네 가지 요구사항을 제시한다: (i) null-aware(답변 부재를 후보 간 불확실성과 구별), (ii) permutation-invariant(대안의 순서 변경이 결정에 영향 없음), (iii) option-scalable(후보 집합 증가 시 출력 공간 재정의 불필요), (iv) cacheable(반복되는 대안에 대한 재사용 가능).
- 이를 해결하기 위해 Jeva 아키텍처를 제안한다. 공유 인코더가 요청과 각 선택지를 독립적으로 표현하고, 컴팩트 결정 스택이 불변의 선택지 메모리에 대해 요청 상태만 정제한다.
- 대칭 집계로 permutation-equivariant 확률을 얻으며, 공유 스코링으로 가변 크기 후보 집합을 수용한다.
- 별도의 coverage 추정으로 답변 부재와 후보 간 경쟁을 구별하여 명시적 null 결과를 가능하게 한다.
- 요청 독립적 선택지 표현과 레이어 프로젝션을 통해 새로 구성된 집합 간 재사용을 지원한다.
- 이러한 메커니즘은 Choice, Noul, Score 출력을 통합한다.
- 평가 결과 Jeva는 강력한 타입된 의사결정 성능과 거의 완벽한 null 감지, 그리고 어떤 permutation에서도 결정 변동 없음을 보여준다.
- 수천 개의 후보까지 확장 가능하며, 교차 요청 재사용을 통해 의사결정 변화 없이 지연시간을 실질적으로 감소시킨다.