선택지 제시 후 즉시 판단하는 'Drex' 의사결정 모델 공개
원제 Towards Foundation Decision Models: Drex
추천 13댓글 1
Key Point
의사결정 작업에서 자동회귀 추론의 지연을 183ms 수준으로 줄이면서도 경쟁 모델과 동등 이상의 정확도를 달성했으므로, LLM 기반 실시간 의사결정이 필요한 업무와 응용에서 즉시 활용 가능합니다.
핵심 요약
- 기존 자동회귀 방식의 LLM은 높은 정확도를 보이지만 답변 일관성이 떨어지고 출력 파싱이 필요하며 비용과 지연이 큽니다.
- Decision Models는 이를 해결하기 위해 질문과 선택지를 받아 자동회귀 디코딩 없이 선택지 확률 분포를 바로 반환합니다.
- Hugging Face는 Drex라는 의사결정 모델 4개 계열을 공개했습니다: 8B(DLM), 9B(v1.5), 35B 3개 활성(v2.0), 27B(Max) 파라미터 모델입니다.
- 각 요청은 상태(문서, 레코드, 에이전트 컨텍스트, 선택 이미지)와 선택지 선택, 이진 판단, 순서 척도 점수 등을 다루는 질문으로 구성됩니다.
- 훈련은 지도 미세조정과 조정된 피드백 강화학습(RLAF), Max 모델에 대한 비전 튜닝을 결합했습니다.
- RLAF는 정확도를 향상시키고 일관성 손실은 선택지 순서 변화에 대한 견고성을 개선합니다.
- Max는 Decision Index 0.4.1에서 67.52점으로 기존 의사결정 모델(Jev 1.14.0은 60.70)을 능가하며 새로운 최고 성과를 기록했습니다.
- Decision Bench v4에서 Max는 d3-turbo, GPT-6 Sol과 통계적으로 동등하고 Claude Opus 5.5보다 1.6점 뒤떨어지지만, 의사결정 모델 중 최고 정확도입니다.
- Max는 요청당 183ms에 처리하는 반면 GPT-6 Sol은 약 2.0초, Claude Opus 5.5는 3.5초가 소요됩니다.
- Max 출력은 선택지 순서 변경에도 안정적입니다.
- 네 모델 모두 오픈소스이며 GitHub에서 공개되어 있습니다.