Jev처럼 작동하는 오픈소스 선택 모델 공개
Key Point
상용 모델의 폐쇄된 설계를 재현한 오픈소스 구현으로, 선택형 분류 작업에서 경량 모델의 새로운 가능성을 보여준다.
핵심 요약
- TypeSafe의 상용 모델 Jev를 역엔지니어링한 오픈소스 모델을 깃허브에 공개했다.
- 텍스트와 N개의 선택지를 입력받아 각 선택지별 확률을 한 번에 반환하는 방식으로, 단어 단위 생성이 아닌 원샷(one-pass) 추론을 수행한다.
- 바이트 임베딩 기본 인코더와 선택적 허깅페이스 사전학습 인코더를 지원하며, CPU·MPS·CUDA에서 학습 가능하다.
- 합성 데이터에서 98% 정확도를 달성했고, Wikispeedia 데이터에서 Qwen2.5-0.5B 인코더로 테스트했다.
- JSON 형식 데이터로 학습하며, 설치 및 실행을 위한 quickstart 명령어와 Doom·체스 게임 예제를 제공한다.