TypeSafe, 자동화용 System One 모델 'Jev' 공개
Key Point
기존 LLM의 느린 응답과 불확실한 신뢰도 문제를 해결해 실제 소프트웨어 자동화에 사용할 수 있는 새로운 모델 클래스가 등장했기 때문이다.
핵심 요약
- TypeSafe AI가 기존 LLM보다 100배 빠르고 효율적인 System One 모델 'Jev'를 발표했다.
- Jev는 자동화된 의사결정을 위해 설계되었으며 구조화된 출력을 생성하고 환각(hallucination)이 없다.
- 새로운 RLCD(Reinforcement Learning for Calibrated Decisions) 훈련 방식을 적용했으며, 병렬 샘플러로 모든 출력을 한 번에 생성한다.
- 응답 시간이 70~500ms로 기존 3~329초 대비 40~200배 빠르며, 아웃풋 토큰은 무료다.
- 확률과 신뢰도를 항상 함께 제공해 기존 모델의 과신(overconfidence) 문제를 해결했다.
- 텍스트 생성은 불가능하지만 분류·라우팅·추출 같은 구조화된 결정이 필요한 작업에 최적화되어 있다.