중국어 의사결정형 AI 모델 'Chinese-Jev' 공개
원제 Chinese-Jev: Bringing System One Model to Chinese-Language Tasks
추천 12댓글 2
Key Point
생성형 LLM 중심의 AI 개발 흐름에서 빠른 의사결정 작업에 특화된 System One 모델의 필요성이 증대되고 있으며, 중국어 처리 시 모바일 기기까지 효율적으로 배포할 수 있는 구체적 솔루션이 제시되었다.
핵심 요약
- System One 모델인 Jev를 중국어 작업에 맞게 개선한 Chinese-Jev를 공개했다.
- 기존 Jev 모델이 중국어 의사결정 정확도에서 제한이 있었기에, 통합 데이터 처리 및 학습 파이프라인으로 이를 보완했다.
- 이질적인 중국어 주석을 후보 선택지별 확률로 변환하는 데이터 처리 프로토콜을 개발해 도메인과 질문 형식 간 학습을 통일했다.
- 경량 인코더 기반 백본으로 텍스트를 인코딩하고 의사결정 지향적 학습으로 답안을 채점한다.
- 일반용 1천만 개 예시로 먼저 사전학습한 뒤, 의료·법률·금융 도메인별로 추가 미세조정했다.
- 일반 도메인에서는 폐쇄형 Jev 모델을 1.24% 초과했으면서도 20.3배 빨라졌고, 의료 분야에선 4.0% 개선되고 17배 빨라졌으며 평균 지연시간은 15ms이다.
- INT8 양자화 모델은 모바일 기기에서 1.0초 내 추론이 가능하다.
- 평가를 위해 일반 및 도메인별 중국어 의사결정 정확도와 보정을 측정하는 Chinese-Jev Bench(CJ-Bench)를 새로 도입했다.