킴(Kimi) K3.1 Pro 오픈 가중치 공개
원제 Kimi K3.1 Pro model weights are out
144 포인트댓글 28
Key Point
중국 AI 스타트업이 공개한 초대형 멀티모달 모델의 가중치가 외부에 공개되어 오픈소스 커뮤니티에서 자유롭게 실험·파인튜닝할 수 있게 됐고, OpenAI·Anthropic 모델들과의 벤치마크 비교를 통해 오픈 모델의 현재 수준을 파악할 수 있다.
핵심 요약
- 쿼크(夸克)가 개발한 Kimi K3.1 Pro는 오픈 가중치 멀티모달 에이전트 모델로, 백 개가 넘는 하위 도메인에서 대규모 강화학습으로 K3에서 후학습했다.
- 100만 토큰 컨텍스트 윈도우를 지원하며, 코딩·3D 생성·금융 조사·사실 정확도·에이전트 기능 등에서 큰 개선을 이뤄냈다.
- 총 파라미터 2.8T, 활성화 파라미터 104B, 93개 레이어, 전문가 896개(토큰당 16개 활성화)의 Mixture-of-Experts 아키텍처를 사용한다.
- Kimi K3와 달리 전체 주의 기반 Gated MLA를 Gated DeepSeek Sparse Attention(DSA)으로 대체해 장문맥 처리 효율을 높였다.
- 비전 인코더는 MoonViT-V2(401M 파라미터)이고, MXFP4 가중치·MXFP8 활성화로 양자화되어 있다.
- 코딩·에이전트·자동화·금융·법률·멀티모달·사이버보안 등 다양한 벤치마크에서 Claude Opus 5.5, GPT-6 Astra, DeepSeek-V4.1 등과 경쟁하는 성능을 보인다.
- 예를 들어 SWE-Marathon v1.1에서 51.7점(Claude Opus 46.3점), 아젠시 작업에서 BrowseComp 92.1점, 할루시네이션 벤치마크 8.3점(낮을수록 좋음, Claude 23.3점)을 기록했다.
- API는 platform.kimi.ai에서 OpenAI/Anthropic 호환 방식으로 접근 가능하며, vLLM·SGLang·TokenSpeed 엔진에서 실행할 수 있다.
- 추론 강도를 'low', 'high', 'max'(기본값)로 설정 가능하고, 멀티턴·도구 호출 시 이전 어시스턴트 메시지 전체(reasoning_content·tool_calls 포함)를 그대로 전달해야 한다.
- Kimi K3.1 Pro 라이선스 하에 공개되었으며, 지난달 797회 다운로드되었다.