Mistral, 52B 활성 파라미터 대형 멀티모달 모델 공개
원제 Mistral Large 4
2,013 포인트댓글 1,195
Key Point
오픈웨이트 대형 멀티모달 모델로 저가 가격대에서 기존 모델보다 효율적인 성능을 제공하려는 움직임이 시장에서 중요해지고 있기 때문이다.
핵심 요약
- 미스트랄이 오픈웨이트 멀티모달 모델 'Mistral Large 4'를 공개했다.
- 52B의 활성 파라미터와 1.05T의 총 파라미터를 갖춘 그래뉼러 혼합 전문가(MoE) 아키텍처를 채택했다.
- 1.6B 규모의 비전 인코더를 내장해 텍스트와 이미지 입력을 처리할 수 있다.
- 최대 1M 토큰의 컨텍스트 길이를 지원한다.
- 구조화된 출력, 함수 호출, 문서 질의응답, 프리픽스 캐싱, 배치 처리, 에이전트 등 다양한 기능을 제공한다.
- 입력 토큰 100만 개당 가격이 원가 $1.36에서 $0.68로 50% 인하되었고, 입력 토큰 100만 개당 $0.14에서 $0.07로, 출력은 $4.18에서 $2.09로 할인되었다.
- 퍼블릭 프리뷰 단계에서 제공 중이다.