Inception의 Mercury 2.5, 초당 770토큰 생성 속도로 가성비 모델 등장
원제 Mercury 2.5 LLM hits 770 tokens per second
102 포인트댓글 62
Key Point
초당 770토큰 생성이라는 초고속 처리 속도를 비용 효율적인 가격으로 제공해, 지연시간이 중요한 실시간 애플리케이션 개발자들이 선택할 만한 새로운 옵션이 되었다.
핵심 요약
- Inception이 개발한 Mercury 2.5는 2026년 9월에 출시된 프로프라이어터리 추론 모델이다.
- 초당 770.4토큰 생성 속도를 제공하며, 동일 가격대 추론 모델 중앙값(111.6토큰/초)을 훨씬 상회한다.
- 입출력 가격은 각각 $0.25, $0.75/백만토큰으로, 중앙값 $0.92 출력가보다 낮아 가성비가 좋다.
- Artificial Analysis Intelligence Index에서 12점을 획득해 같은 가격대 모델 중앙값(13점)보다 낮으나, 출력 토큰 35M은 중앙값 85M보다 훨씬 간결하다.
- 260k토큰의 컨텍스트 윈도우를 제공하며 텍스트 입출력만 지원하고, 이미지 입력은 불가능하다.
- 시간-대-첫-토큰(TTFT) 3.06초는 중앙값 2.21초보다 다소 높으나, Intelligence Index 작업당 비용은 $0.06으로 효율적이다.
- 확장된 사고(extended thinking) 또는 사슬-추론(chain-of-thought) 기능을 통해 복잡한 문제를 단계적으로 해결한다.
- 프로프라이어터리 모델로 가중치는 공개되지 않으며, 파라미터 수도 공개되지 않았다.
- 1개의 API 제공자를 통해 이용 가능하다.