Hacker NewsAI · 머신러닝

스텝펀의 1백만 토큰 초대형 컨텍스트 모델 Step 5 Preview 공개

원제 Step 5 Preview, a 1M-context MoE from StepFun, shows up on OpenRouter

111 포인트댓글 25
Key Point

1백만 토큰의 초대형 컨텍스트로 긴 문서와 코드베이스를 한 번에 처리할 수 있어, AI 에이전트 구축과 복잡한 소프트웨어 엔지니어링 작업을 크게 단순화한다.

핵심 요약

  • 스텝펀이 에이전틱 작업 전용 플래그십 모델 Step 5 Preview를 OpenRouter를 통해 공개했다.
  • 27B 활성/600B 총 파라미터의 스파스 Mixture-of-Experts 아키텍처로 설계되었으며, 소프트웨어 엔지니어링과 재무 분야에서 강점을 보인다.
  • 1,000,000 토큰의 초대형 컨텍스트 윈도우를 지원하며 최대 64,000개의 생성 토큰을 처리할 수 있다.
  • 대규모 코드베이스와 문서를 다루는 확장된 작업을 위해 설계되었으며, 도구 사용과 다단계 결과 개선을 지원한다.
  • 가격은 입력 토큰당 $1.00/M, 출력 토큰당 $2.70/M이며, 캐시 읽기는 $0.05/M이다.
  • 함수 호출을 위한 도구 기능을 지원하고, JSON 스키마를 통한 구조화된 출력도 제공한다.
  • 텍스트, 이미지, 비디오를 입력으로 받아 텍스트를 반환한다.
  • Step 3.7 Flash는 196B 파라미터 언어 백본과 비전 인코더를 갖춘 고효율 멀티모달 MoE 모델로, 토큰당 약 11B 파라미터를 활성화하고 256K 컨텍스트 윈도우를 지원한다.
  • Step 3.7 Flash는 추론 수준(high/medium/low)을 선택할 수 있어 속도, 비용, 추론 깊이를 트레이드오프할 수 있다.
  • Step 3.5 Flash는 스텝펀의 가장 유능한 오픈소스 기초 모델로, 196B 파라미터 중 토큰당 11B만 활성화하는 MoE 구조의 추론 모델이다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗