Ripple-65B, 에이전트 코딩 성능 오픈웨이트 최강자로

핵심 요약

• 미국 AI 칩 설계 회사 Ricursive Intelligence가 에이전트 코딩 분야의 오픈웨이트 최고 성능 모델 Ripple-65B Preview를 공개했다.
• Ripple-65B는 12조 개의 토큰으로 사전학습되었으며 최대 100만 토큰의 컨텍스트 길이를 지원한다.
• TerminalBench 2.1에서 80.52점으로 미국 오픈웨이트 SOTA를 달성했으며, Reflection Beam 501B(80.1), Meta Muse Spark Open 816B(76.4), Thinking Machines Inkling 975B(63.8) 등 훨씬 큰 모델들을 능가한다.
• Dense Transformer 아키텍처로 낮은 지연 시간의 토큰 생성을 제공하며, 작은 파라미터 수 덕분에 로컬 기기에서도 효율적으로 실행 가능하다.
• 개발 비용은 총 3,200만 달러로, 기존 오픈웨이트 최고 성능 모델의 약 1/10에 불과하다.
• 브루트포스 강화학습 대신 SFT와 RL 레시피를 정교하게 반복하고, 자체 합성 데이터 파이프라인을 구축하여 계산 효율성에 집중했다.
• Reflection Beam 대비 약 70배 적은 140만 개의 롤아웃으로만 TerminalBench 2.1 80.5점을 달성했다.
• NVIDIA 하드웨어에서 효율적으로 학습과 배포되도록 설계된 65B 밀집 모델로, 간단한 셰딩만으로도 학습 전반에 40% MFU를 유지했다.
• 모델 아키텍처는 얇고 깊은 형태(d_model 5120, 80개 레이어)로, SWA-to-글로벌 레이어 비율 증가, FFN 활성화 클리핑, 게이트 어텐션 등을 추가했다.
• Olmo 3 모델 래더에서 출발해 반복 실험으로 프리트레이닝 레시피를 최적화했으며, 최종 버전은 4B 스케일에서 코드 성능을 달성하는 데 필요한 계산량을 기존 대비 16배 감축했다.
• Hugging Face, Together AI, GMI Cloud, OpenRouter에서 이용 가능하며, Fireworks는 당일 추가 예정이다.
• Ricursive는 AI 칩 설계 플랫폼의 내부 모델로 Ripple을 활용하고 있으며, 향후 프론티어 수준으로 확장할 계획이다.