AI 에이전트를 위한 초경량 오케스트레이터 Rivet 오픈소스 공개

핵심 요약

• Rivet Actors는 에이전트 워크로드를 위한 오케스트레이터로, 전통적인 샌드박스 대신 경량의 long-lived 프로세스 방식으로 운영한다.
• 각 Actor는 72 KB 메모리만 사용하며 p99 cold start가 4.99ms로, 샌드박스의 512 MiB와 1.70초와 비교해 극히 낮다.
• Actor는 인메모리 상태, SQLite 데이터베이스, WebSocket, 스케줄링을 내장하고, 유휴 중일 때는 비용이 들지 않으며 요청 시 복원된다.
• 모든 데이터가 S3에 저장되어 수십억 개의 Actor까지 스케일 가능하며, S3 기반 SQLite는 레플리케이션된 SSD 스토리지보다 약 10.4배 저렴하다.
• 에이전트, 워크플로우, 협업 편집, AI 생성 앱 등 다양한 사용 사례를 지원하며, 에이전트가 추론 대기 중일 때 유휴 VM 비용을 제거하는 '헤드와 핸즈 분리' 아키텍처를 구현한다.
• Node.js, Bun, Rust에서 네이티브로 실행되고 커스텀 런타임이 없어 기존 패키지 및 도구 호환성을 유지한다.
• 로컬 개발, 자체 호스팅, 관리형 클라우드(Rivet Cloud), BYOC(자체 VPC 배포) 등 다양한 배포 옵션을 제공한다.
• Cloudflare Durable Objects 비교 시 128 MB 메모리 제한 없음, 10 GB SQLite 제한 없음, 임의 제거 없음, 런타임 제어 가능 등을 장점으로 제시한다.
• TypeScript, Rust, Python, Swift 클라이언트를 제공하고, 제어 평면, 스케줄링, 라우팅 프록시 등 주요 컴포넌트들이 Rust로 구현되어 있다.
• Apache 2.0 라이선스의 오픈소스이며 S3 호환 스토리지만 필요하고 별도 데이터베이스나 메시지 버스가 없다.