에이전트를 대규모로 실행하는 Rivet, S3 기반 오케스트레이션 공개
원제 Launch HN: Rivet (YC W23) – Scale and Orchestrate Agents on S3
120 포인트댓글 59
Key Point
에이전트 인프라의 비용과 복잡도를 크게 줄이려는 개발자와 스타트업이 기존 클라우드 솔루션의 제약(높은 메모리, 느린 콜드 스타트, 스토리지 한계)에서 벗어날 수 있는 대안을 얻게 된다.
핵심 요약
- YC W23 스타트업 Rivet이 에이전트와 워크플로우를 대규모로 오케스트레이션하는 오픈소스 플랫폼을 공개했다.
- Rivet Actors는 장시간 실행되는 프로세스로, 인메모리 상태, SQLite 데이터베이스, WebSocket, 스케줄링을 갖춘 가상 액터 패턴 구현이다.
- 메모리는 액터당 72KB, p99 콜드 스타트는 4.99ms, 모든 데이터가 S3에 저장되어 수십억 개 액터까지 확장 가능하다.
- 액터는 유휴 상태일 때 비용이 들지 않으며 다음 요청 시 상태를 잃지 않고 깨어난다.
- SQLite는 S3를 백엔드로 하면서도 SSD 수준의 성능을 제공하며, 복제된 SSD 스토리지 대비 약 10.4배 저렴하다.
- 에이전트 루프를 샌드박스 밖에서 실행하는 방식으로, 액터는 필요할 때만 도구를 통해 샌드박스와 통신한다.
- 대부분의 에이전트는 도구 호출과 API만으로 작동하므로 샌드박스가 불필요하며, agentOS를 이용한 경량 샌드박싱도 제공한다.
- Rivet은 자체 호스팅 가능하고 Rivet Cloud(AWS, GCP 관리형)와 BYOC(자신의 VPC에 배포) 옵션을 제공한다.
- Node.js와 Bun의 기본 런타임에서 실행되어 기존 패키지, 도구, 테스트가 그대로 작동하며, S3 호환 저장소만 필요하다.
- Apache 2.0 라이선스의 오픈소스이며, Cloudflare Durable Objects의 128MB 메모리 제한, 10GB SQLite 제한, 무작위 제거 등의 제약을 극복한다.
- TypeScript, Rust, Python, Swift용 SDK와 Kubernetes, Docker, Railway 등 다양한 배포 옵션을 지원한다.