DeepSeek, 에이전트 AI 학습용 샌드박스 인프라 공개
원제 DeepSeek Elastic Compute (DSec)
135 포인트댓글 37
Key Point
에이전트 AI의 대규모 학습에 필요한 인프라 구조가 어떻게 설계되는지 보여주며, 복잡한 샌드박스 관리 문제를 실무에서 푼 구체적인 방식을 공개했다.
핵심 요약
- DeepSeek이 대규모 에이전트 AI 학습·평가를 위한 프로덕션 샌드박스 플랫폼 'DSec'를 개발했다.
- DSec는 함수 호출, 컨테이너, 마이크로VM, 전체VM 같은 4가지 백엔드를 통합 SDK로 제공하며, 클러스터 전체에 걸쳐 배치와 생명주기를 조정한다.
- 독립적으로 버전 관리되는 레이어로 실행 환경을 구성하고, 메모리 공유·회수·CPU 스케줄링으로 고밀도 실행을 구현하며, Fire-Flyer File System(3FS)을 통해 이미지 데이터를 필요 시점에 로드한다.
- RL 프레임워크와 공동 설계되어 상태 유지 롤아웃 실행과 선점 가능 GPU 학습을 분리하고, 리워드 해킹 같은 에이전트 오작동을 완화한다.
- 프로덕션 규모 단위는 약 160개 노드로 구성되며 하루 약 300만 개 샌드박스를 처리한다.
- 현재 38만 개 이상의 동시 샌드박스를 지원하고, 초당 5000개 이상의 샌드박스 생성을 유지한다.
- 이러한 메커니즘은 환경 설정과 이미지 배포 오버헤드를 줄이고, 메모리 효율을 개선하며, 고밀도 오버커밋 상황에서도 지연 민감성이 있는 성능을 유지한다.