Key Point
에이전트 개발·배포가 기존 마이크로서비스 오케스트레이터로는 비효율적이라는 새로운 요구를 해결하는 인프라가 나왔으므로, 에이전트 기반 애플리케이션을 운영하려는 팀은 적용 방안을 검토할 필요가 있다.
핵심 요약
- 구글이 개발한 에이전트 실행 플랫폼 AX를 오픈소스로 공개했다.
- 에이전트 작업을 선언적으로 정의하면 AX가 샌드박스 환경에서 안전하게 격리하여 실행하며, 클러스터당 수십억 개 규모의 작업을 처리할 수 있다.
- 작업(Task), 워크스페이스(Workspace), 게이트웨이(Gateway), 모델(Model) 네 가지 기본 구성 요소로 이루어져 있다.
- 유휴 에이전트는 1초 미만에 일시 중단·재개되며, 대기 시간을 다른 작업에 활용하는 밀집 멀티플렉싱으로 비용을 절감할 수 있다.
- 마이크로서비스나 배치 작업과 달리 상태 축적, 엄격한 격리, 모델 API 호출 등이 필요한 에이전트 워크로드를 위해 Google DeepMind 연구와 대규모 격리 경험을 바탕으로 설계됐다.