LLM 에이전트를 위한 Codemode: 하네스 내 코드 실행

핵심 요약

• Codemode는 LLM 에이전트가 하네스(뇌) 측에서 복잡한 작업을 표현하고 조율하는 방식으로, 실행 환경(손)과는 분리되어 있다.
• Bash의 근본 한계는 프로그램만 조합할 수 있다는 것인데, 이미지 읽기나 서브 에이전트 생성처럼 하네스의 네이티브 도구가 필요한 작업들이 있다.
• Pi는 Codemode를 JavaScript 기반으로 구현했으며, QuickJS WASM 런타임에서 네트워크·파일시스템·타이머 없이 격리 실행되고 도구 호출만 가능하다.
• Codemode를 통해 bash 호출 시 2000줄만 잘라내는 대신 더 큰 구조화된 출력을 받을 수 있고, 상태를 트랜스크립트에 저장했다가 다음 호출에서 로드할 수 있다.
• Promise.all로 동시 작업을 표현할 수 있으며, Pi는 총 동시 도구 실행을 4개로 제한하고 나머지는 큐에 보관한다.
• 이미지 생성, 텍스트 분류기(Jev) 같은 내부 모델 API는 일반 도구로는 낭비적이지만 Codemode를 통해 에이전트가 직접 호출할 수 있다.
• Codemode로 MCP 서버 호출이 가능하며, 에이전트가 먼저 도구 검색 API로 사용 가능 기능을 발견하고 점진적으로 활용한다.
• 현재 MCP 서버들은 Codemode를 고려하지 않아 Cloudflare처럼 MCP 내부에 Codemode를 구현하는 방식이 생겼는데, 이는 이중 JSON 이스케이핑과 혼동을 초래한다.
• Codemode가 MCP와 잘 작동하려면 서버들이 Codemode를 지원하는 하네스를 명시적으로 대상으로 설계해야 한다.
• Bash CLI 기반 설계는 여전히 중요하며, MCP 생태계가 코드 중심 설계를 채택한 것은 1년 전 제안과 일치한다.
• Codemode의 현재 한계는 지속성 관리, 소형 모델의 이미지·바이너리 데이터 처리, 결정론적 조합 언어 고려(Starlark 같은) 등이 있다.
• Codemode는 완벽한 솔루션은 아니지만 에이전트에게 자유도를 주는 유용한 패턴으로, 향후 더 활용할 것으로 예상된다.