AI 에이전트가 자기 자신을 개선하는 프레임워크

핵심 요약

• 모델 가중치는 고정한 채 프롬프트, 메모리, 워크플로우, 실행 가능한 컴포넌트 같은 에이전트 소프트웨어를 자동으로 수정하는 프레임워크를 제시한다.
• 피드백 기반 프로세스를 형식화하여 승인된 수정사항이 계속 유지되도록 하고, 업데이트 대상을 제안·승인 메커니즘과 분리했다.
• 해석된 상태 변화와 도구·코드 수정, 저장소 제어 논리, 플러그인 구성을 구별하여 관리한다.
• 진화 최적화를 통한 탐색을 특성화하고, 연속적 PAC-러닝으로 신뢰성을 검증한다.
• 명시적 가정 하에서 예상 일반화 한계, 과거 회귀 예산에 조건부 유지 한계, 새로운 독립 검증 데이터를 사용한 고확률 승인 규칙을 제공한다.
• 모델-하네스 공동 설계, 분산 실행, 플러그인 재사용 사례를 검토하며 과학적 신뢰성과 물리적 안전성, 기관 책임에 영향을 미친다.
• 작업 분포와 평가자가 변함에 따라 지속적 검증이 필요하고, 학습·런타임 권한·중대한 조치에 독립적 안전장치가 필수라고 강조한다.
• 66페이지 논문과 함께 깃허브에서 코드와 추가 자료를 공개했다.