텍스트-이미지 생성 모델에 에이전트 지식 직접 조각내기
원제 Internalizing Agent Experience into Diffusion Model Weights via On-Policy Context Distillation
추천 10댓글 2
Key Point
이미지 생성 품질을 높이는 에이전트 능력을 모델 자체에 영구적으로 내재시켜 일반 사용자도 원본 쿼리만으로 개선된 이미지를 받을 수 있게 하는 새로운 접근 방식이다.
핵심 요약
- 텍스트-이미지 생성 모델을 에이전트 프레임워크로 감싸면 프롬프트 반복 개선과 검증을 통해 생성 품질이 향상되지만, 이런 이득이 모델 가중치에 내재되지 않아 에이전트가 실행될 때만 효과가 발휘된다.
- 논문은 Diffusion On-Policy Context Distillation(D-OPCD)를 제안하는데, 에이전트가 개선한 프롬프트를 특권 정보로 삼아 에이전트의 능력을 확산 모델 가중치로 직접 압축하는 방식이다.
- Auto Skill Evolver(ASE)라는 텍스트-이미지 에이전트를 사용해 D-OPCD를 실험한 결과, 원본 쿼리만으로 생성했을 때 평균 점수가 60.52에서 65.09로 상승했다(4개 벤치마크 기준).
- 에이전트 지식이 모델 가중치에 흡수되면, 에이전트는 더 이상 쓰이지 않는 기술을 버리고 새로운 기술을 진화시킬 수 있으며, 두 번째 ASE 라운드에서는 기술 없는 기존 에이전트 대비 추가 1.83점 향상을 달성했다.
- 이는 에이전트와 모델이 지속적 공진화를 통해 서로를 끊임없이 개선하는 텍스트-이미지 시스템 구축 가능성을 시사한다.