파일 기반 작업 에이전트 학습 데이터 자동 생성 프레임워크 GraphForge
원제 GraphForge: Training Working Agents with Graph-Anchored Workspace Synthesis
추천 34댓글 2
Key Point
실제 업무 시뮬레이션 기반 에이전트 학습 데이터를 자동으로 만드는 새로운 방법론으로, 에이전트 학습의 데이터 병목을 해소하는 실질적 솔루션을 제시한다.
핵심 요약
- 현실적인 파일 기반 작업을 수행하는 에이전트를 학습시키려면 실제 파일을 포함한 검증 가능한 태스크가 필요하지만, 이런 데이터를 만드는 파이프라인은 거의 없다.
- 기존 방식은 모델이 생성한 파일(현실성 부족) 또는 실제 파일 기반이지만 검증 방법이 없는 문제를 안고 있었다.
- GraphForge는 증거 그래프 기반 프레임워크로, 태스크와 검증을 모두 실제 파일에 고정시킨다.
- 직업 기반 시드에서 출발해 각 시드마다 실제 파일 워크스페이스를 구성하고, 파일 간 관계를 나타내는 증거 그래프를 구축한다.
- 태스크 설명과 채점 기준 모두 이 그래프에서 파생되므로, 요구사항이 워크스페이스 파일로 뒷받침되고 각 평가 기준은 검증에 필요한 파일에 연계된다.
- 초기 실행 가능성 검증을 거친 후, 리비전 에이전트가 원본 파일과의 충돌을 수정한다.
- Qwen 3.6-27B 모델을 2,169개의 GraphForge 궤적(trajectory)으로 파인튜닝하면, OpenHands에서 GDPVal이 1445.7(+65.7 향상), Claude Code에서 Workspace-Bench-Lite 63.7(+7.7), SpreadsheetBench II 24.0(+13.7)을 기록했다.
- 증거 그래프 기반 채점 기준으로 선택한 후보에 대해 거부 파인튜닝을 적용하면 세 벤치마크 모두에서 추가 개선이 일어나, 채점 기준이 선택 신호로 유용함을 시사한다.
- 데이터와 모델은 공개된다.