코딩 AI 학습 데이터 수집을 위한 이력 기반 궤적 수집 방법 제시

핵심 요약

• 코딩 에이전트가 저장소 이슈를 해결하는 과정에서 생기는 긴 탐색·편집·검증 수열들이 학습 데이터로 활용되고 있다.
• 기존 방식은 각 이슈마다 여러 궤적을 독립적으로 샘플링한 뒤 선별하지만, 샘플이 많아질수록 중복이 증가하고 이전 데이터가 향후 수집 방향을 안내할 수 있다는 점을 무시한다.
• 이력을 코딩 에이전트의 컨텍스트로 직접 제공하면 학습 시 그 조언에 의존하게 되어 테스트 시 사용할 수 없는 정보에 모델이 편향되는 문제가 생긴다.
• SWE-Trail은 이전 궤적들을 분석해 추가 수집이 필요한 지점을 찾되, 그 이력을 에이전트의 컨텍스트 밖에 두고 에이전트는 평상시 정보만으로 후보 액션을 생성하도록 한다.
• 해당 체크포인트에서 에이전트의 후보 액션들을 실행해본 뒤 어느 경로가 계속 진행되어야 할지 결정한다.
• Ling-3.0-flash-base 기반 124B 학생 모델을 학습시킨 결과, SWE-Trail은 독립 샘플링 대비 SWE-bench Multilingual에서 평균 2.33 포인트, SWE-bench Pro에서 1.60 포인트 해결률을 높였다.
• 이력 없이 같은 파이프라인을 쓰면 독립 샘플링보다 많은 해결된 궤적을 생성하지만 Multilingual에서는 0.11 포인트만 개선되므로, 이력이 에이전트에 노출되지 않으면서 수집을 안내할 때 진정한 가치가 나타난다.