파일에서 인사이트 찾는 AI, 합성 데이터로 학습시키다
원제 Data World: Scaling Data Environments from Scratch
추천 28댓글 3
Key Point
데이터 분석 AI 학습을 위한 현실적인 대규모 데이터 환경 구축 방식이 제시되며, 합성 환경에서의 강화학습이 실제 벤치마크 성능 향상으로 이어지는 경로를 보여준다.
핵심 요약
- 파일을 분석해 인사이트를 도출하는 데이터 에이전트를 대규모로 학습시키기 위해 현실적인 학습 환경 구축이 어려운 문제를 해결했다.
- Data World 엔진은 파일을 먼저 생성하는 대신, 파일 뒤의 세상(데이터 구조·관계)을 명시적으로 정의한 뒤 환경·과제·평가 기준을 합성한다.
- 독립적인 감사로 관찰된 파일에서 정답을 복구할 수 있는지 검증하며, RL 학습을 위한 보상 함수로도 활용한다.
- 인간이 선호도 기반 큐레이션으로 50개의 숨겨진 세계·16개 도메인에서 100개 과제를 선별해 DataWorld-Bench를 구성했다.
- 엔진은 추가로 1,037개의 서로 다른 세계에서 2,135개의 학습 과제를 생성했다.
- 10개 최신 모델 평가 결과 벤치마크는 여전히 도전적이며, 특히 인사이트 발견 부분에서 계산 능력과 실제 성능 간 격차가 지속된다.
- RL-zero 방식으로 합성 과제에 학습한 DataWorld-35B-A3B(Qwen3.6-35B-A3B 기반)는 별도 궤적 증류 없이, DataWorld-Bench에서 기본 모델 대비 7.06점, DAComp에서 14.28점, DABstep-Hard에서 20.90점, 직업 능력 벤치마크 JobBench에서 12.13점 향상했다.