교과서 구조에서 수학 증명 380만 개 추출
원제 Scaling Mathematical Proof Supervision from Structured Textbooks
추천 47댓글 3
Key Point
언어 모델의 수학 능력을 근본적으로 개선할 수 있는 새로운 데이터 구조와 38만 개의 증명 레코드를 제시하는데, 실제 교과서 구조를 보존함으로써 기존 단순 문제-풀이 쌍 방식보다 학습 효율이 크게 높다는 점이 중요하다.
핵심 요약
- 언어 모델의 수학 학습 데이터는 보통 문제-풀이 쌍으로 단순화되어, 원본 교과서의 조직체계와 증거 구조가 손실된다.
- 연구팀은 TOME-Math라는 대규모 코퍼스를 구축해 2,118개 대학수학 교과서를 약 38만 개의 구조화된 증명 감독 레코드로 변환했다.
- 변환 과정에서 장(章) 순서, 명제-증명 연결, 의존성 참조, 출처 정보 등의 구조 신호를 보존했다.
- 이 구조적 신호를 활용해 여러 수학 분야에서 커리큘럼 학습을 탐색하고, 감독 데이터 규모와 출처 다양성에 따른 스케일링 패턴을 분석했다.
- TOME-Math 전체 규모로 미세조정 시 기본 모델 대비 평균 점수가 16.7 퍼센트포인트 상승했으며, 공개된 세 가지 명령어 데이터 기준선을 모두 상회했다.
- 연구팀은 구조화된 교과서가 수학 감독의 확장 가능한 소스이자 데이터 구성이 수학 추론에 미치는 영향을 연구할 수 있는 경험적 틀임을 보여줬다.
- 코퍼스는 향후 구조화된 수학 감독 연구를 지원하기 위해 공개될 예정이다.