Hugging Face 논문AI · 머신러닝오늘의 주요

교과서 구조에서 수학 증명 380만 개 추출

원제 Scaling Mathematical Proof Supervision from Structured Textbooks

추천 47댓글 3Youqing Fang, Zhouqi Hua, Yinhao Tang 외
Key Point

언어 모델의 수학 능력을 근본적으로 개선할 수 있는 새로운 데이터 구조와 38만 개의 증명 레코드를 제시하는데, 실제 교과서 구조를 보존함으로써 기존 단순 문제-풀이 쌍 방식보다 학습 효율이 크게 높다는 점이 중요하다.

핵심 요약

  • 언어 모델의 수학 학습 데이터는 보통 문제-풀이 쌍으로 단순화되어, 원본 교과서의 조직체계와 증거 구조가 손실된다.
  • 연구팀은 TOME-Math라는 대규모 코퍼스를 구축해 2,118개 대학수학 교과서를 약 38만 개의 구조화된 증명 감독 레코드로 변환했다.
  • 변환 과정에서 장(章) 순서, 명제-증명 연결, 의존성 참조, 출처 정보 등의 구조 신호를 보존했다.
  • 이 구조적 신호를 활용해 여러 수학 분야에서 커리큘럼 학습을 탐색하고, 감독 데이터 규모와 출처 다양성에 따른 스케일링 패턴을 분석했다.
  • TOME-Math 전체 규모로 미세조정 시 기본 모델 대비 평균 점수가 16.7 퍼센트포인트 상승했으며, 공개된 세 가지 명령어 데이터 기준선을 모두 상회했다.
  • 연구팀은 구조화된 교과서가 수학 감독의 확장 가능한 소스이자 데이터 구성이 수학 추론에 미치는 영향을 연구할 수 있는 경험적 틀임을 보여줬다.
  • 코퍼스는 향후 구조화된 수학 감독 연구를 지원하기 위해 공개될 예정이다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗