Hacker NewsAI · 머신러닝

AI가 만든 Lean 증명, 어떻게 검증할까

원제 “…and the proof is checked in Lean”

123 포인트댓글 50
Key Point

AI 생성 수학 증명이 Lean 형식 검증을 통과했다는 주장의 의미를 판단하려면 어떤 구체적 테스트가 필요한지 알아야 한다.

핵심 요약

  • OpenAI가 지난달 발표한 722개 수학 논문 중 45%가 Lean 형식 검증 코드를 포함했으나, 일부는 부호 오류로 철회됐다. 'Lean으로 검증됐으니 맞다'는 주장은 간단하지 않으며, AI 생성 코드의 경우 네 가지 질문에 먼저 답해야 한다.
  • 첫째, Lean 코드의 정리문이 논문의 비공식 명제와 일치하는가를 확인해야 한다. 명제와 증명은 다르며, 정리 정의가 실제로는 거짓일 수 있다. 예를 들어 Fermat의 마지막 정리를 잘못 정의한 코드도 컴파일되지만 증명은 불가능하다.
  • 둘째, 코드가 실제로 컴파일되는지 확인해야 한다. AI 생성 코드는 샌드박스에서 실행하고, 충분한 메모리를 갖춘 기계가 필요할 수 있다. OpenAI의 Navier-Stokes 증명은 640K 줄 코드로 일반 노트북에서도 컴파일된다.
  • 셋째, 코드가 명제한 대로 정리를 증명하는가를 확인해야 한다. 수백만 줄의 증명 코드 어딘가 정의를 재정의하거나 새 공리를 추가하는 트릭이 숨어있을 수 있으므로, `lake comparator` 도구로 신뢰할 수 있는 명제문과 검증되지 않은 증명이 동일하고 수학 공리만 사용하는지 확인한다.
  • 넷째, Lean 커널의 미발견 버그를 악용하는가를 확인해야 한다. Lean은 이제 여러 언어로 작성된 다중 커널을 가지고 있으며, 하나는 어셈블리 수준까지 형식 검증됐다. `lake comparator --paranoid`로 실행하면 여러 독립 시스템의 버그를 동시에 악용하지 않는 한 통과하지 못한다.
  • Lean 코드가 모든 테스트를 통과해도 대응하는 PDF가 올바른 증명을 담지 않을 수 있다. Navier-Stokes 사례에서 PDF 증명과 Lean 증명이 다른 부분이 있으며, 일부 전문가는 AI를 사용해 Lean 증명을 영어로 역변환하거나 읽고 있다.
  • 정리하면, 'Lean으로 검증됐으니 참'이라는 주장은 타당할 수 있지만 단순히 코드 컴파일 이상의 작업이 필요하다. 최신 AI 모델은 모든 검증을 수행할 수 있지만 실제로 수행해야 하며, Lean 코드량에 따라 계산 비용이 많을 수 있다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗