AI 시대, 수학은 어떻게 발전할 것인가

핵심 요약

• 수학 커뮤니티는 AI의 등장으로 근본적인 변화를 맞고 있다. 최근 몇 개월간 AI가 푼 개방형 문제들은 1년 전이라면 훌륭한 논문의 자료가 되었을 정도의 결과물이지만, 이제는 쉽게 생성되고 있다.
• 그러나 수학의 본질은 엄밀한 추론과 의사소통의 문화이며, 이는 수천 년간 변함없이 유지돼 온 핵심이다. AI 시대에도 수학적 사고가 필요하다는 점은 변하지 않는다.
• 현재 기초 모델(foundation model)의 특징은 전체 수학 문헌을 학습했으며 피곤함이 없다는 것이다. AI의 해법들은 기존 기법을 조합해 푸는 문제들이 대부분이며, 근본적인 통찰력이나 새로운 아이디어를 요구하는 문제는 여전히 풀기 어렵다.
• 수학자들이 할 수 있는 첫 번째 대응은 더 어려운 문제를 푸는 것이다. 강화학습 기반 AI는 마지막 궤적의 성공 여부로만 행동의 가치를 판단하기 때문에, 창의성과 고차 전략이 부족할 수 있다.
• 두 번째는 더 큰 생각을 하는 것이다. 수학은 외부에서 부여된 무한한 문제를 푸는 것이 아니라, 어떤 문제를 추구하고 왜 그것을 흥미로워하는지를 스스로 결정하는 학문이다.
• 리만이 1853년 가우스에게 제출한 '기하학의 기초에 관한 가설'은 당시 이해하기 어려웠지만, 후대에 리만 기하학으로 발전했고 아인슈타인의 일반상대성이론에 기여했다. 강화학습 설정에서는 이렇게 장기적이고 영향이 분산된 발전을 평가할 수 없다.
• 갈루아의 순열군 연구, 푸앵카레의 동역학계 분석, 그로텐디크의 개념적 혁신 같은 수학적 진전들도 마찬가지다. AI가 언젠가 이런 진전을 할 수 있을지는 중요하지 않으며, 우리 인간이 중요하다고 여기는 결과인지를 판단하는 것이 우리의 몫이다.
• 알래스카 야생 트레킹을 예로 들면, AI가 항공편 예약은 도와줄 수 있지만 트레킹을 대신해주고 사진을 보내주는 것은 원하지 않는다. 수학에서도 우리의 추론과 심사숙고에 대한 주도권이 무엇보다 중요하다.
• 세 번째는 새로운 것을 시도하는 것이다. 17세기 대수적 방법으로 기하 문제를 푸는 것, 18세기 무한소, 19세기 대수 구조, 20세기 초 집합론과 구조 언어, 최근의 수치·기호 계산이 모두 처음에는 낯설고 불안했지만, 우리는 이들을 습득했다.
• 증명 보조기(proof assistant)와 신경망으로 새로운 수학을 발견하려는 사람들을 단순한 기술자가 아닌 수학자로 봐야 한다. AI 시대에 기호 자동화 개발이나 신경망 훈련은 정리를 증명하는 것만큼 수학의 기여가 될 수 있다.
• 일자리 시장 수축 속에서 전통적 기술만 보존하려는 주장도 있지만, 새로운 기술을 익혀서 우리의 추론과 발견 능력을 개선하는 것이 학문을 강하게 유지하는 길이다.
• 다음 세대 수학자들에게는 세 가지 메시지가 있다. 첫째, 우리는 너희와 함께한다. 학문의 건강과 강력함이 최우선이며, 과거의 경험이 더 이상 유효하지 않을 수 있음을 인정한다.
• 둘째, 수학은 지금도 과거만큼 중요하며 우리는 너희가 필요하다. AI가 집단적 추론 능력을 대체해서는 안 되며, 수학은 그렇게 하기 위한 핵심 역량이다.
• 셋째, 앞의 몇 년은 극도로 흥미로울 것이다. 우리는 공동의 규범과 가치가 무너지는 새로운 경계에 있으며, 그 자리에 무엇을 둘지는 우리 모두가 함께 결정해야 한다. 미래의 역사가들은 이 시점을 새로운 수학 시대의 시작으로 보게 될 것이다.