OpenAI의 '빠른 푸리에 변환'은 수학적 속임수일 뿐

핵심 요약

• OpenAI가 수학 저장소에서 공개한 푸리에 변환(FFT) 알고리즘이 더 빠르다고 주장하지만, 실제로는 현실에서 작동 불가능한 방식이다.
• 기존 FFT는 1965년 쿨리-튜키 알고리즘으로 n²에서 5n log n 연산으로 개선했으며, n=1,000일 때 20배, n=1,000,000일 때 10,000배 속도 향상을 제공한다.
• OpenAI 알고리즘의 상수는 n=10¹²일 때 약 10¹⁰⁰으로 추정되므로, 실제로 더 빠른 n값은 우주의 원자 개수(10⁸⁰)보다 크다.
• 빅-오 표기법의 남용으로 이 결과가 점근적으로 더 빨라 보이지만, 실무용 n값에서는 기존 FFT가 10⁹⁹배 더 빠르다.
• OpenAI 알고리즘은 임의 정밀도 복소수 산술을 가정해 복소수의 크기가 초다항식적으로 증가하며, 이를 저장하려면 메모리가 지수 규모가 되어야 한다.
• 1973년 자크 모르겐스턴이 계수의 크기를 제한하면 n log n보다 빠를 수 없음을 증명했고, 2010년대 니르 아일론이 이 제한 없이는 수치 불안정성이 발생함을 보였다.
• OpenAI의 결과는 수학적 돌파구가 아니라 컴퓨터과학자들이 계산 모델을 자연언어로 제대로 명시하지 못한 데서 비롯한 형식적 불일치일 뿐이다.
• 논문이 현실 컴퓨터를 모델링하지 않으므로 실제 FFT 문제 해결과는 무관하며, 이는 AI가 비현실적 이론 논문을 자동 생성하는 경향을 드러낸다.