추상화의 천재 폰노이만, 20세기를 설계하다

핵심 요약

• 1903년 헝가리 태생 수학자 존 폰노이만(1903-1957, 53세)은 집합론, 양자역학 수학적 기초, 게임 이론, 최초의 저장형 프로그램 컴퓨터 구조, 수치 기상 예보, 자기복제 오토마타 등 근 20개 분야를 개척했고, 모든 현대 컴퓨터는 그가 1945년 설계한 폰노이만 구조(명령어와 데이터를 한 메모리에 저장)를 따른다.
• 6세에 8자리 수를 암산으로 나누고 고대 그리스어로 대화했으며, 한 번 읽은 책은 모두 기억했다는 평판이 있었다. 아버지 막시는 저녁 식탁을 세미나처럼 운영해 가족이 철학·역사·정치 등 폭넓은 주제를 토론하게 했고, 여러 언어 능력은 미래 망명을 대비한 아버지의 의도였다.
• 헝가리 고등학교 수학 교사 라슬로 라츠는 그를 가르칠 수 없다고 판단해 스탠포드 수학과장이 될 가보르 세게를 개인교사로 붙였다. 세게는 첫 수업 후 울면서 학생의 능력에 압도당했다고 전했다.
• 17세에 폰노이만은 새로운 순서수 정의를 제시했는데, 각 수가 그 이전의 모든 수의 집합이라는 개념이었다(공집합이 0, {0}이 1, {0,1}이 2 등). 박사 논문에서는 당시 역설에 시달렸던 집합론에 타입 시스템을 도입해 역설을 타입 오류로 만들었다.
• 폰노이만의 평생 업적을 통관하면 패턴이 보인다. 복잡한 현상에서 가장 작은 공리와 객체 집합을 찾아내고 이를 명확히 한 뒤 떠나는 '추상화의 기술'이었다. 행렬 역학과 파동 역학은 같은 힐베르트 공간의 서로 다른 좌표계였고, 선호도 비교 불가능 문제는 일관성 공리를 적용해 하루 만에 기수적 효용 이론으로 해결했으며, 자기복제 문제는 '명령어로 읽기'와 '데이터로 복사하기'를 분리해 무한 재귀를 피했다.
• 22세에 괴팅겐에서 그는 하이젠베르크의 행렬 역학과 슈뢰딩거의 파동 역학이 같은 이론임을 증명한 뒤, 1932년 저작 '양자역학의 수학적 기초'에서 힐베르트 공간 위에 엄밀한 수학 체계를 세웠는데 이것이 현재까지도 가장 완벽한 공식화다. 파동함수 붕괴 문제에서 어디서 붕괴하든 답이 같다는 폰노이만 절단을 증명했다.
• 1928년 20대 초반에 영함수 정리를 증명해 모든 2인 영합 게임이 해결책을 가짐을 보였고 흥미를 잃었으나, 경제학자 오스카르 모겐슈턴의 '경제 중재로 인한 행동 변화가 모델을 무효화하는 무한 루프' 문제에 돌아와 18개월에 걸쳐 600쪽 저작 '게임과 경제행동 이론'(1944)을 함께 저술했다. 이 시기 동안 로스 앨러모스에서 폭탄 임플로더 설계와 최초의 프로그래밍 가능 컴퓨터 구축도 병행했다.
• 기대효용 공리화를 통해 개인의 선호도를 기수적 척도로 변환해 비교 가능하게 만들었으나, 그의 틀은 영합 게임과 연합에 기초했기에 대부분의 비영합 세계에는 제한적이었다. 내쉬의 비협력 균형이 나중에 이를 일반화했는데, 폰노이만은 이를 자명한 부동점 논증으로 치부하고 중요성을 과소평가했다.
• 1945년 에드박 프로젝트에 합류한 그는 '저장형 프로그램 컴퓨터 아키텍처' 설계안을 발표했는데, 명령어와 데이터가 하나의 메모리에 저장되고 제어부·산술부·입출력부를 갖춘 이 구조가 80년 후 스마트폰까지 모든 컴퓨터의 기본이 됐다. 특허 이득을 거부하고 설계를 공개했으며, IAS 기계 설계도 세계에 배포해 로스 앨러모스의 MANIAC, 랜드의 JOHNNIAC 등 다양한 복제 기계들이 나왔다.
• 울람과 함께 몬테카를로 방법을 발명했고, 이를 위해 의사난수 생성도 개발했으며, IAS 기상청 프로젝트에서 1950년 최초의 컴퓨터 기상 예측을 실행했다. 기후 모델링은 그의 산물이다.
• 1952년 칼텍 강의 '신뢰할 수 없는 부품으로 신뢰할 수 있는 유기체 합성'에서 그는 부품 오류를 막는 대신 중복과 다수결 투표로 임의의 신뢰도를 달성하는 방법을 제시했는데, 이는 내결함 컴퓨팅의 창립 개념이 되고 복제된 상태 머신, 쿼럼, 팩소스의 기원이 됐다.
• 1940년대 후반 자기복제 기계에 관심을 돌린 그는 무한 재귀의 함정을 피하기 위해 기술(description)의 역할을 분리했다. 범용 생성기가 테이프를 명령어로 읽어 기계를 구축하고 테이프를 해석 불가능한 데이터로 복사해 자손에 붙였다. 1948-1949년 발표한 이 아이디어는 1953년 왓슨과 크릭의 DNA 구조 발견 4년 전에 생물 복제의 논리적 필요 구조를 예견했다. 그의 29상태 셀룰러 오토마타는 최초의 셀룰러 오토마타였고, 콘웨이의 라이프 게임, 울프럼의 연구, 인공 생명이 모두 여기서 비롯됐다.
• 폰노이만은 파티와 빠른 자동차를 좋아했고 교차로마다 사고를 냈으며 프린스턴의 한 교차로는 그의 이름으로 불렸다. 냉전을 2인 영합 게임으로 모델링해 소련의 선제 핵폭격을 주장했고, 원자력 위원회에 있으면서 공개적으로 '왜 내일이 아니라 오늘 폭격 하지 않을까'라며 거침없이 발언했으나, 이는 단순 모델의 위험을 간과한 추상화 습관에서 비롯됐다. 반면 튜링과 만델브로트를 지원했고, 프린스턴이 원치 않던 흑인 통계학자 데이비드 블랙웰을 멘토링하며 입학을 강하게 밀어붙였으며, 오펜하이머를 위해 증거금을 낸 후 정치 입장도 공유했다.
• 1955년 '기술로부터 우리가 살아남을 수 있을까'라는 에세이에서 그는 1955년에 이미 핵전쟁과 지구 온난화를 함께 언급했고, 기술 진보가 예측 불가능한 특이점(singularity)을 만들 수 있다고 주장했다. 위험 기술 금지가 해결책이 아니라고 본 그는 '일상적·기회주의적 조치, 옳은 작은 결정들의 긴 연쇄'와 '인내·유연성·지능'이 유일한 안전장치라고 제시했다. 추상화의 대가도 문명 규모의 고위험 상황에서는 형식 모델의 한계를 깨달았다.