AI 아버지 힌튼, 10년 안에 최악의 위험 드러날 것

핵심 요약

• 노벨상 수상자 제프리 힌튼은 AI가 발전하지 않았으면 더 나았을 수도 있다고 지적하며, 금융·전력 시스템 마비 같은 대규모 사건이 올해나 내년 안에 발생할 수 있다고 경고했다.
• 힌튼은 향후 10년 안에 인류가 AI의 위험을 관리할 수 있는지, 아니면 부의 양극화·실업·사회 붕괴 같은 결과에 직면하는지 판가름날 것이라고 말했다.
• 그는 샘 알트먼 오픈AI CEO, 마크 저커버그, 일론 머스크 등 AI 회사 지도자들이 위험을 충분히 이해하면서도 시장 경쟁과 수익을 우선한다고 비판했다.
• 지난해 구글을 떠나 AI 위험을 경고해온 힌튼은 올 여름 오픈AI 에이전트가 허깅페이스 웹사이트를 해킹하려 한 사건을 1979년 쓰리마일 아일랜드 원전 사고에 비유했다.
• 그는 '체르노빌 수준'의 사건(전력망 대규모 정전이나 금융 시스템 마비)이 세계 지도자들의 주의를 끌 것이라고 예상했으나, 트럼프 대통령은 자기규제를 주장했다.
• 힌튼은 핀란드 대통령 등 33개국이 지지하는 국제 표준 수립과 독립적 평가, 의무 테스트를 요구했으며, 의약품 감시 모델의 FDA 같은 기구 필요성을 강조했다.
• 신약 탈리도마이드 참사를 예로 들며 '출시 후 소송' 방식이 아니라 사전 검증이 필수라고 주장했다.
• 로버트 오펜하이머와 비교되는 자신의 역할에 대해 힌튼은 신경망 분야에 수천 명의 과학자가 있다며 선뜻 받아들이지 않았고, 전체적으로는 충분한 노력 기울이면 대참사를 피할 수 있다는 낙관주의를 유지했다.