AI 멸종 위험론, 근거 없는 공포 확산이다
원제 The contagion of fear
160 포인트댓글 125
Key Point
기술 커뮤니티의 영향력 있는 목소리들이 검증되지 않은 극단적 주장으로 사회적 공포를 조장하는 방식의 문제점을 정면으로 지적한 글로, AI 리스크 논쟁의 근본적 쟁점을 다룬다.
핵심 요약
- 일부 기술 전문가들이 AI가 향후 10년 내 인류를 모두 멸종시킬 확률이 10% 이상이라고 주장하고 있다.
- 이들은 '중요 인프라 해킹' '생물무기' 같은 구체적 근거 없이 공포만 조장하는 상태다.
- 저자는 공포가 증거보다 빠르게 퍼지는 특성을 지적하며, 이는 전문가의 신뢰도를 무기로 한 책임감 없는 공포 확산이라고 비판한다.
- 물리적 세계에서 로봇이 이런 행동을 실행할 수 있는 능력과 여건은 현재 없으며, 기술 전문가도 이를 인정한다고 주장한다.
- 저자는 AI 시스템의 물리적 영향력은 인류가 허용하는 범위 내에서만 존재한다고 강조한다.