AI 안전 경고 배후의 비밀 인터넷 문화
Key Point
현재 AI 안전과 종말론을 주도하는 인물들의 정체와 그들이 속한 인터넷 문화권이 무엇인지 처음 명확히 공개되는 조사 기사로, AI 정책 결정에 영향을 미치는 이 집단의 배경을 이해하는 데 필수적이다.
핵심 요약
- 2026년 9월 Anthropic 연구자 Jacob Coxon이 'AI가 10년 내 모두를 죽일 수 있다'는 내용의 사직서를 공개하며 AI 안전 논쟁을 촉발했다.
- Anthropic 정렬 과학 책임자 Evan Hubinger 등 동료들이 즉시 Coxon의 주장에 동의하며 10년 내 인류 멸종 확률을 10% 이상으로 평가했다.
- AI 안전 경고의 주요 목소리는 rationalist 인터넷 소문화에서 비롯되며, 이 집단의 인물들이 AI 연구소와 안전 기관을 주도하고 있다.
- Raymond Arnold가 2011년 시작한 'Secular Solstice' 의식은 rationalist 공동체의 중심 행사로 성장했으며, 2025년 Arnold는 인류 AI 재앙 확률을 50% 이상으로 추정했다.
- 이 소문화는 Harry Potter 팬픽 모집, 심리 워크숍, 아이돌핀 육성 프로그램, 보수주의 정치 운동 등 다양한 논쟁적 활동들과 연결되어 있다.