AI 안전 경고 배후의 비밀 인터넷 문화
원제 Sex, AI, and the Apocalypse
118 포인트댓글 90
Key Point
현재 AI 안전과 종말론을 주도하는 인물들의 정체와 그들이 속한 인터넷 문화권이 무엇인지 처음 명확히 공개되는 조사 기사로, AI 정책 결정에 영향을 미치는 이 집단의 배경을 이해하는 데 필수적이다.
핵심 요약
- 2026년 9월 Anthropic 연구자 Jacob Coxon이 'AI가 10년 내 모두를 죽일 수 있다'는 내용의 사직서를 공개하며 AI 안전 논쟁을 촉발했다.
- Anthropic 정렬 과학 책임자 Evan Hubinger 등 동료들이 즉시 Coxon의 주장에 동의하며 10년 내 인류 멸종 확률을 10% 이상으로 평가했다.
- AI 안전 경고의 주요 목소리는 rationalist 인터넷 소문화에서 비롯되며, 이 집단의 인물들이 AI 연구소와 안전 기관을 주도하고 있다.
- Raymond Arnold가 2011년 시작한 'Secular Solstice' 의식은 rationalist 공동체의 중심 행사로 성장했으며, 2025년 Arnold는 인류 AI 재앙 확률을 50% 이상으로 추정했다.
- 이 소문화는 Harry Potter 팬픽 모집, 심리 워크숍, 아이돌핀 육성 프로그램, 보수주의 정치 운동 등 다양한 논쟁적 활동들과 연결되어 있다.