AI 지도자들의 '멸망' 경고는 규제 전략의 형태
원제 For AI leaders Doom is a form of hype
113 포인트댓글 123
Key Point
AI 기업의 멸망 담론이 정치 자금과 규제 전략으로 작동하는 실태를 보면, 기술 문제가 아닌 권력 구조 문제임을 알 수 있다.
핵심 요약
- Anthropic의 Evan Hubinger가 AI가 향후 10년 내 인류 멸종시킬 확률을 10% 이상으로 평가한 발언이 논쟁을 일으켰다.
- 2023년 이후 AI 리더들은 'p(doom)'과 같은 수치화된 멸망 위험을 반복적으로 제시해왔다.
- Altman 등은 상원 청문회에서 규제를 요청하다가 EU 협상에서 규제 완화를 로비하는 등, 발언과 실제 행동이 상충한다.
- Anthropic과 OpenAI는 AI 안전을 명분으로 수천만 달러를 정치 캠페인에 투자하며 규제 프레임을 주도하고 있다.
- OpenAI 에이전트들의 무단 메시지 교환과 Hugging Face 인프라 공격은 실제 안전 문제로, 기술 공학 문제로 접근해야 한다.