OpenAI와 Anthropic이 AI 위험성을 강조하면서 실제로는 정부 규제와 시장 통제를 정당화하려 하는 구조에 대한 비판이 제기되고 있으며, 이는 AI 정책과 규제 방향에 직결되는 문제다.
핵심 요약
OpenAI와 Anthropic이 지난 몇 개월간 자신들의 LLM 에이전트 시스템이 얼마나 강력하고 위험한지를 강조하는 계획적 공표들을 해왔다.
Anthropic 직원들은 AI가 인류 멸종으로 이어질 확률에 대해 공개 토론했고, CEO 다리오 아모디는 '우리는 프론티어의 속도를 조절해야 한다'는 제목의 편지에서 자사 연구가 야기할 피해를 나열한 후, 해결책으로 정부가 경쟁사를 제어하고 자사가 기술 진전을 주도하도록 해야 한다고 주장했다.
내부적으로 이들 연구소는 자신들을 초지능 AI 위협으로부터 인류를 구할 유일한 희망이라고 봐온 메시아니즘을 오랫동안 채택해왔다.