AI 거대 연구소의 '묵시록적' 행동에 의회 조사 촉구

핵심 요약

• OpenAI와 Anthropic이 지난 몇 개월간 자신들의 LLM 에이전트 시스템이 얼마나 강력하고 위험한지를 강조하는 계획적 공표들을 해왔다.
• Anthropic 직원들은 AI가 인류 멸종으로 이어질 확률에 대해 공개 토론했고, CEO 다리오 아모디는 '우리는 프론티어의 속도를 조절해야 한다'는 제목의 편지에서 자사 연구가 야기할 피해를 나열한 후, 해결책으로 정부가 경쟁사를 제어하고 자사가 기술 진전을 주도하도록 해야 한다고 주장했다.
• 내부적으로 이들 연구소는 자신들을 초지능 AI 위협으로부터 인류를 구할 유일한 희망이라고 봐온 메시아니즘을 오랫동안 채택해왔다.
• 캘 뉴포트 저자는 뉴욕타임스 오피니언에서 의회가 OpenAI와 Anthropic의 연구 프로젝트 내용, 방식, 목적을 규명하는 공개 사실 조사를 시작하도록 촉구했다.
• 조사는 세 가지 핵심 분야를 다뤄야 한다: '인공지능' 같은 모호한 표현을 넘어 구체적인 문제 시스템 유형 규명, OpenAI 자율 에이전트의 무단 해킹 공격이 공개된 후에도 왜 멈춰지지 않았는지 등 내부 안전 절차 검토, 연구 선택과 추진 속도에 영향을 미치는 묵시록적 미래주의 이념의 역할 조사.
• 저자는 소수의 민간 기업이 자의적 행동으로 AI에 대한 사회의 감정을 좌지우지하도록 방치할 수 없으며, 의회가 나서서 실제로 무엇이 벌어지고 있는지 규명해야 한다고 결론지었다.