AI 안전 규제론의 역설, 누가 정말 통제하나
Key Point
AI 안전과 규제 논의가 누구의 이익을 대변하는지, 진정한 해결책이 무엇인지를 근본적으로 묻는 논문으로, 업계 주도의 규제론의 한계를 명확히 한다.
핵심 요약
- Dario Amodei의 'AI 발전 속도 조절'(pacing the frontier) 주장에 대한 비판적 성찰이다.
- 저자는 폐쇄형 가중치 모델이 사이버 공격과 보안 위협을 만들고 있으며, OpenAI와 Anthropic이라는 두 기업이 사실상 AI 개발을 독점하고 있다고 본다.
- 규제 추진을 위해 제시된 METR 같은 제3의 평가기관도 결국 같은 기업들과 긴밀한 관계를 맺고 있다고 지적한다.
- 저자는 오픈 가중치 모델만이 진정한 견제 시스템(MAD)이 될 수 있으며, 폐쇄형 모델 규제는 소수 미국 기업의 지정학적 우위만 강화한다고 주장한다.
- 현재 보안 문제를 일으키는 것은 폐쇄형 미국 모델들이며, 중국의 모델 증류가 오히려 기술 격차를 완화하고 있다고 평가한다.