AI 안전 규제론의 역설, 누가 정말 통제하나
원제 P(doom)
111 포인트댓글 77
Key Point
AI 안전과 규제 논의가 누구의 이익을 대변하는지, 진정한 해결책이 무엇인지를 근본적으로 묻는 논문으로, 업계 주도의 규제론의 한계를 명확히 한다.
핵심 요약
- Dario Amodei의 'AI 발전 속도 조절'(pacing the frontier) 주장에 대한 비판적 성찰이다.
- 저자는 폐쇄형 가중치 모델이 사이버 공격과 보안 위협을 만들고 있으며, OpenAI와 Anthropic이라는 두 기업이 사실상 AI 개발을 독점하고 있다고 본다.
- 규제 추진을 위해 제시된 METR 같은 제3의 평가기관도 결국 같은 기업들과 긴밀한 관계를 맺고 있다고 지적한다.
- 저자는 오픈 가중치 모델만이 진정한 견제 시스템(MAD)이 될 수 있으며, 폐쇄형 모델 규제는 소수 미국 기업의 지정학적 우위만 강화한다고 주장한다.
- 현재 보안 문제를 일으키는 것은 폐쇄형 미국 모델들이며, 중국의 모델 증류가 오히려 기술 격차를 완화하고 있다고 평가한다.