001▲ 221 · 댓글 78규제보다 공개 가중치로 AI 진전 속도 늦춰야 한다Anthropic의 CEO 다리오 아모데이가 발표한 'We Must Pace the Frontier' 논문에서 제3자 평가자 도입과 정부 규제를 제안했으나, 저자는 실질적 효과를 위해선 대신 다른 법안을 추진할 것을 촉구한다.
AI · 머신러닝 · An open letter to Dario: if you mean it, open the weights
규제보다 공개 가중치로 AI 진전 속도 늦춰야 한다
Key Point
Anthropic 최고경영자의 규제 주장에 대해 더 근본적인 해결책을 제시하는 공개 편지로, AI 모델 공개의 필요성과 규제 포획의 위험을 구체적으로 논증한다.
핵심 요약
Anthropic의 CEO 다리오 아모데이가 발표한 'We Must Pace the Frontier' 논문에서 제3자 평가자 도입과 정부 규제를 제안했으나, 저자는 실질적 효과를 위해선 대신 다른 법안을 추진할 것을 촉구한다.
저자가 제안하는 법안은 공개 배포되는 모든 AI 모델의 가중치를 공개 소스로 강제하는 것으로, 내부·연구 모델은 제외하고 정부는 미공개 모델 접근권을 유지하는 조건이다.
규제 기반 속도 조절은 현 지배 기업들에 의해 규제 포획되기 쉬우며, 규칙이 복잡해질수록 대형 기업이 준수 능력에서 유리해져 오히려 기존 지위를 강화할 수 있다고 지적한다.
공개 가중치 강제는 모델 개발 자금 조달에 의존하는 가치 평가 구조를 바꿔 모든 연구소의 학습 비용을 증가시키고, 게임화나 회피가 불가능한 명확한 규칙이라고 본다.
저자는 다리오가 OpenAI를 떠나 안전을 중시하는 회사 설립, 저작권 합의금 지불, 수출 규제 지지 등 신념을 위해 손해를 감수한 전례가 있고, PBC 구조상 단기 이윤보다 공익 미션을 우선할 법적 근거가 있다고 평가한다.
저자는 다리오가 이 제안을 법안으로 추진할 수 있는 유일한 사람이자 실행할 가능성이 있는 인물이라고 결론짓는다.
