규제보다 공개 가중치로 AI 진전 속도 늦춰야 한다

핵심 요약

• Anthropic의 CEO 다리오 아모데이가 발표한 'We Must Pace the Frontier' 논문에서 제3자 평가자 도입과 정부 규제를 제안했으나, 저자는 실질적 효과를 위해선 대신 다른 법안을 추진할 것을 촉구한다.
• 저자가 제안하는 법안은 공개 배포되는 모든 AI 모델의 가중치를 공개 소스로 강제하는 것으로, 내부·연구 모델은 제외하고 정부는 미공개 모델 접근권을 유지하는 조건이다.
• 규제 기반 속도 조절은 현 지배 기업들에 의해 규제 포획되기 쉬우며, 규칙이 복잡해질수록 대형 기업이 준수 능력에서 유리해져 오히려 기존 지위를 강화할 수 있다고 지적한다.
• 공개 가중치 강제는 모델 개발 자금 조달에 의존하는 가치 평가 구조를 바꿔 모든 연구소의 학습 비용을 증가시키고, 게임화나 회피가 불가능한 명확한 규칙이라고 본다.
• 저자는 다리오가 OpenAI를 떠나 안전을 중시하는 회사 설립, 저작권 합의금 지불, 수출 규제 지지 등 신념을 위해 손해를 감수한 전례가 있고, PBC 구조상 단기 이윤보다 공익 미션을 우선할 법적 근거가 있다고 평가한다.
• 저자는 다리오가 이 제안을 법안으로 추진할 수 있는 유일한 사람이자 실행할 가능성이 있는 인물이라고 결론짓는다.