앤스로픽, AI 규제안에서 높은 위험도 기준 제시
원제 Anthropic's proposed AI safety bill only kicks in if 50 deaths or $1B in damages
127 포인트댓글 144
Key Point
기업이 규제 대상 결정 기준을 직접 제시함으로써 실질적 감시 능력을 제약하려는 시도이며, 높은 피해 임계값이 규제를 사실상 무력화할 수 있다는 우려가 나온다.
핵심 요약
- 앤스로픽이 정부가 AI 모델 출시를 막을 수 있는 조건을 10억 달러 이상의 손해 또는 50명 이상의 사망·부상으로 제한하는 AI 안전 법안을 통상부에 로비하고 있다.
- 이 법안에 따르면 독립적인 제3자 평가기관이 정부에 등록해 주기적으로 해당 연구소와 AI 모델을 평가하게 된다.
- 법안은 평가기관에 비용을 지급할 수 있지만 평가의 독립성을 훼손하지 않아야 한다고 명시했다.
- 앤스로픽 대변인은 이 법안이 6월부터 연방 및 주 의회에 제시해온 '고급 AI 프레임워크'에 기반한 정책이라고 밝혔다.
- 댓글들은 국제적 법적 구속력의 필요성, 해외 관할권 회피 가능성, 위험도 판정 기준의 모호성, 비용·편익 분석 논리의 문제점 등을 지적했다.