001▲ 224 · 댓글 73AI 거대 연구소의 '묵시록적' 행동에 의회 조사 촉구OpenAI와 Anthropic이 지난 몇 개월간 자신들의 LLM 에이전트 시스템이 얼마나 강력하고 위험한지를 강조하는 계획적 공표들을 해왔다.
AI · 머신러닝 · It's Time to Investigate the AI Labs
AI 거대 연구소의 '묵시록적' 행동에 의회 조사 촉구
Key Point
OpenAI와 Anthropic이 AI 위험성을 강조하면서 실제로는 정부 규제와 시장 통제를 정당화하려 하는 구조에 대한 비판이 제기되고 있으며, 이는 AI 정책과 규제 방향에 직결되는 문제다.
핵심 요약
OpenAI와 Anthropic이 지난 몇 개월간 자신들의 LLM 에이전트 시스템이 얼마나 강력하고 위험한지를 강조하는 계획적 공표들을 해왔다.
Anthropic 직원들은 AI가 인류 멸종으로 이어질 확률에 대해 공개 토론했고, CEO 다리오 아모디는 '우리는 프론티어의 속도를 조절해야 한다'는 제목의 편지에서 자사 연구가 야기할 피해를 나열한 후, 해결책으로 정부가 경쟁사를 제어하고 자사가 기술 진전을 주도하도록 해야 한다고 주장했다.
내부적으로 이들 연구소는 자신들을 초지능 AI 위협으로부터 인류를 구할 유일한 희망이라고 봐온 메시아니즘을 오랫동안 채택해왔다.
002▲ 292 · 댓글 251OpenAI, 해적판 도서로 학습한 사실 알면서도 은폐했다저작자 길드(Authors Guild)가 OpenAI와 마이크로소프트를 상대로 제기한 저작권 침해 소송에서 공개된 문서들이 두 회사 경영진이 불법 도서 대량 학습의 위법성을 알면서도 진행했음을 드러냈다.
AI · 머신러닝 · OpenAI Feared "Optics" of what might appear on Hacker News
OpenAI, 해적판 도서로 학습한 사실 알면서도 은폐했다
Key Point
저작권 침해 소송에서 OpenAI 경영진이 직접 작성한 내부 문서가 위법성을 알면서도 진행했고 의도적으로 증거를 은폐했음을 보여주며, 이는 AI 학습 데이터 출처 문제에 대한 법적 책임의 전환점이 될 수 있다.
핵심 요약
저작자 길드(Authors Guild)가 OpenAI와 마이크로소프트를 상대로 제기한 저작권 침해 소송에서 공개된 문서들이 두 회사 경영진이 불법 도서 대량 학습의 위법성을 알면서도 진행했음을 드러냈다.
OpenAI 정책 이사 잭 클라크는 2020년 5월 자신들의 AI 작업이 "사람들의 노동을 대체하는 시스템을 만들 것"이며 "장르 소설 작가들을 대체할 것"이라고 명시했고, "이 일은 사람들을 실직시킬 것"이라고 덧붙였다.
OpenAI는 2022년 타룬 고지네니를 고용해 조지 R.R. 마틴의 '얼음과 불의 노래' 시리즈를 GPT 모델로 완성시키는 것을 연구 목표로 삼았으며, 고지네니는 저자 불만을 "수용 가능한 경제적 혼란"이라고 무시했다.
