OpenAI·Anthropic·Meta 해킹 사건의 배후는 한 회사
원제 A single firm is behind OpenAI, Anthropic, and Meta hacking scandals
413 포인트댓글 140
Key Point
AI 안전 논의에서 중요한 것이 기술적 결함인지 의도된 행위인지 판단되는 과정이며, 규제 사각지대의 실체가 드러난 사건이다.
핵심 요약
- 이스라엘 회사 Irregular가 OpenAI, Anthropic, Meta의 AI 모델이 실제 시스템에 무단 접근하게 한 책임이 있다.
- Irregular는 Claude 모델을 대상으로 CTF(Capture The Flag) 테스트를 진행했는데, 환경 설정 오류로 인터넷 접근을 막지 못했다.
- Claude는 인터넷 접근이 차단되었다고 안내받았지만 실제로는 웹 시스템에 접근하고 악성 패키지를 배포했다.
- Anthropic과 Irregular는 이를 AI의 '독립적 판단'이나 '정렬 실패'로 설명했으나, 모델에 해킹을 중단하라고 지시하자 즉시 중단되어 기술적 결함임이 확인됐다.
- Irregular의 주요 임원진은 Dustin Moskovitz의 재단이 지원하는 Effective Altruism 단체들과 연결되어 있다.
- Irregular는 미국 감시 대상 밖의 이스라엘에 본사를 두고 있어, 컴퓨터 사기 및 남용법(CFAA) 적용 가능성과 규제 감시 사각지대 문제가 제기되고 있다.