구글 AI 연구원들, 군사 계약 반발하며 잇따라 퇴직

핵심 요약

• 구글 DeepMind의 여러 직원들이 군사용 AI 배포에 반발하며 퇴사하고 있다.
• 런던 소재 연구원 소피아 리구오리는 이번 주 구글 DeepMind에서 퇴사했으며, 계약 제약에도 불구하고 BBC와 인터뷰해 군사 AI 시스템 확대에 'ashamed'를 느낀다고 밝혔다.
• 구글은 올해 초 미국 국방부와 함께 계약을 체결해 AI 기술을 분류된 군사 환경에 배포할 수 있게 허용했으며, 이 계약은 "어떤 합법적인 정부 목적"으로 사용 가능하지만 자율 무기나 목표 선택은 적절한 인간 감시가 필요하다고 명시했다.
• AI 연구원 안드레아스 키르시도 이달 초 구글 DeepMind에서 퇴사했으며, 구글의 거버넌스와 감시가 분류된 군사 환경에서 AI를 안전하게 배포하기에 충분하지 않다고 지적했다.
• 국방부의 주요 소프트웨어 플랫폼인 Project Maven Smart Systems는 팔란티르가 개발했으며, AI를 활용해 목표 식별 및 선택을 지원한다.
• Pete Hegseth 국방장관은 미국이 'AI 우선 전투 부대'가 되어야 한다고 주장했으며, 국방부 차관은 'AI 시대에는 속도가 승리를 결정한다'고 밝혔다.
• OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia, Reflection 등 다른 기술 기업들도 수송, 계획, 전장 작전 등 다양한 군사 환경에 AI를 배포하기 위해 유사한 계약을 체결했다.
• 전직 OpenAI 지정학팀 책임자 Sarah Shoker는 'AI가 사람보다 훨씬 빠르게 작동하기 때문에 운영자의 의사결정 시간을 단축시키며, 특히 고스트레스 환경에서 위험하다'고 경고했으며, 수백 개의 AI가 선택한 목표와 제한된 시간이 있을 때 인간 운영자가 AI 결과를 의미 있게 검토하기는 거의 불가능하다고 지적했다.
• 구글 직원들은 고용 계약이 회사를 공개적으로 비판하는 것을 금지하기 때문에 AI 안전성과 전쟁 사용에 대해 발언하기를 두려워한다고 밝혔다.
• 구글은 2024년 이스라엘과 Project Nimbus라는 12억 달러 규모의 Amazon 공동 계약으로 비판받았으며, 이는 이스라엘 정부와 군에 AI 기술과 클라우드 컴퓨팅 인프라를 제공한다.
• 최근 다큐멘터리 '나자'는 가자지구 폭격에 사용된 AI 기반 타게팅 시스템의 역할을 조사했으며, 민간인 피해가 높았다고 지적했다.
• 키르시는 현재 AI 모델이 충분히 견고하지 않으며 이러한 작업을 위해 훈련받지 않았다고 주장했다.