AI 연구자 대량 퇴직 이후 떠오른 '책임의 문제'
원제 Good people refuse to do bad things
120 포인트댓글 119
Key Point
회사 내부에서 문제를 인식했을 때 개인의 책임과 선택이 무엇인지를 보여주는 사례로, 기술 업계 종사자들이 직면한 현실적 딜레마를 다룬다.
핵심 요약
- Anthropic 연구원 Jacob Coxon이 주식 행사 2개월 전에 퇴직하며 AI 기업들이 안전을 무시하고 경쟁에만 집중한다고 주장했다.
- Anthropic 정렬팀 리더 Evan Hubinger도 "AI가 향후 10년 내 모든 인류를 죽일 수 있다고 진심으로 믿으며, 정렬 문제 해결 계획이 없다"고 확인했다.
- 이는 페이스북 내부 보고서를 공개한 Frances Haugen의 2021년 고발과 같은 패턴이며, 회사가 문제를 알면서도 내부 개선이 실패한 경우다.
- 기술 산업은 생산성 숭배와 품질 무시 문화에 빠져 있고, 개발자들은 "누군가는 더 나쁘게 할 것"이라는 이유로 책임을 회피한다.
- 월급과 편의를 위해 타협하는 행동은 번아웃이 아닌 도덕적 질병이며, 이는 팀과 제품을 거쳐 사용자에게까지 확산된다.