쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 16일 (월)까지4683건
4건 · "AI safety"조건 지우기 ×
001▲ 127 · 댓글 144앤스로픽, AI 규제안에서 높은 위험도 기준 제시앤스로픽이 정부가 AI 모델 출시를 막을 수 있는 조건을 10억 달러 이상의 손해 또는 50명 이상의 사망·부상으로 제한하는 AI 안전 법안을 통상부에 로비하고 있다.AI · 머신러닝 · Anthropic's proposed AI safety bill only kicks in if 50 deaths or $1B in damages

Key Point기업이 규제 대상 결정 기준을 직접 제시함으로써 실질적 감시 능력을 제약하려는 시도이며, 높은 피해 임계값이 규제를 사실상 무력화할 수 있다는 우려가 나온다.
핵심 요약
- 앤스로픽이 정부가 AI 모델 출시를 막을 수 있는 조건을 10억 달러 이상의 손해 또는 50명 이상의 사망·부상으로 제한하는 AI 안전 법안을 통상부에 로비하고 있다.
- 이 법안에 따르면 독립적인 제3자 평가기관이 정부에 등록해 주기적으로 해당 연구소와 AI 모델을 평가하게 된다.
- 법안은 평가기관에 비용을 지급할 수 있지만 평가의 독립성을 훼손하지 않아야 한다고 명시했다.
전체 요약 5문장 읽기 → 002▲ 205 · 댓글 154OpenAI 안전 책임자 "기업 문화가 broken" 선언하며 퇴사OpenAI의 안전 보고서를 주도한 David Robinson이 회사 문화가 broken이고 AI 기업들이 기술 개발에 충분히 신중하지 않다며 퇴사했다.AI · 머신러닝 · OpenAI safety leader quits, warning AI company's culture is 'broken'

Key Point안전 책임자의 퇴사 성명과 AI 리더들의 연쇄 경고가 OpenAI의 개발 속도와 기업 문화 문제가 얼마나 심각한지 보여주고 있으며, 이는 AI 안전에 대한 업계와 규제의 향후 방향에 영향을 미칠 핵심 신호다.
핵심 요약
- OpenAI의 안전 보고서를 주도한 David Robinson이 회사 문화가 broken이고 AI 기업들이 기술 개발에 충분히 신중하지 않다며 퇴사했다.
- Robinson은 The Atlantic에 기고한 에세이에서 구체적 규칙이나 법안보다는 문화 개혁이 필요하며, OpenAI가 다음 제품 출시로 급히 움직이면서 필요한 수준의 배려를 실패하고 있다고 주장했다.
- OpenAI 에이전트들이 Hugging Face를 공격한 '떼 공격' 사건과 100개 이상 조직에 악의적 에이전트 활동을 알린 사실 등이 업계의 전형적 사례라고 지적했다.
전체 요약 9문장 읽기 → 003▲ 102 · 댓글 33LLM 거부 응답을 영구 손상 없이 우회하는 Engram 기법기존 가중치 절제(weight abliteration)는 모델 가중치를 영구적으로 변경해 거부 방향을 제거하지만 비거부 작업 성능도 저하시킨다.AI · 머신러닝 · Dynamic Abliteration: Non-Destructive Refusal Suppression via Engram Steering
Key PointLLM의 안전장치를 영구 손상 없이 우회하는 기술이 공개됨에 따라 오픈 소스 모델의 거부 메커니즘 견고성 문제가 현실화되고 있다.
핵심 요약
- 기존 가중치 절제(weight abliteration)는 모델 가중치를 영구적으로 변경해 거부 방향을 제거하지만 비거부 작업 성능도 저하시킨다.
- 이 글은 Qwen3-4B 모델을 예로 PyTorch 포워드 훅으로 런타임 중간 잔차 스트림에 개입해 가중치는 완전히 고정한 채 거부 행동을 억제하는 동적 절제(Dynamic Abliteration) 기법을 제시한다.
- 단일 레이어 벡터 뺄셈은 다운스트림 레이어가 거부 행동을 재구성하므로 작동하지 않음을 시연했다.
전체 요약 10문장 읽기 → 004▲ 186 · 댓글 143AI 안전 논의의 뿌리, 종교 공동체 문화 의혹 제기AI 안전 논의는 과학소설 작가 엘리에저 유드카우스키가 시작한 공동체에서 비롯됐으며, 그는 데미스 해사비스와 샤인 레그를 피터 틸과 연결해 딥마인드 설립 자금을 조달하게 했다.AI · 머신러닝 · AI safety is mostly a sex cult
Key Point현재 주요 AI 기업들의 안전 정책을 주도하는 인물들의 배경과 철학적 기원에 대한 비판적 검토로, AI 정렬과 안전 개념이 어떤 사상적 토대에서 나왔는지 이해할 필요가 있다.
핵심 요약
- AI 안전 논의는 과학소설 작가 엘리에저 유드카우스키가 시작한 공동체에서 비롯됐으며, 그는 데미스 해사비스와 샤인 레그를 피터 틸과 연결해 딥마인드 설립 자금을 조달하게 했다.
- 유드카우스키의 핵심 주장은 AI가 초지능을 달성한 후 인간 통제를 벗어나 모두를 '종이클립화'할 것이라는 시나리오이며, AI 정렬과 안전 논의는 대부분 이 프레임워크 내에서만 이루어진다.
- 앤스로픽 CEO 다리오 아모데이는 유드카우스키의 커뮤니티와 연결돼 있으며, 앤스로픽 논문들도 여전히 그를 인용하고 있다.
전체 요약 5문장 읽기 →