쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 26일 (토)까지1073건
2건 · "adversarial"조건 지우기 ×
001▲ 102 · 댓글 33LLM 거부 응답을 영구 손상 없이 우회하는 Engram 기법기존 가중치 절제(weight abliteration)는 모델 가중치를 영구적으로 변경해 거부 방향을 제거하지만 비거부 작업 성능도 저하시킨다.AI · 머신러닝 · Dynamic Abliteration: Non-Destructive Refusal Suppression via Engram Steering
LLM 거부 응답을 영구 손상 없이 우회하는 Engram 기법
Key PointLLM의 안전장치를 영구 손상 없이 우회하는 기술이 공개됨에 따라 오픈 소스 모델의 거부 메커니즘 견고성 문제가 현실화되고 있다.
핵심 요약
- 기존 가중치 절제(weight abliteration)는 모델 가중치를 영구적으로 변경해 거부 방향을 제거하지만 비거부 작업 성능도 저하시킨다.
- 이 글은 Qwen3-4B 모델을 예로 PyTorch 포워드 훅으로 런타임 중간 잔차 스트림에 개입해 가중치는 완전히 고정한 채 거부 행동을 억제하는 동적 절제(Dynamic Abliteration) 기법을 제시한다.
- 단일 레이어 벡터 뺄셈은 다운스트림 레이어가 거부 행동을 재구성하므로 작동하지 않음을 시연했다.
전체 요약 10문장 읽기 →AI · 머신러닝 · Adversarial Fashion Makes a Statement on AI Panopticon
감시 카메라 피하는 패션, 실제 효과는?
Key Point기술 발전으로 감시가 고도화되는 상황에서 소비자가 직접 구매해 착용할 수 있는 '대항형 방어'가 시장에 나타났지만, 실제 효과와 한계를 정확히 이해해야 합니다.
핵심 요약
- AI 감시 카메라가 확산되는 가운데, 이를 우회하기 위한 '대항형 패션'이 등장했다.
- 기하학적 패턴이 수놓인 옷이나 특수 프린팅 의류가 얼굴 인식이나 사람 탐지 알고리즘의 신뢰도를 낮춘다.
- Cap_able, Urban Privacy 같은 회사들이 이런 의류를 판매 중이며, 창시자들도 이것이 프라이버시에 대한 입장 표현이라고 본다.
전체 요약 5문장 읽기 →