쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 10월 4일 (일)까지1656건
4건 · "절제"조건 지우기 ×
001당일 +233언어 모델 검열 자동 제거 도구 Heretic 공개GitHub에 공개된 Heretic은 방향성 절제(directional ablation)와 Optuna 기반 매개변수 최적화를 결합해 언어 모델의 안전 정렬을 자동으로 제거하는 Python 도구다.AI · 머신러닝 · p-e-w/heretic · Python
언어 모델 검열 자동 제거 도구 Heretic 공개
Key Point안전 필터를 우회하는 완전 자동화 도구의 등장으로, 모델 수정 기술의 접근성이 크게 낮아졌으며 이로 인한 악용 가능성 증가와 기술 민주화 사이의 균형 문제가 제기된다.
핵심 요약
- GitHub에 공개된 Heretic은 방향성 절제(directional ablation)와 Optuna 기반 매개변수 최적화를 결합해 언어 모델의 안전 정렬을 자동으로 제거하는 Python 도구다.
- 사용자가 명령줄 명령만으로 모델을 처리할 수 있으며, 트랜스포머 구조 이해가 필요 없다.
- Gemma-3-12B-IT 기준으로 Heretic이 생성한 모델은 유해 프롬프트 거부율 3/100, KL 발산 0.16으로, 수동 절제 모델(KL 발산 0.45~1.04)보다 원래 성능을 더 잘 보존했다.
전체 요약 9문장 읽기 →AI · 머신러닝 · Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States
장기 작업 수행하는 AI 에이전트, 명시적 신념 상태로 더 정확해진다
Key PointLLM 에이전트의 장기 작업 수행 능력을 크게 향상시키는 새로운 접근법으로, 기존 메모리 기반 방식의 한계를 구체적으로 해결하고 실제 성능 개선을 입증했습니다.
핵심 요약
- LLM 기반 에이전트가 복잡한 작업을 수행할 때 상호작용 이력을 단순히 메모리에 저장하는 것만으로는 현재 세계 상태를 일관되게 이해하기 어렵다.
- 새로운 프레임워크 PoS는 추론 과정에서 명시적 신념 상태(explicit belief states)를 구성하고 지속적으로 유지한다.
- 각 신념은 현재 세계 상태 추정치와 해결되지 않은 작업 요구사항을 결합하여, 에이전트가 여전히 학습해야 할 것과 달성해야 할 것을 명확히 한다.
전체 요약 8문장 읽기 →AI · 머신러닝 · Dynamic Abliteration: Non-Destructive Refusal Suppression via Engram Steering
LLM 거부 응답을 영구 손상 없이 우회하는 Engram 기법
Key PointLLM의 안전장치를 영구 손상 없이 우회하는 기술이 공개됨에 따라 오픈 소스 모델의 거부 메커니즘 견고성 문제가 현실화되고 있다.
핵심 요약
- 기존 가중치 절제(weight abliteration)는 모델 가중치를 영구적으로 변경해 거부 방향을 제거하지만 비거부 작업 성능도 저하시킨다.
- 이 글은 Qwen3-4B 모델을 예로 PyTorch 포워드 훅으로 런타임 중간 잔차 스트림에 개입해 가중치는 완전히 고정한 채 거부 행동을 억제하는 동적 절제(Dynamic Abliteration) 기법을 제시한다.
- 단일 레이어 벡터 뺄셈은 다운스트림 레이어가 거부 행동을 재구성하므로 작동하지 않음을 시연했다.
전체 요약 10문장 읽기 →기타 · Why is the liver so weirdly regenerative?
암 때문에 망가진 신체, 간만 튼튼한 이유
Key Point암 방지 메커니즘이 우리 신체 전체의 설계에 얼마나 깊게 영향을 미치는지 이해하면, 왜 우리 몸이 '망가져 보이는지' 명확해진다.
핵심 요약
- 인간의 몸은 신장·치아·뇌·심장 등 대부분의 부위가 손상 후 회복되지 않지만, 간은 절반을 절제해도 몇 개월 안에 완전히 재생된다.
- 이 역설의 핵심은 암이다: 신체는 세포의 무분별한 증식을 막기 위해 텔로미어 단축, 신경세포의 비분열, 혈관신생 억제 등의 메커니즘을 진화시켰다.
- 텔로미어는 세포 분열 50~70회마다 완전히 소모돼 분열을 멈추게 하는데, 이는 의도적 설계로서 암세포가 텔로미어 없이도 계속 재현산되는 것을 막는다.
전체 요약 10문장 읽기 →