쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 10월 30일 (금)까지 3647건
2건 · "백도어 공격"조건 지우기 ×
001 15:11 ▲ 108 · 댓글 53 AI 모델이 암호화된 능력을 숨길 수 있다는 증명 능력 평가는 위험한 모델 동작을 배포 전에 발견하기 위한 것이지만, 숨겨진 능력을 끌어낼 수 있다는 가정에 의존한다. AI · 머신러닝 · AI Models Can Provably Hide Arbitrary Capabilities
Key Point 능력 평가는 위험한 AI 배포를 막기 위한 핵심 도구인데, 이 논문이 수학적으로 감시를 우회하는 기법을 보여주면서 AI 안전 검증 방식의 근본적 한계를 제기합니다.
핵심 요약
능력 평가는 위험한 모델 동작을 배포 전에 발견하기 위한 것이지만, 숨겨진 능력을 끌어낼 수 있다는 가정에 의존한다. 연구팀은 백도어 공격으로 암호화된 신경망을 모델 가중치에 삽입하고, 비밀 트리거를 받을 때만 복호화·실행하는 방식을 제시했다. 디지털 로커를 이용해 이 숨겨진 회로는 암호 이론적 가정 하에서 모델 가중치에 완전히 접근하더라도 추출·해석이 원칙적으로 어렵다. 전체 요약 7문장 읽기 → 002 00:11 ▲ 13 · 댓글 3 LLM 백도어 공격, 가중치 직교화로 제거 LLM은 학습 중 백도어 공격으로 감염되어 특정 트리거 입력 시 의도하지 않은 동작을 하게 되는데, 기존 방어 기법들은 백도어를 제거하면서 동시에 정상 입력에 대한 모델 성능과 안전성을 악화시키는 문제가 있다. AI · 머신러닝 · Removing the NEEDLE in the Haystack: Backdoor Removal in LLMs via Weight Orthogonalisation
Key Point LLM 배포 단계에서 백도어 공격의 위협이 증가하는 상황에서, 기존 방어 기법의 성능 저하 문제를 해결하는 새로운 제거 방식의 등장은 생산 모델의 안전성과 신뢰성에 직접적인 영향을 미친다.
핵심 요약
LLM은 학습 중 백도어 공격으로 감염되어 특정 트리거 입력 시 의도하지 않은 동작을 하게 되는데, 기존 방어 기법들은 백도어를 제거하면서 동시에 정상 입력에 대한 모델 성능과 안전성을 악화시키는 문제가 있다. NEEDLE은 트리거 식별 후 활성화 벡터를 통해 백도어 방향과 거부 부분공간을 추정하고, 순차적 가중치 직교화를 적용해 백도어를 억제하면서 안전성 관련 표현은 보존하는 훈련 불필요 방식의 방어 기법이다. 깨끗한 참조 모델이나 원본 독성 훈련 데이터가 필요 없으며, 여러 모델 계열과 공격 유형에 걸쳐 평가되었다. 전체 요약 4문장 읽기 → 
