쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 10월 30일 (금)까지3636건
3건 · "LLM 보안"조건 지우기 ×
001▲ 22 · 댓글 3LLM 에이전트의 '모자이크 누출': 여러 문서 조각에서 기밀 정보 추론 위험LLM 에이전트가 여러 접근 가능한 문서에서 정보를 조합하여 민감한 결론을 도출·공개하는 '모자이크 효과'의 위험을 연구했다.AI · 머신러닝 · Agent Mosaic: Recognizing Confidentiality Leaks in Agentic LLM Systems
Key Point여러 비기밀 정보를 조합해 기밀 정보를 유추하는 위험이 현재 LLM 에이전트 시스템에서 실제로 발생하고 있으며, 기존 안전장치도 이를 막기 충분하지 않다는 점이 중요하다.
핵심 요약
- LLM 에이전트가 여러 접근 가능한 문서에서 정보를 조합하여 민감한 결론을 도출·공개하는 '모자이크 효과'의 위험을 연구했다.
- 사이버보안·의료·군사 영역 30가지 합성 시나리오로 테스트한 결과, 시뮬레이션 환경에서 GPT-5.6-Sol(최고 성능 모델)은 공식 쿼리라도 금지된 복합 정보를 답변의 7.08%(95% CI: 3.75-10.67%)에서 공개했다.
- 실제 오픈소스 에이전트 환경에서는 더 높은 누출률을 보였다.
전체 요약 6문장 읽기 →보안 · zhaoxuya520/reverse-skill · PowerShell
Key PointAI 코딩 에이전트가 보안 연구 작업을 직접 수행할 때 어떤 도구를 써야 할지 판단하는 문제를 해결하는 구조화된 라우팅 시스템이 공개됐다.
핵심 요약
- reverse-skill은 리버싱·침투 테스트·보안 연구를 AI 코딩 에이전트(Claude Code, Cursor, Cline 등)가 자동으로 수행하도록 돕는 기술 라우터 패키지다.
- APK, ELF 바이너리, 프론트엔드 JS, CTF 등 작업 유형을 자동 감지하고 jadx, apktool, Frida, IDA, Ghidra, Binary Ninja 등 적절한 도구를 호출하는 구조화된 라우팅 규칙 44개(R0–R45)를 포함한다.
- PowerShell 기반 master-route 스크립트와 skills/config/routing.json 설정 파일이 핵심으로, 175개 벤치마크 케이스로 회귀 검증을 거친다.
전체 요약 9문장 읽기 →보안 · We have a year to fix security everywhere
Key Point누구나 원격으로 마음대로 구동할 수 있는 악의 LLM이 실제로 인프라를 대상으로 사용되는 상황이 가까워졌고, 보안 커뮤니티가 대대적인 패치에 나서야 하는 결정적 계기를 제시하기 때문이다.
핵심 요약
- GLM 5.3-flash 같은 저가 오픈웨이트 LLM이 누구나 로컬에서 실행 가능해졌다.
- M5 맥스튜디오 같은 소비자 수준 하드웨어(약 $9,500)로도 초당 45 토큰으로 동작하며, 악의적 필터를 제거한 '어빌리터레이션' 버전이 이미 공개돼 있다.
- GLM 5.3는 CyberGym에서 84.5%, ExploitBench에서 54.4%의 성능을 기록해 실제 공개된 취약점 발견과 악용이 가능한 수준이다.
전체 요약 5문장 읽기 →