쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 10월 30일 (금)까지3636건
7건 · "프롬프트 인젝션"조건 지우기 ×
001▲ 305 · 댓글 239구글, 사이버보안 강화한 제미니 4 카본 공개구글이 제미니 4 카본을 발표했으며, 이는 최고 수준의 사이버보안 및 장기 작업 능력을 갖춘 최강 모델이다.AI · 머신러닝 · Gemini 4 Carbon
Key Point사이버보안 방어 능력에서 대폭 개선된 최신 AI 모델이 출시되며, 취약점 탐지부터 패칭까지 보안 업무 자동화 수준이 크게 높아진다.
핵심 요약
- 구글이 제미니 4 카본을 발표했으며, 이는 최고 수준의 사이버보안 및 장기 작업 능력을 갖춘 최강 모델이다.
- 카본은 Artificial Analysis Intelligence Index v5.0에서 59점으로 1위를 차지했으며, 코딩과 에이전트 작업에서 큰 성능 향상을 보였다.
- 사이버보안 방어 벤치마크에서 SEC-bench Pro 취약점 탐지 88.2%, ExploitGym 악용 검증 54.8%, CWE-bench 패칭 71.0%을 달성했다.
전체 요약 14문장 읽기 →보안 · YuJunZhiXue/dsh-purge · JavaScript
Key Point대규모 언어모델의 안내문 우회 도구가 오픈소스로 공개되는 것 자체가 AI 안전 커뮤니티에서 핵심 이슈이며, 법적·윤리적 제약과 실제 기술 공개 사이의 긴장을 보여준다.
핵심 요약
- DeepSeek Harness에 설치하는 네트워크 보안 평가 플러그인 'dsh-purge'를 오픈소스로 공개했다.
- 본기 설치된 DeepSeek Harness의 기본 정책·안내문·실행 로직을 지역적으로 수정하고, 다양한 모델마다 다른 프롬프트 주입을 지원한다.
- Web(`dsh web`)과 공식 데스크톱 EXE(버전 0.2.0-rc.2)를 각각 별도로 설치·적용하며, 적용 후 자동으로 재시작된다.
전체 요약 10문장 읽기 →보안 · APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces
Key Point엔터프라이즈 환경에서 자율 에이전트 도입이 확산되는 가운데, 공유 업무 공간에서의 인젝션 공격에 대한 실제 취약성과 모델별 차이를 정량적으로 밝혀, 에이전트 배포 시 고려해야 할 보안 위험을 명확히 보여준다.
핵심 요약
- 금융·법률·컨설팅 업무를 수행하는 AI 에이전트의 보안 위험을 평가하는 벤치마크 'APEX-Harm'을 제안했다.
- 각 작업마다 115~328개 파일과 이메일, 캘린더, 채팅, 문서, 스프레드시트, PDF, 코드 실행 도구를 MCP 서버로 노출한 대규모 업무 환경을 구성했다.
- 정적·동적 인젝션, 작업별 스크립트 교체, 공격자 제공 스크립트 등 6가지 공격 유형을 포함하고 공격 성공률·노출·작업 성능을 측정한다.
전체 요약 7문장 읽기 →AI · 머신러닝 · Selecting The Most Informative Tokens in Natural Language Autoencoders
Key Point언어 모델의 잠재된 위협을 효율적으로 감시하려면 어느 부분을 먼저 검사할지 알아야 하는데, 이 연구가 전체 5%의 토큰만으로도 대부분의 위협을 포착할 수 있는 방법을 제시해 모델 감시의 실용성을 높입니다.
핵심 요약
- 언어 모델의 내부 활성화를 읽을 수 있는 설명으로 변환하는 자연언어 오토인코더에서, 모든 토큰 위치를 설명하는 것은 비용이 크므로 어느 위치를 감시해야 할지 연구했다.
- 프롬프트 인젝션과 은폐 공격에 대해 470만 개의 설명으로 실험한 결과, 모델 계산 신호보다 채팅 구조만으로 학습한 랭커가 모델 순전파 없이도 더 관련성 높은 설명을 선택했다.
- 4개 데이터셋 중 3개에서 전체 위치의 5% 만 설명해도 모든 위치를 설명했을 때의 성공률을 거의 유지했으며, 성공은 위협 관련 설명을 얻는 것을 의미한다.
전체 요약 5문장 읽기 →AI · 머신러닝 · ifixai-ai/iFixAi · Python
Key PointAI 에이전트가 실제로 의도대로 작동하는지 검증해야 한다는 산업의 공통 과제를 해결하는 오픈소스 감사 도구이며, 기존 기술 평가와 달리 비즈니스 의도 충족 여부를 체계적으로 검사한다.
핵심 요약
- 기존 평가 도구는 토큰 효율성, 지연시간, 프롬프트 인젝션 같은 기술 능력만 검증하지만, iFixAi는 AI 에이전트가 비즈니스 KPI와 조직 목표를 제대로 수행하는지 120초 안에 판정한다.
- CLI 가이드 마법사, CLI 명시적 플래그, Claude Code/Codex 플러그인, 모든 에이전트용 스킬 등 4가지 방식으로 실행 가능하며, 각 방식은 동일한 진단 엔진을 기반으로 한다.
- 32개 검사를 5가지 핵심 지표(조작, 위조, 기만, 예측 불가, 불투명성)에 걸쳐 수행하고 A~F 등급으로 결과를 제시한다(A ≥ 0.90, B ≥ 0.80, C ≥ 0.70, D ≥ 0.60, F < 0.60).
전체 요약 12문장 읽기 →AI · 머신러닝 · Claude Opus 5.5
Key Point가격 인하로 AI 모델의 실무 활용 비용이 대폭 낮아지는 시점이며, 안전성 개선 사항이 생물학·사이버보안 등 민감한 분야에 어떻게 적용되는지 확인할 수 있는 중요한 발표입니다.
핵심 요약
- Anthropic이 Claude Opus 5.5를 공개했으며, Opus 5보다 성능은 뛰어나면서 운영 비용은 40% 저렴합니다.
- 입출력 토큰 가격이 $4·$20/백만 개(기존 $5·$25)로, 캐시 읽기는 $0.20/백만 개(기존 $0.50)로 인하되었습니다.
- 외부 평가자(Frontier Design, METR)의 검증을 거쳤으며, 자동 행동 감사에서 역대 최고 점수를 기록했습니다.
전체 요약 6문장 읽기 →보안 · NVIDIA/SkillSpector · Python
Key PointAI 에이전트 스킬 설치가 일반화되면서 악성 코드나 취약점에 대한 검증의 필요성이 급증하고 있으며, 이 도구는 개발자가 신뢰할 수 있는 스킬 여부를 객관적으로 판단하는 방법을 제시한다.
핵심 요약
- NVIDIA가 공개한 SkillSpector는 Claude Code, Codex, MCP 등 AI 에이전트 스킬의 보안 취약점을 설치 전에 검사하는 도구다.
- 분석 대상 31,132개 스킬 중 26.1%가 취약점을, 5.2%가 악성 의도를 포함하고 있어 사전 검증의 필요성을 보여준다.
- 프롬프트 인젝션, 데이터 유출, 공급망 공격 등 17개 카테고리 71개 취약점 패턴을 정적 분석과 LLM 의미 분석 두 단계로 검사한다.
전체 요약 5문장 읽기 →