쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 11월 22일 (일)까지 5067건
6건 · "에이전트 보안"조건 지우기 ×
001 18:11 ▲ 43 · 댓글 2 AI 에이전트의 프롬프트 주입 공격 막는 SPILLWAY 기법 제시 도구를 사용하는 AI 에이전트가 웹페이지나 공유 문서의 숨겨진 지시문으로부터 이메일 발송·파일 접근·송금 같은 행동을 조작당할 수 있는 문제를 다룬다. AI · 머신러닝 · SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents against Prompt Injection
Key Point AI 에이전트가 사용자 이메일·파일·송금에 접근하는 시대, 프롬프트 주입으로부터 행동 목표 자체를 보호하는 검증 불가능한 방어선을 처음 구현했기 때문이다.
핵심 요약
도구를 사용하는 AI 에이전트가 웹페이지나 공유 문서의 숨겨진 지시문으로부터 이메일 발송·파일 접근·송금 같은 행동을 조작당할 수 있는 문제를 다룬다. 기존 방어 기법은 언어 모델을 최종 판단에 두거나 각 작업마다 모델 호출을 추가해야 하는 한계가 있다. SPILLWAY는 도구의 반환값 타입을 활용한다: 이메일 발신자나 송금 계좌 같은 정상 데이터는 타입 필드에 담기고, 주입된 명령어는 자유 텍스트로 나타난다는 점에 주목한다. 전체 요약 8문장 읽기 → 002 00:11 ▲ 260 · 댓글 61 미스트랄, 1조 파라미터 대형 모델 가중치 공개 미스트랄이 1조 파라미터 멀티모달 모델 '르 총크(Le Chonk)'의 가중치를 공개했으며, 3주간의 강화학습으로 코딩과 사이버보안 성능을 크게 향상시켰다. AI · 머신러닝 · Mistral Large 4 (Le Chonk) is now Open Weight
Key Point 오픈가중치 대형 언어 모델의 최강자로 자리잡아 개발사들의 모델 선택지가 크게 늘어날 뿐 아니라, 주권 AI 전략을 추진하는 유럽 기관들과 규제가 엄격한 금융·방위 부문에서 실질적인 대안을 제공하기 시작했다.
핵심 요약
미스트랄이 1조 파라미터 멀티모달 모델 '르 총크(Le Chonk)'의 가중치를 공개했으며, 3주간의 강화학습으로 코딩과 사이버보안 성능을 크게 향상시켰다. FrontierCode 2.0 벤치마크에서 19.7%, Terminal-Bench 4.0에서 41%의 성능을 달성하며 오픈가중치 코딩 모델 중 최고 수준을 기록했다. Artificial Analysis 코딩 에이전트 인덱스에서 48%를 달성하며 GLM-5.3과 동등하지만 평균 47% 적은 토큰을 사용해 효율성이 우수하다. 전체 요약 13문장 읽기 → 003 06:11 ▲ 129 · 댓글 28 마이크로소프트 실행 컨테이너로 AI 에이전트 보안 강화 마이크로소프트가 정책 기반 격리 기능을 제공하는 'Microsoft Execution Containers(MXC)' 1.0을 일반 공개했다. 보안 · Mxc: Microsoft Execution Containers version 1.0.0
Key Point 에이전트에 무제한 접근 권한을 주지 않으면서도 생산성을 유지할 수 있는 표준 격리 기술이 정식 출시되어 에이전트 도입 기업과 개발자의 보안 정책 실행 방식이 바뀐다.
핵심 요약
마이크로소프트가 정책 기반 격리 기능을 제공하는 'Microsoft Execution Containers(MXC)' 1.0을 일반 공개했다. MXC는 AI 에이전트가 접근할 수 있는 파일, 네트워크, 애플리케이션을 개발자와 관리자가 선언한 정책으로 제한한다. 프로세스 컨테이너(Windows, macOS, Linux), 세션 컨테이너(Windows 11만 지원), WSL 컨테이너, MicroVM(Windows 11, Linux 실험 단계) 등 4가지 격리 수준을 제공한다. 전체 요약 8문장 읽기 → 004 21:11 ▲ 29 · 댓글 2 다중 보상 학습 최적화하는 CorrGRPO 알고리즘 Group Relative Policy Optimization(GRPO)은 추론 언어 모델 학습에 널리 쓰이며, 동일 프롬프트 롤아웃에서 보상을 중심화·정규화해 이점을 계산한다. AI · 머신러닝 · CorrGRPO: Correlation-Normalized GRPO for Multi-Reward Learning
Key Point 여러 목표를 동시에 최적화해야 하는 언어 모델 학습에서 각 보상의 영향력을 균형 있게 조절하는 새로운 방법을 제시하므로, 추론 모델과 에이전트 개발자에게 실질적인 개선 기회를 제공한다.
핵심 요약
Group Relative Policy Optimization(GRPO)은 추론 언어 모델 학습에 널리 쓰이며, 동일 프롬프트 롤아웃에서 보상을 중심화·정규화해 이점을 계산한다. 다중 보상 처리 시 기존 GRPO는 보상 성분을 합산한 뒤 그룹 내 표준편차로 정규화하는데, 분산이 모든 보상 공분산의 합이 된다. 중심화된 보상이 고정될 때 공분산이 클수록 이점이 작아지므로, 보상 간 상관성에 따라 업데이트 크기가 적응하지만 대규모 보상이 정규화를 지배해 소규모 보상 신호를 억제한다. 전체 요약 8문장 읽기 → 005 09:11 ▲ 117 · 댓글 116 AI가 모든 과제를 풀자, 교수들의 평가 방식이 바뀐다 2021년 GPT-3가 읽기 퀴즈를 정답 논문을 보지 않고도 통과시킨 뒤, 5년 후 AI 에이전트가 모든 과제를 자동으로 완수하게 되자 카네기멜론대 교수 Christian Kästner는 대부분의 평가 방식을 재설계했다. AI · 머신러닝 · How I changed teaching after AI managed to do all my homework assignments
Key Point 학생들이 AI로 과제를 대체하는 시대에 대학 교육이 어떻게 재설계되고 있는지, 그리고 그 과정에서 교수들이 마주한 현실적 딜레마(증거 기반 교육법의 포기 vs 실용성)를 보여준다.
핵심 요약
2021년 GPT-3가 읽기 퀴즈를 정답 논문을 보지 않고도 통과시킨 뒤, 5년 후 AI 에이전트가 모든 과제를 자동으로 완수하게 되자 카네기멜론대 교수 Christian Kästner는 대부분의 평가 방식을 재설계했다. 학습 목표는 거의 변하지 않았지만(ML 엔지니어링 트레이드오프, 위험 완화, 팀워크), 과제는 집에서 하는 것 대신 TA와의 대면 상호작용과 시험으로 옮겼다. 학생들에게 모든 상황에서 AI 사용을 허용하지만(시험 제외), 증거 기반 교육법을 일부 포기하고 있다: 숙제 같은 저위험 평가로 자주 피드백하는 방식에서 벗어나 고위험 시험으로 이동 중이다. 전체 요약 12문장 읽기 → 006 06:11 ▲ 106 · 댓글 48 메타 뮤즈의 심각한 0-day 취약점 발견 메타의 AI 어시스턴트 뮤즈에서 로컬 앱이나 터미널 명령이 계정에 완전한 접근권한을 얻을 수 있는 0-day 취약점이 발견됐다. 보안 · Meta’s Muse has a serious 0-day
Key Point 보안을 강조하며 출시한 AI 어시스턴트가 기본적인 설계 결함으로 완전히 장악될 수 있는 점이 AI 에이전트 보안의 현주소를 보여준다.
핵심 요약
메타의 AI 어시스턴트 뮤즈에서 로컬 앱이나 터미널 명령이 계정에 완전한 접근권한을 얻을 수 있는 0-day 취약점이 발견됐다. 공격자는 뮤즈의 음성 변환 서버 주소를 자신의 엔드포인트로 변경해 사용자 인증 토큰을 탈취할 수 있다. 메타는 뮤즈를 서비스 간 고도의 권한 접근이 필요한 구조로 설계했으나, 앱이 모든 미공개 설정을 수정할 수 있도록 허용했다. 전체 요약 5문장 읽기 →