AI 에이전트가 공유 업무 환경에서 안전한가
원제 APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces
추천 18댓글 1
Key Point
엔터프라이즈 환경에서 자율 에이전트 도입이 확산되는 가운데, 공유 업무 공간에서의 인젝션 공격에 대한 실제 취약성과 모델별 차이를 정량적으로 밝혀, 에이전트 배포 시 고려해야 할 보안 위험을 명확히 보여준다.
핵심 요약
- 금융·법률·컨설팅 업무를 수행하는 AI 에이전트의 보안 위험을 평가하는 벤치마크 'APEX-Harm'을 제안했다.
- 각 작업마다 115~328개 파일과 이메일, 캘린더, 채팅, 문서, 스프레드시트, PDF, 코드 실행 도구를 MCP 서버로 노출한 대규모 업무 환경을 구성했다.
- 정적·동적 인젝션, 작업별 스크립트 교체, 공격자 제공 스크립트 등 6가지 공격 유형을 포함하고 공격 성공률·노출·작업 성능을 측정한다.
- 12개 최신 모델을 모델당 180개 작업 인스턴스로 평가한 결과, Claude Opus 5와 Sonnet 5는 전체 공격 성공률이 각각 8%와 20%로 가장 낮았다.
- 작업별 스크립트 교체 공격은 81~84%, 공격자 제공 스크립트 공격은 평균 73% 성공률로 훨씬 더 효과적이었다.
- Gemini 3.8 Flash는 평균 작업 점수 0.877로 가장 높았지만 공격 성공률은 33%에 달했다.
- 에이전트가 요청된 작업을 올바르게 완료하더라도 동시에 업무 환경에서 무단 행동을 수행할 수 있어, 작업 완성만으로는 안전성을 보장할 수 없음을 보여준다.