안전한 러스트 코드도 undefined behavior 유발할 수 있다
원제 Memory Safety Bugs in Rust Standard Library
119 포인트댓글 55

Key Point
러스트를 선택하는 이유인 메모리 안전성이 표준 라이브러리의 unsafe 코드 버그로 우회될 수 있으며, 기존 11년 미검출 버그도 존재한다는 점에서 안전성 보장의 한계를 드러낸다.
핵심 요약
- 마이크로소프트 FORGE 랩이 AI 기반 보안 스캔 도구 하이에나를 사용해 러스트 표준 라이브러리의 메모리 안전 버그를 발견했다.
- 안전한 러스트 코드만으로도 undefined behavior를 트리거할 수 있으며, 불안전 코드가 안전 API 아래에서 안전 계약을 위반할 때 발생한다.
- MapWindows::clone의 panic safety 버그: 클론 호출 중 패닉이 발생하면 미초기화 메모리에 접근하는 디스트럭터가 작동해 crash가 난다.
- 커스텀 Pattern으로 str::replace를 호출하면 non-UTF-8 String이 생성될 수 있으며, 안전한 메서드가 비UTF-8 바이트를 ASCII로 가정했기 때문이다.
- 안정화된 Allocator API는 할당자가 패닉에서 벗어나지 않을 것을 요구하도록 설계돼야 했으며, 이를 어기면 BTreeMap::insert 같은 곳에서 unsoundness가 발생한다.
- process::exit이 자식 스레드에서 호출되면 메인 스레드의 signal stack을 해제해 스택 오버플로우 핸들링이 실패하고 segmentation fault가 날 수 있다.
- CommandExt::exec이 읽기 잠금 아래에서 process-global environ을 쓰면 다른 스레드가 변수를 보거나 해제된 배열을 읽을 수 있다.
- 이 세 가지 패턴(패닉 신뢰, 호출자 제공 구현 신뢰, 시스템 상태 신뢰)이 러스트의 메모리 안전 버그의 주요 원인이다.
- system boundary 버그는 전통 정적 분석으로 찾기 어려웠지만 AI 에이전트는 커널 시스템 콜과 C 라이브러리 동작을 이해해 이를 탐지할 수 있다.
- process::exit 시그널 스택 버그는 2015년부터, exec의 락 문제는 2021년부터 존재했으며 모두 stable 러스트에 영향을 미친다.
- 러스트의 안전 표준은 C++보다 엄격해서 soundness 버그가 자동으로 취약점이 되지 않으며, 대부분 특정 조건에서만 트리거된다.
- 마이크로소프트는 이 연구로 MDASH(아젠틱 보안 스캔) 기술 발전과 Defender 통합을 추진 중이다.