Java AVX-512 Base64 디코더 버그, 짧은 패딩에서 버퍼 오버플로우
원제 Someone reported java4shell bug in September 2026
192 포인트댓글 46
Key Point
Java 애플리케이션 보안에 직결되는 JVM 메모리 손상 취약점이 보고되었으나, 패치 진행이 중단되었기 때문에 현재 상태를 파악할 필요가 있다.
핵심 요약
- OpenJDK에서 발견된 버그: StubGenerator의 generate_base64_decodeBlock() x86_64 AVX-512 VBMI 경로에서 L_finalBit 함수가 1~63바이트 남은 데이터를 처리할 때 output_size를 (len/4)*3으로 계산한다.
- 유효한 Base64 입력은 항상 길이가 4의 배수이지만, 길이 4 미만의 잘못된 입력(예: '"A".repeat(64)+"="')에서는 L_process64Loop 후 1바이트가 남아 output_size가 0에서 시작한다.
- 패딩 처리 경로에서 output_size가 음수 아래로 감소하여 잘못된 output_mask가 생성되고, 스텁이 논리적 출력 길이를 초과하여 메모리에 쓰기를 수행한다.
- 이는 Java 반환 전에 힙(heap)을 손상시킨다.
- 제안된 해결책은 길이가 4 미만이면 Java로 조기 반환하도록 하는 것이다.
- 풀 리퀘스트는 2개의 리뷰가 필요한 상태였으나 8주 동안 활동이 없어 2026년 11월 4일에 종료되었다.