LLM이 기계 코드를 16진법 덤프에서 직접 읽고 쓴다
원제 LLMs can read and write executables byte by byte from a hex dump
101 포인트댓글 76
Key Point
역공학과 악성코드 분석의 가장 느린 단계인 디스어셈블·디컴파일이 선택사항이 될 수 있다는 점이 중요하다.
핵심 요약
- 기존에는 컴파일러·어셈블러·디스어셈블러 같은 도구가 필요했지만, LLM이 기계 코드 바이트를 직접 조작할 수 있음을 보였다.
- Claude를 포함한 LLM에 16진법 덤프를 주면 프로그램의 기능을 정확히 파악했으며, FreeBSD의 ministat 도구에서 실제 버그(신뢰도 99.5% 옵션이 99.8%의 임계값을 사용)까지 찾아냈다.
- LLM은 바이너리 패치도 수행했는데, 패딩 공간에 새 코드를 써서 기존 명령어를 덮어썼고, 추가 기능 요청 시 바이트 단위 수정 목록을 제시해 모든 테스트를 통과했다.
- 어셈블러 없이 ELF64 헤더와 모든 명령어를 포함한 완전한 실행 파일을 16진법 덤프로 생성했으며, 프로그램 확장 시 처음부터 작성할 때보다 1.8~3.7배 적은 토큰을 사용했다.
- 실제 악성코드 샘플(PE32+ 파일, 4,608바이트)을 분석한 결과 211초 만에 메모리에서 머신 코드를 다운로드 실행하는 기능을 파악했고, 하드코딩된 서버 주소(165.154.205.34:443)를 올바르게 명시했으며 이는 공개 샌드박스 분석과 일치했다.
- DeepSeek V4.1 Flash로도 같은 실험을 반복했을 때 같은 결론에 도달했으나 약 17배 더 많은 추론 토큰을 사용했고, 13개 숨겨진 함수명 중 9개를 맞혔다.
- 이 접근법의 한계는 맥락 크기로, 67KB 바이너리가 16만 3천 토큰을 소비하므로 10MB 프로그램은 2천 4백만 토큰이 필요해 대용량 파일 분석은 불가능하다.
- 재귀형 언어 모델(RLM) 같은 방식으로 헤더부터 읽고 함수별로 분할 분석하면 이 한계를 극복할 수 있을 것으로 예상된다.