Hacker News보안

Xbox 360 하이퍼바이저 해킹 3편: Bad Update 익스플로잇 최적화

원제 Hacking the Xbox 360 Hypervisor Part 3: Bad Update Improvements

110 포인트댓글 10
Key Point

Xbox 360 하이퍼바이저 익스플로잇이 실행 방식과 성공률을 획기적으로 개선한 구체적 기법들을 보여주며, 메모리 암호화 공격·캐시 스케줄링·레이스 컨디션 최적화 같은 저수준 시스템 해킹의 실제 적용 사례로 가치 있다.

핵심 요약

  • Bad Update 익스플로잇이 초기 20분에 30% 성공률에서 거의 즉시 실행되고 100% 가까운 성공률로 개선된 과정을 다룬다.
  • Rock Band Blitz 데모 버전의 DaTArrest라는 새로운 진입점이 발견되어 Tony Hawk American Wasteland 게임 디스크가 더 이상 필요 없게 됐다.
  • RBB 데모는 Xbox Live 스토어에서 무료로 다운로드되는 패키지이며, USB 스토리지 지원으로 USB 스틱에 복사해 모든 콘솔에서 실행할 수 있다.
  • ihatecompvir과 InvoxiPlayGames이 RBB의 DLC 파싱 코드에서 메모리 손상 취약점을 발견해 게임 세이브 파일로 익스플로잇을 부트스트랩할 수 있게 만들었다.
  • 하이퍼바이저 레이스 컨디션 부분에서 Máté가 사이퍼텍스트 해시 테이블, 캐시 플러싱 프리미티브, 스레드 스케줄링을 개선해 실행 시간을 몇 초로 단축했다.
  • 메모리 암호화 스킴의 12비트 화이트닝 값으로 1024개 조합이 가능한데, 원본 PoC에서는 1024개 중 하나만 생성했던 이유는 TLB 플러시 문제와 캐시 이슈 때문이었다.
  • 해시 테이블은 예상되는 사이퍼텍스트의 첫 N비트를 인덱스로 사용하며, HASH_BITS를 20으로 설정하면 1024개 화이트닝 값을 모두 스캔할 때 충돌이 거의 없다.
  • 해시 테이블 총 크기는 약 24MB이고, 1024번 반복하며 각 반복에서 암호화된 메모리를 할당하고 사이퍼텍스트를 생성해 테이블에 저장한다.
  • 개선된 캐시 플러싱 기법으로 dcbz 명령어(데이터 캐시 블록 0으로 설정)를 0x180000 바이트 영역에서 3개 위치에 걸쳐 호출해 L2 캐시 압박을 증가시켰다.
  • 개선된 스레드 스케줄링은 PowerPC의 OR 명령어를 사용해 하드웨어 스레드 우선순위를 조정하며, XKE 페이로드 스레드는 32개 디스패치 슬롯 중 1개만, 사이퍼텍스트 덮어쓰기 스레드는 31개를 사용하게 했다.
  • 마지막 개선점으로 사이퍼텍스트 덮어쓰기 감지 방식을 수정해 거짓 양성 오류로 인한 콘솔 충돌과 탐지 실패를 줄였다.
  • 원본 PoC에서는 압축된 부트로더의 15개 블록 중 마지막 블록이 하이퍼바이저에 기록되는 시점을 감지했으나, 사이퍼텍스트 관찰 방식의 결함으로 오류가 발생했다.
  • 개선된 방식은 두 개의 서로 다른 위치에서 사이퍼텍스트를 관찰해 마지막 압축 블록이 특정 오프셋에 쓰여졌는지 판단하며, 이를 통해 하이퍼바이저 syscall을 write-what-where 프리미티브로 변환할 수 있다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗