8비트 시대의 극한 최적화, 스택을 이용한 타일 복사 해킹
원제 A great old-timey game-programming hack (2013)
144 포인트댓글 22
Key Point
제한된 하드웨어에서 아이디어를 짜 맞추기 위해 프로세서 레지스터와 스택 메커니즘을 역발상으로 활용한 극단적 최적화의 실제 사례로, 현대적 과최적화와는 다른 필수적 성능 해킹의 본질을 보여준다.
핵심 요약
- 1980년대 8비트 PC에서 아케이드 게임을 포팅한 프로그래머 친구가 게임의 심각한 속도 문제를 안고 있었다.
- 이미 루프 언롤링과 주소 오프셋 최적화로 행당 98 사이클까지 줄인 타일 복사 루틴을 더 이상 최적화할 수 없었다.
- 저자는 6809 마이크로프로세서 매뉴얼에서 PSHS(스택에 여러 레지스터 저장) 명령어를 발견했는데, D, X, Y, 그리고 DP 레지스터 4개를 한 번에 6바이트씩 밀어낼 수 있었다.
- 하지만 PSHS/PSHU 쌍으로 복사하면 바이트 순서가 뒤바뀌고 행이 상하반전되는 문제가 생겼다.
- 해결책은 타일을 미리 '셉텟(7바이트 블록)' 단위로 역순 배치하는 것이었으며, 이렇게 하면 복사 과정의 변형이 상쇄되어 올바른 이미지가 그려졌다.
- 최적화된 코드는 행당 56 사이클로 줄어들어 전체 타일 복사에 1689 사이클이 소요되어, 기존 대비 약 70% 속도 향상을 달성했다.
- 게임에 적용하자 음향 인터럽트가 시스템 스택 포인터 S를 덮어써서 타일이 손상되는 문제가 발생했다.
- 스택 포인터 S와 U를 맞바꿔서 S가 스크린 버퍼를 가리키게 하면, 인터럽트로 인한 손상이 다음 프레임 그리기 때 덮어써진다.
- 더 나아가 타일을 우상향(높은 주소)에서 좌하향(낮은 주소)으로 그리도록 변경하면, 손상된 메모리 위치가 곧바로 다음 타일 복사로 복구되어 사용자는 화면 깨짐을 전혀 볼 수 없게 된다.