조건은 위로, 반복은 아래로: 코드 최적화의 대수학적 기초

핵심 요약

• '조건을 위로, 반복을 아래로'는 프로그래밍 휴리스틱으로, 조건 분기는 호출자 쪽으로 올리고 반복 루프는 배치 처리 쪽으로 내려 명확성과 성능을 높인다.
• 함수가 입력에 따라 분기한다면 그 분기를 호출자로 옮기는 식으로, Option 대신 Walrus 타입을 받아 선택 사항을 타입으로 표현한다.
• 반복 최적화는 개별 호출 대신 배치 함수를 제공해 핫 루프를 분기 없이 실행하고 벡터화의 후보가 되도록 한다.
• 두 원칙을 조합하면 호출자가 Option 값들을 필터링하고 Vec로 변환한 뒤 배치 함수에 전달하므로 None 케이스가 완전히 제거된다.
• 데이터베이스 쿼리 최적화에서도 같은 패턴이 나타난다: 프로젝션과 선택(SELECT, WHERE)은 쿼리 계획에서 일찍 실행되고, 비용이 큰 조인은 작은 입력에서 실행되도록 지연된다.
• 화산식 행 단위 실행 대신 배치 단위 벡터화 실행으로 바꾸면 설정 비용과 판단 비용을 배치당 한 번만 지불한다.
• 카테고리 이론에서 보면 조건 분기를 올리는 것은 부분 객체로의 제한이다: Option의 여집합 구조(1 + Walrus)에서 호출자가 None 케이스를 처리하고 함수는 Walrus 부분만 받는다.
• '필터 후 맵' 법칙은 조건부 있이 항상 성립하지 않지만, 두 표현이 filter(p) · map(f) = map(f) · filter(p · f)로 대수학적으로 연결되며, p · f가 입력의 저렴한 술어로 단순화할 때만 이득이다.
• 모든 최적화는 제약 조건이 필수다: 루프 불변 조건만 루프 밖으로 나갈 수 있고, 원소별 조건은 경계에만 머물며 타입으로 기록되어야 한다.
• 선택을 조인 아래로 누르는 것은 술어가 조인 한쪽의 컬럼만 참조할 때만 유효하고, 배치 처리로의 전환(A -> B에서 [A] -> [B]로)은 동치성보다는 비용 측면이다.