픽셀 공간 확산 모델 학습 가속화하는 통계 기법

핵심 요약

• 픽셀 공간에서 속도장(velocity field)을 직접 학습하는 것은 어렵고 느린데, 고정된 Wiener 추정값이 속도 학습을 개선하고 선형 예측 범위를 넘어 이득을 제공한다.
• 고정된 기저(basis)와 픽셀 디코딩도 이와 유사하면서 상호보완적인 성능 향상을 보인다.
• Wiener-informed Decoding(WiD)은 통계적 지식으로 직접 예측과 디코더 계산을 조직화하며, 훈련가능한 Wiener 예측 경로와 기본 디코더 블록에 특징을 주입하고 계수 보정을 반환하는 계수 인터페이스를 조합한다.
• 스펙트럼과 좌표 변환을 포함한 모든 도입 파라미터는 원래의 픽셀 공간 속도 목표 하에서 공동으로 훈련된다.
• 여러 모델 크기와 디코더 아키텍처에서 WiD는 훈련을 가속화하고 작은 파라미터 오버헤드로 생성 품질을 개선한다.
• 더 부드러운 그래디언트 궤적을 산출하며 표현 정렬과 함께 효과적으로 작동한다.
• ImageNet 256×256에서 WiD를 적용한 PixelDiT-XL은 500 에포크 후 FID 1.53에 도달하여 기존 PixelDiT와 동등한 품질을 37.5% 더 적은 훈련 에포크로 달성한다.
• 통계적 노이즈 제거기는 추정 예측 이상의 역할을 하며, 그 계산 구조가 픽셀 공간 훈련을 용이하게 할 수 있다.