물리 방정식 학습에 예측 기반 표현 학습 도입
원제 PDE-JEPA: Predictive Representation Learning of Latent Dynamics Modeling for Parametric PDEs
추천 51댓글 2
Key Point
물리 시뮬레이션과 과학 계산이 필요한 분야에서 일반화 능력이 뛰어난 신경망 기반 PDE 솔버 개발의 핵심 진전입니다.
핵심 요약
- 매개변수 편미분방정식(PDE) 표현 학습에서 기존 재구성 기반 목표보다 예측 기반 표현 사전학습이 더 나은 물리 정보를 보존하는지 검토했습니다.
- 예측 표현만으로는 정확한 필드 진화가 보장되지 않는다는 관찰을 기반으로 PDE-JEPA 프레임워크를 제안했습니다.
- 먼저 마스크된 잠재 예측을 사용해 인코더를 학습하여 PDE 동역학의 기저 규칙을 포착합니다.
- 기하 프로젝터를 도입해 잠재 궤적의 기하학을 물리 필드의 진화 기하학과 정렬시켜 동역학 친화적 상태 공간을 구성합니다.
- 물리 구조화된 잠재 예측기로 동역학을 매개변수 독립 진화와 매개변수 종속 응답 성분으로 분해합니다.
- 9개 벤치마크에서 분포 내 예측 시 기존 최고 성능 방법 대비 평균 33.4% 개선, 미지 매개변수로 외삽할 때 평균 51.4% 개선을 달성했습니다.