AI 데이터센터 광학 네트워크의 장애 예측 제어 체계 Halley
원제 Halley: A Predictive Control Plane for Optical AI Data Center Networks
추천 18댓글 1
Key Point
AI 데이터센터 훈련의 네트워크 신뢰성 문제를 예측 제어로 근본적으로 해결하여 같은 비용으로 더 큰 성능 확보가 가능해진다.
핵심 요약
- 대규모 AI 모델 훈련 시 수만 개의 가속기를 연결하는 광학 네트워크에서 매 훈련 스텝마다 전체 데이터 교환이 발생한다.
- 현재 광학 네트워크의 레이저·스위치·마이크로링 등 각 계층은 고정 정책이거나 사후 대응 방식으로 운영되고 있다.
- 같은 인클로저를 공유하는 레이저들은 함께 고장날 수 있으며, 고정된 예비 비율 아래에서는 풀이 아무리 커도 장애율이 증명상 상한선에 머문다.
- 논문에서 제안하는 Halley는 각 자원의 다음 상태를 예측하고 장애 발생 전에 대응하는 포괄적 제어 평면 프레임워크다.
- LightReserve는 레이저 풀 크기를 최적화하여 커버리지 보장을 제공하고, FoldFit은 스위치 스케줄링을 최적값의 11/9 이내로 제한한다.
- ThermaLead는 마이크로링을 1스텝 선행 제어로 관리하고, TriageGuard는 최고 위험 모듈을 우선 보호한다.
- 각 계층에 예측 제어기를 두되 확신이 없을 때는 기존 정책을 따른다.
- 시뮬레이션 결과 예비자원 소진 창이 손실되면 효과적 처리량이 65.2%에서 76.5%로 상승하고, 어두운 채널 대역폭만 손실되면 67.4%에 도달한다.
- 메가와트당 훈련량은 기존 대비 1.03~1.17배이며, 같은 훈련량에 필요한 데이터센터 용량은 3.3~14.7% 감소한다.
- 폴백 회로는 형식 검증을 거쳤고 상용 FPGA에서 타이밍 요구사항을 만족하며 130nm 공정의 최종 검증을 통과했다.