Hugging Face 논문AI · 머신러닝오늘의 주요

AI 데이터센터 광학 네트워크의 장애 예측 제어 체계 Halley

원제 Halley: A Predictive Control Plane for Optical AI Data Center Networks

추천 18댓글 1Manav Mishra, Krishna M. Sivalingam
Key Point

AI 데이터센터 훈련의 네트워크 신뢰성 문제를 예측 제어로 근본적으로 해결하여 같은 비용으로 더 큰 성능 확보가 가능해진다.

핵심 요약

  • 대규모 AI 모델 훈련 시 수만 개의 가속기를 연결하는 광학 네트워크에서 매 훈련 스텝마다 전체 데이터 교환이 발생한다.
  • 현재 광학 네트워크의 레이저·스위치·마이크로링 등 각 계층은 고정 정책이거나 사후 대응 방식으로 운영되고 있다.
  • 같은 인클로저를 공유하는 레이저들은 함께 고장날 수 있으며, 고정된 예비 비율 아래에서는 풀이 아무리 커도 장애율이 증명상 상한선에 머문다.
  • 논문에서 제안하는 Halley는 각 자원의 다음 상태를 예측하고 장애 발생 전에 대응하는 포괄적 제어 평면 프레임워크다.
  • LightReserve는 레이저 풀 크기를 최적화하여 커버리지 보장을 제공하고, FoldFit은 스위치 스케줄링을 최적값의 11/9 이내로 제한한다.
  • ThermaLead는 마이크로링을 1스텝 선행 제어로 관리하고, TriageGuard는 최고 위험 모듈을 우선 보호한다.
  • 각 계층에 예측 제어기를 두되 확신이 없을 때는 기존 정책을 따른다.
  • 시뮬레이션 결과 예비자원 소진 창이 손실되면 효과적 처리량이 65.2%에서 76.5%로 상승하고, 어두운 채널 대역폭만 손실되면 67.4%에 도달한다.
  • 메가와트당 훈련량은 기존 대비 1.03~1.17배이며, 같은 훈련량에 필요한 데이터센터 용량은 3.3~14.7% 감소한다.
  • 폴백 회로는 형식 검증을 거쳤고 상용 FPGA에서 타이밍 요구사항을 만족하며 130nm 공정의 최종 검증을 통과했다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗