OpenAI, LLM으로 자체 칩 설계…20개월만에 완성
Key Point
LLM이 칩 설계 자동화를 어떻게 실현하는지, 그리고 이것이 기존 수작업 기반의 칩 개발 일정을 얼마나 단축시킬 수 있는지 보여주는 사례이기 때문입니다.
핵심 요약
- OpenAI가 자체 AI 가속기칩 '할라페뇨'를 공개했으며, 엔비디아 GB300 대비 지연시간 3.6배 단축하고 전력 소비는 덜한다.
- 할라페뇨는 13.4 페타플롭의 4비트 연산과 초당 15.4테라바이트의 메모리 접근 속도를 제공한다.
- 첫 아키텍처부터 실리콘 제조까지 20개월, RTL 코드부터 생산 단계까지 9개월이 걸렸다.
- OpenAI는 자신의 LLM으로 고수준 합성(HLS) 설계와 소프트웨어 최적화를 자동화했다.
- DeepSeek 멀티헤드 레이턴시 어텐션 벤치마크에서 약 40시간 만에 성능을 0.31%에서 88.94%로 끌어올렸다.
- 100명 규모의 설계팀과 Broadcom의 물리 설계 지원으로 업계 표준보다 빠른 일정을 실현했다.