쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 22일 (일)까지5064건
2건 · "인프라 최적화"조건 지우기 ×
001▲ 104 · 댓글 24세레브라스, GPU와 조합한 비집약형 추론으로 메가와트당 5배 처리량세레브라스가 GPU와 자사 웨이퍼 스케일 엔진을 조합하는 비집약형 추론(disaggregated inference) 솔루션을 프로덕션 단계에 배포했다.AI · 머신러닝 · Cerebras Disaggregated Inference

Key Point대규모 AI 에이전트 서비스의 초고속 응답 요구에 맞추기 위해 GPU와 전문 칩을 결합하는 인프라 아키텍처로의 전환이 시작되었으며, 이는 LLM 추론 비용 구조의 근본적인 변화를 예고한다.
핵심 요약
- 세레브라스가 GPU와 자사 웨이퍼 스케일 엔진을 조합하는 비집약형 추론(disaggregated inference) 솔루션을 프로덕션 단계에 배포했다.
- 에이전트 애플리케이션 수요 증가로 전력 제약 환경에서 메가와트당 더 많은 추론 용량을 제공해야 하는 과제에 대응하기 위한 것이다.
- 구조는 GPU가 프롬프트 처리(prefill) 담당, 세레브라스 시스템이 응답 생성(decode) 담당으로 분리한다.
전체 요약 7문장 읽기 → 002▲ 35 · 댓글 9AI 인프라 최적화, 장시간 자동 학습으로 인간 설계보다 33배 나은 성과프론티어급 AI 에이전트가 실제 인프라 최적화를 장기간에 걸쳐 지속적으로 개선할 수 있는지 검증하는 논문이다.AI · 머신러닝 · Infrathon: Benchmarking Language Agents for Real-World, Long-Horizon AI Infra Optimization

Key Point생성형 AI의 계산 비용을 줄이려는 인프라 최적화에서, 자동화된 에이전트가 숙련된 인간 엔지니어의 설계를 수십 배 앞지르는 결과를 낼 수 있다는 점이 중요하다.
핵심 요약
- 프론티어급 AI 에이전트가 실제 인프라 최적화를 장기간에 걸쳐 지속적으로 개선할 수 있는지 검증하는 논문이다.
- Infrathon 벤치마크는 다양한 수준의 장기 AI 인프라 최적화 작업들로 구성되어 있다.
- 6개 모델을 150회 실행하며 24시간 예산으로 평가했고, 총 10,000 GPU시간 이상이 소요됐다.
전체 요약 9문장 읽기 →