쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 13일 (일)까지356건
3건 · "AI 인프라"조건 지우기 ×
001▲ 179 · 댓글 141구글, 핀란드 원전에서 전기 절반 구매하며 130억 유로 투자구글이 핀란드에 130억 유로(150억 달러) 규모로 AI 인프라에 투자하며 유럽 최대 규모 단일 투자를 단행했다.AI · 머신러닝 · Google will buy half the electricity from one of Finland's nuclear power plants
구글, 핀란드 원전에서 전기 절반 구매하며 130억 유로 투자
Key PointAI 폭발적 수요 속에서 거대 기술 기업들이 전력 확보 경쟁에 나서고 있으며, 구글의 대규모 원전 전력 직접 계약은 데이터센터 에너지 조달 전략의 변화를 보여준다.
핵심 요약
- 구글이 핀란드에 130억 유로(150억 달러) 규모로 AI 인프라에 투자하며 유럽 최대 규모 단일 투자를 단행했다.
- 구글은 핀란드 전력사 Fortum과 22년 계약을 맺고 로비사 원전의 전력 50%를 매입한다.
- 투자로 카야니, 무호스, 바알라에 새 데이터센터를 짓고 하미나의 기존 시설을 확장한다.
- 건설 중 37,000명 이상의 일자리를 창출하고 핀란드 GDP를 연 36억 유로 증대할 것으로 예상된다.
- 구글은 에너지 프로젝트와 지역 생물다양성·교육 지원 기금도 포함하여 투자를 구성했다.
- 건설은 2027~2028년 진행되며, 로비사 원전은 현재 핀란드 전력의 약 10%를 생산한다.
AI · 머신러닝 · Training a 3.8B LLM to 0.384 CORE for $998
38억 파라미터 LLM을 998달러에 학습시키다
Key Point개인 개발자가 수천 달러 규모로 의미 있는 규모의 언어 모델을 학습할 수 있는 현실적인 경로와 구체적 최적화 기법을 보여주며, AI 인프라 설계의 중요성을 강조하는 사례입니다.
핵심 요약
- 3.8B 파라미터 언어 모델을 65B 토큰으로 43시간 동안 학습해 CORE 벤치마크 0.384점을 달성했다.
- B200 GPU 8개 렌탈 비용 $998로 GPT-2 대비 훨씬 나은 성능을 구현했으며, 같은 비용대의 nanochat d32보다 의미 있게 우수하다.
- Trapezoidal LR 스케줄, Muon 옵티마이저, ClimbMix 데이터셋, FP8 학습, 1024 토큰 컨텍스트 등 다섯 가지 최적화로 858M 모델의 실패 사례에서 개선했다.
- YAML 기반 설정 프레임워크를 구축해 코드 수정 없이 옵티마이저나 데이터셋을 한 줄로 교체할 수 있게 하는 등 인프라 설계에 중점을 뒀다.
- 초기 시행착오에서 FineWeb-Edu와 높은 학습률 설정 문제를 발견했고, 학습 후반부까지 손실이 감소하는 trapezoidal 스케줄로 해결했다.
AI · 머신러닝 · Kimi K3 (2.8T) at 1 token/s on a MacBook Pro, streamed from four SSDs
280억 파라미터 Kimi K3를 맥북에서 초당 1토큰 속도로 구동
Key Point280억 개 파라미터를 가진 대규모 언어모델을 품질 손상 없이 소비자용 하드웨어에서 구동하는 것이 가능함을 보여주며, 가정용 AI 인프라의 현실적 가능성을 시사한다.
핵심 요약
- 삼성 M5 Max 맥북 프로(128GB)에서 280억 파라미터 Kimi K3 MoE 모델을 4개 SSD에서 스트리밍하며 초당 1.00토큰의 안정적 디코딩 속도를 달성했다.
- 모델의 1.45TB 전문가 가중치는 SSD에서 동적으로 로드되며, 프리필 단계에서 각 레이어의 전문가를 8배 중복 읽기하면서 약 6.3분의 지연이 발생한다.
- 기존 공개 벤치마크(0.68토큰/s)보다 43% 빠른 성능을 기록했으며, 드라이브 개수에 따라 1개 52%, 2개 73%, 3개 90%의 속도 향상을 보인다.
- MIT 라이선스 Deltafin은 모델 품질을 절대 훼손하지 않고 전체 16개 전문가를 모두 사용하며, 스트리밍 모드(215GB 시작) 또는 풀 다운로드 모드(1.7TB)로 설치 가능하다.
- 프리필 재읽기 문제는 식별되었고 수정 계획이 있지만 아직 구현되지 않았으며, 개발진은 이를 순수한 연구 실험이자 자체 호스팅 AI의 한계를 탐색하는 프로젝트로 규정했다.