쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 10월 3일 (토)까지1629건
4건 · "에너지 효율"조건 지우기 ×
001▲ 125 · 댓글 97GLM 5.3 Flash 한 달 집중 사용, 배운 점은?Wagtail 팀이 9월 한 달간 GLM 5.3 Flash 모델만 사용하는 도전을 진행했으나, 총 2B 토큰 중 절반만 해당 모델로 처리했다.AI · 머신러닝 · One month coding with GLM 5.3 Flash
GLM 5.3 Flash 한 달 집중 사용, 배운 점은?
Key Point개발 조직이 효율적인 LLM 모델을 선택할 때 직면하는 실제 비용 구조와 예상 외 변수들을 구체적 사례로 보여주며, 에너지·비용 절감을 위한 실질적 전략을 제시한다.
핵심 요약
- Wagtail 팀이 9월 한 달간 GLM 5.3 Flash 모델만 사용하는 도전을 진행했으나, 총 2B 토큰 중 절반만 해당 모델로 처리했다.
- 첫 2주는 계획대로 GLM 5.3 Flash만 사용해 $68, 365g 탄소 배출, 4kWh 에너지 소비로 예산 내에서 운영했다.
- 실험용 MCP 서버 프로토타입에서 잘못된 모델을 선택해 450M 토큰, $150, 5kWh 에너지를 하루 밤사이에 소비하는 예상 외 비용이 발생했다.
전체 요약 8문장 읽기 →AI · 머신러닝 · Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint
27B 모델을 5.9GB로 압축, 98% 성능 유지
.png)
Key Point로컬 기기에서 대형 모델을 실용적으로 실행할 수 있는 경계가 넓어지며, 에너지 효율과 배포 가능성의 균형이 어디까지 갈 수 있는지를 보여주기 때문입니다.
핵심 요약
- Qwen 3.8 27B 기반의 Ternary Bonsai 2 27B를 출시했으며, 삼진법 가중치와 FP16 그룹 스케일링으로 5.9GB 용량에 압축했다.
- 전체 정밀도 모델 대비 9배 이상 작으면서 98.2% 성능을 유지하며, 262K 토큰 컨텍스트 윈도우와 멀티모달 기능을 지원한다.
- 추론, 코딩, 비전, 에이전트 도구 사용 등에서 성능 저하를 최소화해 장시간 작업이나 다단계 처리에 유리하다.
전체 요약 6문장 읽기 →AI · 머신러닝 · Intelligence per Watt: Measuring Intelligence Efficiency of Local AI
작은 AI 모델, 로컬에서도 충분히 돈다
Key Point스마트폰·노트북 같은 개인 기기에서 AI를 충분히 돌릴 수 있다는 실증 자료로, 향후 AI 서비스 인프라 구조의 전환을 시사한다.
핵심 요약
- 20억 개 파라미터 이하의 소형 LLM이 클라우드 최고급 모델 대비 88.7% 정확도로 실제 질의응답에 성공했다.
- Apple M4 Max 같은 로컬 가속기에서 대화형 속도로 모델을 실행할 수 있으며, 에너지 효율성을 '와트당 지능도(IPW)'로 측정할 수 있다는 지표를 제안했다.
- 2023~2025년 2년간 IPW가 5.3배 개선되었고, 로컬에서 처리 가능한 질의 비중이 23.2%에서 71.3%로 증가했다.
전체 요약 5문장 읽기 →AI · 머신러닝 · Backprop Alternative: Augmented Lagrangian Predictive Coding
뇌처럼 학습하는 신경망, 역전파 대체 기술 등장
Key Point뇌의 신용 할당 문제라는 오랜 신경과학 미스터리를 푸는 가능성을 제시하며, 동시에 에지 디바이스의 에너지 효율 문제를 해결할 기술 경로를 보여줍니다.
핵심 요약
- PC-ALM이라는 신경망 학습 기법을 소개하는 논문으로, 역전파를 대체하는 국소적 동역학계 방식을 사용합니다.
- 각 계층에 피드백 제어 시스템을 갖춰 층간 국소 통신만으로 신용 할당 문제를 해결하며, 1000층까지 학습 가능합니다.
- 표준 역전파는 순전파→역전파→가중치 업데이트가 엄격한 순서로 진행되는데, 뇌는 이런 시간 동기화 메커니즘이 없어 역전파를 구현할 수 없다는 신경과학 문제에서 출발했습니다.
전체 요약 5문장 읽기 →