쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 11월 16일 (월)까지 4683건
11건 · "행렬 곱셈"조건 지우기 ×
001 06:11 ▲ 127 · 댓글 31 구글의 멀티에이전트 AI, 수십 년 묵은 수학 문제를 증명하다 구글 리서치는 Antigravity의 /teamwork 멀티에이전트 시스템을 통해 수학, 화학, 소프트웨어, ML 등 여러 분야의 미해결 문제를 해결했다. AI · 머신러닝 · Advancing science and engineering with Antigravity's /teamwork
Key Point 구글이 멀티에이전트 AI로 정보이론, 양자 알고리즘, 형식 수학 등 수십 년 묵은 미해결 문제들을 순차적으로 증명·발견했으며, 이 도구를 모든 연구자에게 공개하면서 AI-인간 협업 연구의 새로운 패러다임을 제시했다.
핵심 요약
구글 리서치는 Antigravity의 /teamwork 멀티에이전트 시스템을 통해 수학, 화학, 소프트웨어, ML 등 여러 분야의 미해결 문제를 해결했다. Gemini 4 Argon, Carbon, Hydrogen 모델과 /teamwork을 함께 사용해 정보이론, 형식 검증, 분자 구조 발견, 커널 최적화 등에서 혁신을 이뤘다. /teamwork의 설계는 언어 모델의 두 가지 한계를 해결한다: 첫째 병렬 탐색과 검증자(Lean 4 증명 체커, 테스트 스위트 등)를 짝지어 생성의 불확실성을 극복하고, 둘째 각 에이전트에 필요한 도구와 파일만 전달해 장기 작업에서 맥락 손실을 방지한다. 전체 요약 14문장 읽기 → 002 00:11 당일 +351 278조 파라미터 모델을 CPU에서 8GB로 돌린다 중국의 Kimi K3 모델(278조 파라미터)을 C99로 순수 CPU 추론하는 프로젝트다. AI · 머신러닝 · FareedKhan-dev/kimi-k3-in-c · C
Key Point 거대 언어 모델을 GPU 없이 평범한 노트북에서 돌릴 수 있는 방법을 보여주는 사례로, CPU 기반 추론의 실용적 한계를 재정의한다.
핵심 요약
중국의 Kimi K3 모델(278조 파라미터)을 C99로 순수 CPU 추론하는 프로젝트다. 1.56TB 체크포인트를 디스크에서 스트리밍하면서 최소 8.24GB 메모리로 작동한다. BLAS, 프레임워크, GPU 없이 176KB 엔진만으로 구현했으며, 포괄적인 테스트와 참고 구현이 함께 제공된다. 전체 요약 12문장 읽기 → 003 00:11 ▲ 18 · 댓글 1 Blackwell GPU용 저정밀도 Attention 커널 FLAMIA 공개 NVIDIA Blackwell GPU의 고처리량 저정밀도 행렬 곱셈을 Attention 연산에 활용하기 위해 FLAMIA라는 attention 커널 패밀리를 제시했다. AI · 머신러닝 · FLAMIA: FLAsh MIcroscaling Attention for Fast and Causally Safe Training on Blackwell
Key Point Transformer 학습의 가장 비용이 높은 부분인 Attention 연산을 최신 Blackwell GPU의 저정밀도 연산으로 1.1~1.4배 빠르게 만드는 기법이 개발되어, 대규모 모델 학습 효율에 직접적인 영향을 미칠 수 있다.
핵심 요약
NVIDIA Blackwell GPU의 고처리량 저정밀도 행렬 곱셈을 Attention 연산에 활용하기 위해 FLAMIA라는 attention 커널 패밀리를 제시했다. 양자화 오버헤드, 공유 스케일을 통한 인과 정보 누출, 정방향과 역방향 계산 간 수치 불일치 등 세 가지 주요 문제를 해결했다. MXFP8과 혼합 NVFP4/FP8 학습 경로를 지원하며, 토큰-블록 스케일링으로 양자화된 피연산자를 행렬 방향 간에 재사용한다. 전체 요약 8문장 읽기 → 004 03:11 ▲ 169 · 댓글 82 Mac Studio에서 816B 모델 실행, MLX의 분산 추론 기능 공개 Apple이 MLX 최신 버전을 공개하며 Mac Studio에서 Muse Spark Open(816B 파라미터, MoE 모델)을 실행할 수 있음을 시연했다. AI · 머신러닝 · Apple ML Research: Muse Spark Open with MLX on Mac Studio
Key Point Apple silicon 기반 로컬 LLM 실행 성능이 가속도 구간에 접어들었으며, 816B 모델을 Mac Studio 클러스터에서 실행할 수 있는 기술 기반이 완성되었기 때문이다.
핵심 요약
Apple이 MLX 최신 버전을 공개하며 Mac Studio에서 Muse Spark Open(816B 파라미터, MoE 모델)을 실행할 수 있음을 시연했다. 단일 Mac Studio(M5 Ultra, 512GB 통합 메모리)에서 27B~128B 규모 모델(Qwen 3.8, Mistral Medium 3.5)은 정상 작동하며, TTFT는 M3 대비 최대 4.6배 빨라졌고 토큰 생성 속도는 1.6배 향상됐다. M5 Ultra의 GPU 신경 가속기는 행렬 곱셈 연산을 전담하여 컴퓨팅 한계 작업을 가속화하고, 통합 메모리 대역폭이 819GB/s에서 1.2TB/s로 증가해 메모리 한계 작업을 개선했다. 전체 요약 12문장 읽기 → 005 12:11 ▲ 29 · 댓글 2 생성 시점의 활성화에 맞춘 LLM 가지치기로 디코딩 가속 LLM 디코딩 단계는 메모리 대역폭이 성능 병목이 되는데, Hessian 기반 가지치기로 읽는 파라미터 수를 줄여 지연 시간을 개선할 수 있다. AI · 머신러닝 · SparseDecoding: Decoding-Aware Pruning for Accurate and Efficient LLM Inference
Key Point 디코딩 단계의 실제 토큰 생성 환경과 가지치기 과정의 불일치를 해결하면서 SpMV 연산에 최적화된 커널까지 제공해, LLM 추론 속도 개선에 직접적으로 적용 가능한 실무적 해법을 제시한다.
핵심 요약
LLM 디코딩 단계는 메모리 대역폭이 성능 병목이 되는데, Hessian 기반 가지치기로 읽는 파라미터 수를 줄여 지연 시간을 개선할 수 있다. 기존 방법들은 자연 텍스트에서 계산한 Hessian으로 모델을 가지치기하지만, 실제 디코딩 중에는 모델이 자체 생성 토큰을 처리하면서 분포 차이(distribution shift)가 발생한다. 이로 인해 생성 시 활성화 분포가 가지치기 시 사용된 분포에서 벗어나 모델 성능이 저하되는 문제가 있다. 전체 요약 7문장 읽기 → 006 18:33 ▲ 109 · 댓글 49 10년 난제 풀었다, 정렬·최단경로 알고리즘 다항식 고속화 Josh Alman과 Virginia Vassilevska Williams는 3SUM과 All-Pairs Shortest Paths(APSP) 문제를 처음으로 교과서 알고리즘보다 다항식만큼 빠르게 풀 수 있음을 증명했다. 오픈소스 · 도구 · Subquadratic 3SUM and Subcubic APSP
Key Point 30년 이상 컴퓨터과학에서 풀리지 않던 기본 문제들의 다항식 고속화로, 정렬·최단경로 등 실제 알고리즘에 영향을 미칠 수 있는 이론적 진전이다.
핵심 요약
Josh Alman과 Virginia Vassilevska Williams는 3SUM과 All-Pairs Shortest Paths(APSP) 문제를 처음으로 교과서 알고리즘보다 다항식만큼 빠르게 풀 수 있음을 증명했다. 3SUM은 n개의 정수를 O(n^1.9992) 시간에, APSP는 방향 그래프를 O(n^2.9995) 시간에 결정적으로 풀 수 있으며, 이는 각각 O(n²)과 O(n³)의 오래된 한계를 깼다. 이 결과는 3SUM과 APSP 추측(가설)뿐 아니라 실수 버전의 같은 문제들, Exact Triangle 추측, Zero-Weight k-Clique 추측 등 관련 문제 여러 개를 동시에 반박한다. 전체 요약 8문장 읽기 → 007 21:11 당일 +244 GPU·CPU 커널 개발을 단순하게, TileLang DSL 오픈소스 TileLang은 Python 문법을 기반한 도메인 특화 언어(DSL)로, GPU·CPU·NPU 등 다양한 가속기용 고성능 커널 개발을 간소화한다. 인프라 · 데브옵스 · tile-ai/tilelang · Python
Key Point 저수준 최적화 전문 지식 없이 Python 수준에서 GPU·CPU 커널을 작성·배포할 수 있어 AI 인프라 개발의 진입장벽을 크게 낮춘다.
핵심 요약
TileLang은 Python 문법을 기반한 도메인 특화 언어(DSL)로, GPU·CPU·NPU 등 다양한 가속기용 고성능 커널 개발을 간소화한다. TVM 컴파일러 인프라 위에 구축되어 있으며, GEMM·FlashAttention·양자화 연산 등 복잡한 연산의 저수준 최적화를 자동으로 처리한다. NVIDIA CUDA(SM70~SM120), AMD ROCm/HIP(CDNA/RDNA), Apple Metal, Huawei Ascend 950 NPU, LLVM CPU, 그리고 WebGPU 등 다양한 백엔드를 지원한다. 전체 요약 8문장 읽기 → 008 12:11 ▲ 14 · 댓글 2 LLM 긴 문맥 추론 가속, KV 캐시 저비트 양자화 기법 WUSH-KV 컨텍스트 길이와 배치 크기가 늘어나면서 KV 캐시의 메모리와 대역폭 비용이 증가하여 긴 문맥 추론 효율이 떨어지는 문제를 해결하기 위해 WUSH-KV 기법을 제안했다. AI · 머신러닝 · WUSH-KV: KV Cache Quantization with Data-Adaptive Transforms
Key Point 긴 문맥을 다루는 LLM의 추론 속도와 메모리 효율을 크게 개선할 수 있는 양자화 기법으로, 실제 프로덕션 환경에서 바로 적용 가능한 방법을 제시한다.
핵심 요약
컨텍스트 길이와 배치 크기가 늘어나면서 KV 캐시의 메모리와 대역폭 비용이 증가하여 긴 문맥 추론 효율이 떨어지는 문제를 해결하기 위해 WUSH-KV 기법을 제안했다. WUSH-KV는 행렬 곱셈의 두 인수에서 2차 통계량을 이용해 데이터 인식 변환을 구성하는 WUSH 방식을 KV 캐시에 적용한 것으로, 양자화 오류를 줄일 수 있다. 캘리브레이션 데이터로 key와 value에 대해 별도의 변환을 구성하며, value 변환은 모델 가중치에 포함시키고 key 변환은 RoPE 이후에 적용한다. 전체 요약 6문장 읽기 → 009 06:11 새 버전 PyTorch 2.14.1 출시, 선형대수·CUDA 버그 수정 PyTorch 2.14.1은 선형대수 연산과 CUDA의 정확성 문제를 해결하는 유지보수 버전입니다. AI · 머신러닝 · pytorch/pytorch@v2.14.1
Key Point PyTorch 사용자는 선형대수 연산의 정확성 문제와 NVIDIA의 치명적 CUDA 버그로부터 즉시 영향을 받으므로 이번 유지보수 버전 업그레이드가 필요합니다.
핵심 요약
PyTorch 2.14.1은 선형대수 연산과 CUDA의 정확성 문제를 해결하는 유지보수 버전입니다. MPS 백엔드에서 torch.linalg.lstsq가 복소수 배치 미결정 시스템의 잘못된 해를 반환하는 문제를 수정했습니다. torch.linalg.svd가 MPS에서 계수 부족 및 조건 불량 입력에 대해 비직교 U 행렬과 부정확한 특이값을 생성하던 버그를 수정했습니다. 전체 요약 6문장 읽기 → 010 00:11 ▲ 17 · 댓글 1 행렬 곱셈 대신 저비용 연산 쓰는 트랜스포머 구조 제시 기존 고속 행렬 곱셈 알고리즘과 다르게, 트랜스포머의 학습된 투영(projection)이 더 저렴한 대체 연산을 쓸 수 있는지 탐구했다. AI · 머신러닝 · Change the Product, Keep the Parameters: Associative Algebra Layers for Transformers
Key Point 행렬 곱셈 최적화가 아닌 완전히 다른 연산으로 대체할 때 처리량 증가 vs. 성능 저하 트레이드오프가 어떻게 나타나는지 보여주는 실험 결과이다.
핵심 요약
기존 고속 행렬 곱셈 알고리즘과 다르게, 트랜스포머의 학습된 투영(projection)이 더 저렴한 대체 연산을 쓸 수 있는지 탐구했다. 일반적인 행렬 곱셈을 희소한 상호작용 테이블로 대체하는 결합대수(associative algebra) 구성을 기반으로, 물리적 블록 크기가 고정되면 행렬 차원에서 이차 산술복잡도를 갖는 계층군을 구축했다. 이 구성은 Alder-Strassen 경계에 의해 쌍선형 순위(bilinear rank)에서 증명 가능하게 최적이며, 인과 마스킹(causal masking)과 KV 캐시 디코딩과 호환되는 행 타입의 직사각형 투영으로 실현할 수 있다. 전체 요약 6문장 읽기 → 011 09:10 ▲ 117 · 댓글 11 3진 LLM 압축의 1.585비트 벽을 깬다 3진 LLM의 가중치는 {-1, 0, +1} 세 개 심볼로만 저장되며, 기존 5진-트릿 패킹 방식은 가중치당 1.625비트가 소요된다. AI · 머신러닝 · Breaking the 1.58-bit Barrier for Ternary LLMs
Key Point 3진 LLM의 저장 용량을 근본적으로 줄이는 압축 기법으로, 엣지 기기부터 서버까지 추론 성능을 즉시 개선할 수 있다.
핵심 요약
3진 LLM의 가중치는 {-1, 0, +1} 세 개 심볼로만 저장되며, 기존 5진-트릿 패킹 방식은 가중치당 1.625비트가 소요된다. 29개 3진 LLM 모델을 분석하면 영(0)이 최대 51.5%를 차지해 심볼이 균등하지 않게 분포한다. BITCOS 레이아웃은 영(0) 밀도에 따라 적응적으로 압축하며, 가중치당 (2 - z)비트를 사용한다. 전체 요약 5문장 읽기 →