001▲ 164 · 댓글 41리눅스 커널 보안 취약점 실수로 공개 메일링리스트에 노출Trend Micro의 Zero Day Initiative가 실수로 리눅스 커널 보안 취약점 여러 건을 비공개 보안 메일링리스트가 아닌 공개 LKML(Linux Kernel Mailing List)에 게시했다.
보안 · Several Linux kernel vulnerabilities accidentally posted to public mailing list
002▲ 132 · 댓글 4180GB 모델을 32GB 램에서 실행하는 Janas, llama.cpp보다 2배 이상 빠르다Janas-LLM은 48GB의 Qwen3-Next-80B 모델을 32GB 램의 노트북에서 실행하는 도구로, 모델 가중치를 디스크에 유지하면서 필요한 전문가(expert) 블록만 NVMe SSD에서 스트리밍한다.
AI · 머신러닝 · Janas: Run LLMs larger than RAM by streaming experts from SSD
32GB 메모리 제약에서 48GB 모델을 실행하면서 llama.cpp보다 2배 이상 빠른 속도를 달성한 새로운 방식이 기존 로컬 LLM 실행 방식의 성능 한계를 크게 개선한다.
핵심 요약
Janas-LLM은 48GB의 Qwen3-Next-80B 모델을 32GB 램의 노트북에서 실행하는 도구로, 모델 가중치를 디스크에 유지하면서 필요한 전문가(expert) 블록만 NVMe SSD에서 스트리밍한다.
같은 테스트 환경(32GB 메모리, Intel Core Ultra 9 185H, Arc 통합 GPU)에서 llama.cpp와 비교한 결과 모든 모델에서 Janas가 더 빠르며, Qwen3-Next-80B의 프롬프트 읽기 속도는 62 tok/s 대 16 tok/s, 토큰 생성은 24 tok/s 대 2.8 tok/s로 우월했다.
Qwen3.5-0.8B 같은 소형 모델은 프롬프트 읽기에서 939 tok/s, 토큰 생성 130 tok/s에 도달했으며, 드래프팅 기능(다음 토큰 예측과 검증)을 활용하면 생성 속도를 최대 2배까지 높일 수 있다.
006▲ 102 · 댓글 86메모리 가격 급등, 소비자 시장 붕괴 직전DRAM과 NAND 제조사들이 장기 계약(LTA)으로 시장 구조를 재편하고 있다: 최대 5년 계약으로 50~70%의 생산량을 상위 5~16개 대형 고객에게 사전 할당해 지난 40년간의 경기 순환 가격 사이클을 깨뜨리려 하고 있다.
하드웨어 · 시스템 · Memory Companies Have Destroyed the Consumer Market
제조사들의 장기 계약 전략으로 메모리 가격의 저점이 사라질 수 있으며, PC 게이머부터 의료 기기까지 모든 소비자가 영향을 받게 될 구조 변화가 진행 중입니다.
핵심 요약
DRAM과 NAND 제조사들이 장기 계약(LTA)으로 시장 구조를 재편하고 있다: 최대 5년 계약으로 50~70%의 생산량을 상위 5~16개 대형 고객에게 사전 할당해 지난 40년간의 경기 순환 가격 사이클을 깨뜨리려 하고 있다.
지난 1년간 소비자 메모리 가격이 급락했다: 2TB NVMe SSD 137%, 2TB SATA SSD 183%, 32GB DDR5 363%, 32GB DDR4 294% 인상되었고, DDR5-6000 64GB 키트는 $240에서 $1,300~$1,400으로 483% 올랐다.
서버와 AI용 메모리 수요가 소비자용을 잠식하고 있다: 2027년 NAND 비트 수요 중 서버 애플리케이션 비중이 44.2%에서 51.1%로 증가할 예정이고, 데이터센터 9사의 DRAM·NAND 구매액은 2026년 $433억에서 2027년 $940억으로 급증한다.
