RAG 기반 AI 애플리케이션의 검색 속도가 최대 11배 개선되면 응답 시간 단축과 인프라 비용 절감이 직결되므로, 대규모 검색 시스템을 운영 중인 개발팀과 MLOps 담당자에게 즉시 실무 적용 가능한 최신 최적화 기법이다.
핵심 요약
추천 시스템, 검색, RAG의 핵심인 최대내적탐색(MIPS)은 쿼리 벡터와 수백만 개 후보 벡터를 비교해야 해 계산 비용이 급증하는 문제가 있다.
기존 방법들은 클러스터링과 양자화로 속도를 높이지만 쿼리 분포를 무시하고, RAG에서는 사용자 질문(쿼리)과 문서(키)의 특성이 크게 달라 최적이 아니다.
애플 연구팀은 ICML 2026에서 쿼리별 라우팅을 학습하는 소형 신경망 두 가지를 제시했다: SupportNet은 각 클러스터별 지원함수(support function)를 학습해 라우팅 정확도를 높이고, KeyNet은 쿼리를 최적 키로 직접 변환해 기존 인덱스와 결합한다.
005▲ 195 · 댓글 206앤스로픽, 3분기 170억 달러 매출과 8955억 달러 인프라 약정 공개앤스로픽이 수정된 Form S-1 신고서를 통해 9월 30일까지 9개월 누적 매출 332억 4000만 달러를 보고했으며, 이는 전년 동기 대비 약 1,200% 증가했다.
AI · 머신러닝 · Anthropic reports $17B in Q3 revenue, commitments of $895B in revised S-1
007▲ 113 · 댓글 78AI 에이전트 샌드박스를 기존 대비 90% 저렴하게 제공하는 Agent37Agent37은 AI 에이전트 실행을 위한 저비용 샌드박스 서비스로, 일반적인 샌드박스 제공업체 대비 90% 이상 저렴하며 평균 월 $0.37/샌드박스의 비용으로 운영된다.
스타트업 · 비즈니스 · Launch HN: Agent37 (YC F26) – Low-cost agent sandboxes for running agents
008▲ 102 · 댓글 86메모리 가격 급등, 소비자 시장 붕괴 직전DRAM과 NAND 제조사들이 장기 계약(LTA)으로 시장 구조를 재편하고 있다: 최대 5년 계약으로 50~70%의 생산량을 상위 5~16개 대형 고객에게 사전 할당해 지난 40년간의 경기 순환 가격 사이클을 깨뜨리려 하고 있다.
하드웨어 · 시스템 · Memory Companies Have Destroyed the Consumer Market
제조사들의 장기 계약 전략으로 메모리 가격의 저점이 사라질 수 있으며, PC 게이머부터 의료 기기까지 모든 소비자가 영향을 받게 될 구조 변화가 진행 중입니다.
핵심 요약
DRAM과 NAND 제조사들이 장기 계약(LTA)으로 시장 구조를 재편하고 있다: 최대 5년 계약으로 50~70%의 생산량을 상위 5~16개 대형 고객에게 사전 할당해 지난 40년간의 경기 순환 가격 사이클을 깨뜨리려 하고 있다.
지난 1년간 소비자 메모리 가격이 급락했다: 2TB NVMe SSD 137%, 2TB SATA SSD 183%, 32GB DDR5 363%, 32GB DDR4 294% 인상되었고, DDR5-6000 64GB 키트는 $240에서 $1,300~$1,400으로 483% 올랐다.
서버와 AI용 메모리 수요가 소비자용을 잠식하고 있다: 2027년 NAND 비트 수요 중 서버 애플리케이션 비중이 44.2%에서 51.1%로 증가할 예정이고, 데이터센터 9사의 DRAM·NAND 구매액은 2026년 $433억에서 2027년 $940억으로 급증한다.