쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 10월 30일 (금)까지 3636건
19건 · "TPU"조건 지우기 ×
001 03:11 새 버전 LangChain Core 1.7.0 출시, 도구 호출 스트리밍 방식 변경 LangChain Core 1.7.0이 릴리스되었으며, 도구 호출(tool-call) 인자 스트리밍 방식이 변경되었다. 오픈소스 · 도구 · langchain-ai/langchain@langchain-core==1.7.0
Key Point 도구 호출 인자의 스트리밍 방식이 근본적으로 바뀌므로, LangChain을 활용해 에이전트나 도구 호출을 구현한 프로젝트는 업그레이드 전 코드 변경 필요 여부를 점검해야 한다.
핵심 요약
LangChain Core 1.7.0이 릴리스되었으며, 도구 호출(tool-call) 인자 스트리밍 방식이 변경되었다. 기존에는 block-delta 스냅샷으로 누적된 전체 인자를 전달했으나, 이제 tool-call-delta 슬라이스로 각 호출의 새로운 인자 조각만 스트리밍한다. raw stream 이벤트를 직접 읽는 경우 mid-stream block-delta 대신 tool-call-delta를 읽어야 한다. 전체 요약 6문장 읽기 → 002 21:11 당일 +104 구글, PyTorch를 TPU에서 실행하는 백엔드 공개 Google이 PyTorch 모델을 Google의 TPU(Tensor Processing Unit) 장치에서 실행할 수 있게 하는 torch_tpu 백엔드를 오픈소스로 공개했다. AI · 머신러닝 · google-pytorch/torch_tpu · C++
Key Point PyTorch 기반 프로젝트를 Google TPU에서 GPU 대신 더 저렴하게 실행할 수 있는 경로가 생겼고, ML 엔지니어와 연구자들이 다양한 가속 옵션을 선택할 수 있게 됐다.
핵심 요약
Google이 PyTorch 모델을 Google의 TPU(Tensor Processing Unit) 장치에서 실행할 수 있게 하는 torch_tpu 백엔드를 오픈소스로 공개했다. PyTorch 연산을 위한 ATen 커널 구현, XLA 계산 최적화를 위한 컴파일 캐시, 데이터 병렬화와 텐서 병렬화를 지원하는 분산 학습 기능을 포함한다. Llama, Qwen, ResNet, DLRM, minGPT, UNet 등 다양한 모델의 예제와 torch.compile()을 통한 그래프 모드 실행 통합, 디버깅 및 벤치마킹 유틸리티를 제공한다. 전체 요약 7문장 읽기 → 003 15:11 ▲ 23 · 댓글 3 영상 생성 AI의 주의 계산 최적화, 훈련 없이 처리 시간 단축 비디오 확산 트랜스포머의 3D 어텐션 계산이 비용이 많이 드는 문제를 해결하기 위해 블록-스파스(block-sparse) 어텐션이 사용되지만, 기존 방법들은 스파시티 할당을 최적화하지 못하거나 휴리스틱에만 의존한다. AI · 머신러닝 · Sparsity Should Be ALLOTted by Output: Training-Free Allocation of Block-Sparse Attention for Video Diffusion Transformers
Key Point 비디오 생성 모델의 추론 속도를 실질적으로 단축할 수 있는 실용적 최적화 방법을 제시하며, 훈련 없이 적용 가능해 즉시 도입할 수 있다.
핵심 요약
비디오 확산 트랜스포머의 3D 어텐션 계산이 비용이 많이 드는 문제를 해결하기 위해 블록-스파스(block-sparse) 어텐션이 사용되지만, 기존 방법들은 스파시티 할당을 최적화하지 못하거나 휴리스틱에만 의존한다. 연구팀은 다른 레이어와 디노이징 단계에서 어텐션 스파시티를 줄일 때 최종 영상 품질에 영향을 주는 정도가 크게 다르다는 것을 발견했다. 중요한 발견은 품질에 가장 민감한 레이어-단계 조합이 입력 데이터에 관계없이 거의 변하지 않는다는 점이다. 전체 요약 8문장 읽기 → 004 09:11 당일 +108 LLM 추론 최적화 라이브러리 vLLM, 200+ 모델 지원 vLLM은 UC Berkeley의 Sky Computing Lab에서 개발한 오픈소스 LLM 추론·서빙 엔진으로, 2000명 이상의 기여자가 참여하는 활발한 프로젝트다. AI · 머신러닝 · vllm-project/vllm · Python
Key Point LLM 서빙 성능이 중요해지면서 vLLM 같은 최적화된 추론 엔진의 역할이 커지고 있으며, 광범위한 모델 지원과 하드웨어 호환성이 프로덕션 배포의 실질적 선택지를 제공한다.
핵심 요약
vLLM은 UC Berkeley의 Sky Computing Lab에서 개발한 오픈소스 LLM 추론·서빙 엔진으로, 2000명 이상의 기여자가 참여하는 활발한 프로젝트다. PagedAttention을 통해 메모리를 효율적으로 관리하고 연속 배칭, 청크 프리필, 프리픽스 캐싱으로 높은 처리량을 제공한다. FP8, INT4, GPTQ/AWQ, GGUF 등 다양한 양자화 방식과 FlashAttention, FlashInfer 같은 최적화 커널을 지원한다. 전체 요약 8문장 읽기 → 005 06:11 ▲ 195 · 댓글 47 구글이 PyTorch용 TPU 백엔드 오픈소스화 구글이 TorchTPU를 오픈소스로 공개했으며, 이는 PyTorch 모델과 연산을 구글 TPU 디바이스에서 직접 실행 가능하게 하는 네이티브 백엔드입니다. AI · 머신러닝 · Google open-sources TorchTPU, a native PyTorch back end for TPUs
Key Point PyTorch 사용자들이 NVIDIA GPU 대신 구글 TPU에서 직접 모델을 학습하고 추론할 수 있게 되어, 클라우드 인프라 선택지와 최적화 옵션이 확대됩니다.
핵심 요약
구글이 TorchTPU를 오픈소스로 공개했으며, 이는 PyTorch 모델과 연산을 구글 TPU 디바이스에서 직접 실행 가능하게 하는 네이티브 백엔드입니다. PyTorch ATen 커널 구현, XLA 컴파일 캐시 최적화, 데이터 병렬화와 텐서 병렬화를 포함한 분산 학습 지원, torch.compile() 통합 등의 기능을 제공합니다. Llama, Qwen, ResNet, DLRM, minGPT, UNet 등 다양한 모델의 예제가 포함되어 있으며, 디버깅과 벤치마킹을 위한 유틸리티도 제공됩니다. 전체 요약 8문장 읽기 → 006 06:11 ▲ 11 · 댓글 3 언어모델 학습, 중간 계산 구조까지 모방하는 방식 제시 기존 온폴리시 증류(OPD) 방식은 학생 모델이 자신의 정책에서 샘플한 접두사에 대해 출력만 감독하며, 교사 모델의 중간 계산 과정은 전이하지 못한다는 문제가 있다. AI · 머신러닝 · OPMD: On-Policy Mechanism Distillation Beyond Output Supervision
Key Point 출력 공간의 감독을 넘어 모델의 내부 계산 구조를 직접 전이하는 새로운 증류 방식으로, 학생 모델의 추론 능력과 학습 효율을 근본적으로 향상시키는 접근법입니다.
핵심 요약
기존 온폴리시 증류(OPD) 방식은 학생 모델이 자신의 정책에서 샘플한 접두사에 대해 출력만 감독하며, 교사 모델의 중간 계산 과정은 전이하지 못한다는 문제가 있다. 표현 매칭 같은 단순한 중간 계층 증류는 불충분한데, 교사와 학생의 표현이 기하학적으로 다를 수 있고 정렬된 은닉 상태도 학생의 후속 계산에 사용 불가능할 수 있기 때문이다. 연구진은 온폴리시 메커니즘 증류(OPMD)를 제안하여, 학생이 실제로 사용 가능하도록 교사 표현을 학생의 중간 상태로 변환하는 학생 호환 교사를 먼저 구축한다. 전체 요약 6문장 읽기 → 007 09:11 ▲ 117 · 댓글 47 전동드릴로 킥보드를 전동화시킨 엔지니어 필요 없는 두 번째 킥보드를 사지 않기 위해 기존 레이저 A5 럭스 킥보드를 개조하기로 결정했다. 하드웨어 · 시스템 · I electrified my push scooter with a power drill
Key Point DIY 애호가가 마실 제약을 창의적으로 극복하여 일반적인 킥보드를 완전히 다른 제품으로 개조한 실제 사례를 보여주며, 엔지니어링 설계와 3D프린팅, 기계 가공 등 여러 기술의 실제 활용을 확인할 수 있다.
핵심 요약
필요 없는 두 번째 킥보드를 사지 않기 위해 기존 레이저 A5 럭스 킥보드를 개조하기로 결정했다. 헤라클레스 20V 충전식 드릴을 전동 모터로 사용해 전륜 구동 시스템을 만들었다. 드릴의 동력은 키 샤프트와 원웨이 베어링을 통해 전륜에 전달되며, 드릴이 꺼졌을 때도 바퀴가 자유롭게 회전한다. 전체 요약 10문장 읽기 → 008 03:12 새 버전 트랜스포머 5.20.0: 메타 뮤즈 스파크 오픈 등 6개 신규 모델 지원 메타의 멀티모달 혼합 전문가 모델 뮤즈 스파크 오픈(Muse Spark Open)을 추가했다. 총 816B 파라미터(토큰당 활성 42B)이며 최대 1,048,576 토큰의 맥락 창을 지원하고 다중 파일 편집·디버깅·도구 사용 등 에이전틱 코딩 작업을 위해 학습됐다. AI · 머신러닝 · huggingface/transformers@v5.20.0
Key Point 메타·알렉스 알파·바이두 등 주요 기업의 첨단 멀티모달·OCR·오디오 모델 6개가 한 번에 지원되고, 분산 학습·추론·양자화 내보내기 등 프로덕션 기능이 대폭 개선되어 트랜스포머 사용자에게 즉시 영향을 미친다.
핵심 요약
메타의 멀티모달 혼합 전문가 모델 뮤즈 스파크 오픈(Muse Spark Open)을 추가했다. 총 816B 파라미터(토큰당 활성 42B)이며 최대 1,048,576 토큰의 맥락 창을 지원하고 다중 파일 편집·디버깅·도구 사용 등 에이전틱 코딩 작업을 위해 학습됐다. InclusionAI의 Ling 3.0 Flash는 5개 KDA 레이어와 1개 MLA 레이어를 결합한 혼합 전문가 모델로 BailingHybridForCausalLM으로 네이티브 지원되어 trust_remote_code=True 없이 로드된다. 알렉스 알파의 Kolibri 1은 독일어·영어 중심 추론 모델로, 50개 레이어가 384명의 전문가 중 6명에게 각 토큰을 시그모이드 라우팅으로 라우팅하고 슬라이딩 윈도우와 전체 어텐션 레이어를 번갈아 사용한다. 전체 요약 13문장 읽기 → 009 21:11 새 버전 Terraform 1.16.6 출시, 워크스페이스 검색과 보안 개선 Terraform 1.16.6이 출시되었다. 인프라 · 데브옵스 · hashicorp/terraform@v1.16.6
Key Point 클라우드 워크스페이스 검색 문제와 보안 취약점 패치로 인한 안정성 개선이 포함되어 있어, Terraform을 운영하는 팀에 적용을 고려할 필요가 있다.
핵심 요약
Terraform 1.16.6이 출시되었다. terraform init 명령어가 대문자를 포함한 키를 가진 key/value 태그로 선택된 클라우드 워크스페이스를 찾을 수 있도록 개선되었다. 테스트 중인 모듈이 지원 종료된 outputs를 사용할 수 있도록 수정되었다. 전체 요약 4문장 읽기 → 010 18:30 당일 +103 Unity IL2CPP 바이너리를 원본 C# 코드로 역변환하는 도구 Cpp2IL Unity의 IL2CPP 컴파일 과정을 역으로 분석해 원본 관리 DLL로 복원하는 진행 중인 도구로, LibCpp2IL 라이브러리를 사용해 메타데이터를 파싱합니다. 오픈소스 · 도구 · SamboyCoding/Cpp2IL · C#
Key Point IL2CPP 보호 게임의 소스코드 복원이 필요한 모더·보안 연구자·분석가에게 필수적인 역공학 도구이며, 주요 라이브러리 교체와 플러그인 시스템 도입으로 대폭 개선되고 있습니다.
핵심 요약
Unity의 IL2CPP 컴파일 과정을 역으로 분석해 원본 관리 DLL로 복원하는 진행 중인 도구로, LibCpp2IL 라이브러리를 사용해 메타데이터를 파싱합니다. 디컴파일된 CIL은 현재 상태가 복잡하지만 ILSpy로 열 수 있으며, MethodAnalysisContext를 통해 플랫폼별 어셈블리를 중간 표현(ISIL)으로 변환 후 제어 흐름 그래프를 구축해 분석합니다. 개발 브랜치에서 대규모 리작성 중이며, 기존의 많은 커맨드라인 옵션(--analysis-level, --skip-analysis 등)이 제거되고 출력 포맷과 처리 레이어 개념으로 단순화됐습니다. 전체 요약 12문장 읽기 → 011 18:33 새 버전 Transformers 5.19.0, 멀티모달 임베딩과 분산학습 기능 강화 Gemma 2의 멀티모달 임베딩 모델 EmbeddingGemma2를 새로 추가했으며, 텍스트·이미지·오디오·비디오를 768차원 벡터 공간에 인코딩하고 512/256/128차원으로 축소 가능하다. AI · 머신러닝 · huggingface/transformers@v5.19.0
Key Point 멀티모달 모델 지원 확대와 분산학습 병렬화 개선으로 LLM 추론 효율이 향상되며, 주요 API 변경으로 기존 코드 마이그레이션이 필요해진다.
핵심 요약
Gemma 2의 멀티모달 임베딩 모델 EmbeddingGemma2를 새로 추가했으며, 텍스트·이미지·오디오·비디오를 768차원 벡터 공간에 인코딩하고 512/256/128차원으로 축소 가능하다. MoE(Mixture of Experts) 모델이 output_router_logits=True일 때 라우터 로짓을 반환하도록 변경되었으며, 기존 코드는 새 출력 클래스에서 로짓을 읽어야 한다. OWLv2 이미지 쿼리 선택 방식이 객체 신뢰도 점수 기준으로 변경되어 기존 기능과 결과가 달라질 수 있다. 전체 요약 7문장 읽기 → 012 18:33 ▲ 339 · 댓글 396 AI가 설계한 오픈소스 AI 가속기, openTPU 공개 AI 에이전트가 설계한 오픈소스 AI 가속기 openTPU를 공개했으며, 하드웨어 설계(SystemVerilog)부터 호스트 소프트웨어까지 한 저장소에 담아 교육용으로도 활용 가능하게 구성했다. AI · 머신러닝 · OpenTPU – An open-source AI accelerator, developed by AI
Key Point GPU나 TPU 없이 FPGA로 LLM 추론을 달성했을 뿐 아니라, 전체 설계 과정을 오픈소스로 공개해 누구나 AI 가속기의 구조를 디코딩부터 회로까지 깊이 있게 학습할 수 있다.
핵심 요약
AI 에이전트가 설계한 오픈소스 AI 가속기 openTPU를 공개했으며, 하드웨어 설계(SystemVerilog)부터 호스트 소프트웨어까지 한 저장소에 담아 교육용으로도 활용 가능하게 구성했다. Xilinx Kintex-7 FPGA 카드(DDR3 2채널)에서 LFM2.5-230M int8 모델 기준 디코딩 52.3 tok/s, 프리필 335.4 tok/s 성능을 달성했고, 10개 현대 모델의 실제 가중치로 테스트해 시뮬레이터와 비트 정확도로 일치함을 확인했다. 4비트 양자화(FP4 블록 스케일) 지원으로 토큰당 바이트를 약 1/3 감소시키고 디코딩 속도를 40~45% 높였으며, int8 헤드는 정확도 유지를 위해 유지했다. 전체 요약 9문장 읽기 → 013 06:11 새 버전 LangChain 1.4.3 릴리스, 폴백 모델과 Bedrock 지원 강화 LangChain 1.4.3 버전이 릴리스되어 여러 버그 수정과 기능 개선을 포함합니다. AI · 머신러닝 · langchain-ai/langchain@langchain==1.4.3
Key Point LLM 애플리케이션 개발 시 LangChain을 사용하는 팀이라면 Bedrock 통합 강화와 에이전트 도구 호출 안정성 개선을 즉시 적용해야 합니다.
핵심 요약
LangChain 1.4.3 버전이 릴리스되어 여러 버그 수정과 기능 개선을 포함합니다. 폴백 모델의 캐시 설정 오류를 수정하여 안정성을 개선했습니다. AWS Bedrock의 Mantle 채팅 모델을 init_chat_model에서 지원하기 시작했습니다. 전체 요약 7문장 읽기 → 014 22:26 새 버전 Vite 8.3.1 릴리스, 의존성 업데이트 및 버그 수정 Vite 8.3.1 버전이 릴리스되었으며 주요 버그 수정과 의존성 업데이트를 포함한다. 웹 · 프론트엔드 · vitejs/vite@v8.3.1
Key Point 메이저 버전 제외 전체 의존성 업데이트와 함께 개발 경험과 안정성을 개선하는 다수의 버그 수정이 포함되어 있어, Vite를 사용하는 프로젝트를 최신 상태로 유지하고자 할 때 참고해야 한다.
핵심 요약
Vite 8.3.1 버전이 릴리스되었으며 주요 버그 수정과 의존성 업데이트를 포함한다. 메이저 버전을 제외한 모든 의존성이 업데이트되었고 rolldown 관련 의존성도 함께 갱신되었다. server.ws: false 설정이 mergeConfig에서 제대로 처리되도록 수정되었다. 전체 요약 9문장 읽기 → 015 22:26 ▲ 132 · 댓글 233 구글, 우주 궤도에 AI 컴퓨팅 인프라 구축하려 한다 구글이 Project Suncatcher를 통해 우주에서 AI 인프라를 구축할 수 있는지 탐험하는 장기 연구 프로젝트를 진행 중이며, 다음 주에 SpaceX의 Transporter-18 미션을 통해 첫 시험 위성을 발사한다. AI · 머신러닝 · Google’s Project Suncatcher to put ML infrastructure in space
Key Point 우주에서 AI 컴퓨팅을 구축하는 것이 현실적으로 가능한지 검증하는 단계이며, 지구의 태양전력 한계를 초월한 새로운 AI 인프라 방식을 제시한다.
핵심 요약
구글이 Project Suncatcher를 통해 우주에서 AI 인프라를 구축할 수 있는지 탐험하는 장기 연구 프로젝트를 진행 중이며, 다음 주에 SpaceX의 Transporter-18 미션을 통해 첫 시험 위성을 발사한다. 저궤도 위성은 거의 지속적인 태양광에 접근할 수 있어 지구 대비 최대 8배 많은 태양전력을 생성할 수 있으며, 향후 여러 위성을 연결해 더 큰 AI 작업을 처리할 수 있다. 첫 시험 미션은 구글 Tensor Processing Unit(TPU)이 우주 비행의 물리적 스트레스와 방사선, 온도 극한을 얼마나 견딜 수 있는지 측정하기 위해 설계되었다. 전체 요약 9문장 읽기 → 016 22:29 새 버전 Ollama v0.34.4 출시, 성능 개선 및 버그 수정 Structured outputs이 싱글 패스로 적용돼 사고 모델에서 더 빠르고 안정적으로 동작한다. AI · 머신러닝 · ollama/ollama@v0.34.4
Key Point 로컬 LLM 실행 환경의 가장 대중적인 도구인 Ollama의 안정성과 성능이 개선되어, 특히 Apple Silicon 사용자의 추론 속도와 안정성이 크게 향상된다.
핵심 요약
Structured outputs이 싱글 패스로 적용돼 사고 모델에서 더 빠르고 안정적으로 동작한다. 대규모 로컬 라이브러리에서 발생하던 간헐적인 '모델 미발견' 오류를 수정했다. macOS 앱이 ChatGPT나 Codex 실행 여부 확인 시 응답 없음 상태가 되는 문제를 해결했다. 전체 요약 6문장 읽기 → 017 09:11 새 버전 uv 0.12.18 출시, pip 명령에 JSON 출력 및 변경 사항 검증 추가 uv pip install과 uv pip sync에 --output-format json 옵션을 추가해 드라이런과 체크 모드에서도 JSON 형식 출력을 지원한다. 오픈소스 · 도구 · astral-sh/uv@0.12.18
Key Point 패키지 관리자 uv의 주요 버전 업데이트로, 파이프라인 자동화와 의존성 검증 기능이 강화되어 Python 프로젝트 관리 워크플로우가 편리해진다.
핵심 요약
uv pip install과 uv pip sync에 --output-format json 옵션을 추가해 드라이런과 체크 모드에서도 JSON 형식 출력을 지원한다. 환경을 수정하지 않고 계획된 변경사항만 보고하는 --check 옵션을 두 명령에 추가했다. uv build --no-build-isolation에서 빌드 요구사항을 자동으로 검증하는 미리보기 기능이 도입되었으며, --skip-dependency-check로 비활성화할 수 있다. 전체 요약 6문장 읽기 → 018 06:10 ▲ 198 · 댓글 150 삼성, 내년 HBM4·HBM4E 생산량 2배 이상 확대 삼성전자가 내년 HBM4(6세대)와 HBM4E(7세대) 고대역폭 메모리 칩 생산량을 올해 대비 2배 이상 늘릴 것으로 예상된다. 하드웨어 · 시스템 · Samsung is expected to more than double output of its HBM4 and HBM4E DRAM
Key Point AI칩 수요 급증에 따른 고대역폭 메모리 공급 경쟁에서 삼성이 NVIDIA 같은 주요 고객을 공략하기 위해 공격적 확산을 추진하고 있음을 보여준다.
핵심 요약
삼성전자가 내년 HBM4(6세대)와 HBM4E(7세대) 고대역폭 메모리 칩 생산량을 올해 대비 2배 이상 늘릴 것으로 예상된다. 글래스 캐리어(반도체 공정에서 웨이퍼를 지지하는 유리 재료) 수급이 올해 월 2만 장에서 내년 월 5만 장으로 2.5배 증가할 계획이다. 업계는 삼성의 내년 HBM 생산 규모가 월평균 웨이퍼 기준으로 올해 약 18만 장에서 25만 장으로 약 40% 늘어날 것으로 예상한다. 전체 요약 5문장 읽기 → 019 03:10 ▲ 116 · 댓글 57 RTK의 토큰 절감 효과, 실제 벤치마크에서는 미미 AI 코딩 도구 RTK는 터미널 출력을 압축해 토큰 사용량을 줄인다고 주장하며 79k GitHub 스타를 기록했다. AI · 머신러닝 · RTK reports token savings, but our cost benchmarks disagree
Key Point AI 코딩 도구의 비용 절감 효과가 마케팅 주장과 실제 벤치마크에서 큰 차이가 나는 사례로, 어떤 AI 도구가 실제로 비용을 절감하는지 판단할 때 참고할 만한 검증 기준을 보여준다.
핵심 요약
AI 코딩 도구 RTK는 터미널 출력을 압축해 토큰 사용량을 줄인다고 주장하며 79k GitHub 스타를 기록했다. Terminal-Bench 2.1에서 1,740회 실험 결과 Claude Code는 5% 비용 감소, OpenCode는 5% 비용 증가했으나, 성공률은 각각 1~2% 하락했다. 작업별 평균 비용 변화를 측정하면 Claude Code는 1% 더 비싸졌고 OpenCode는 17% 더 비싸졌으며, 한 작업을 제외하면 절감 효과는 거의 없다. 전체 요약 6문장 읽기 →