쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 4일 (수)까지3898건
3건 · "Blackwell GPU"조건 지우기 ×
001▲ 13 · 댓글 1Blackwell GPU용 저정밀도 Attention 커널 FLAMIA 공개NVIDIA Blackwell GPU의 고처리량 저정밀도 행렬 곱셈을 Attention 연산에 활용하기 위해 FLAMIA라는 attention 커널 패밀리를 제시했다.AI · 머신러닝 · FLAMIA: FLAsh MIcroscaling Attention for Fast and Causally Safe Training on Blackwell
Key PointTransformer 학습의 가장 비용이 높은 부분인 Attention 연산을 최신 Blackwell GPU의 저정밀도 연산으로 1.1~1.4배 빠르게 만드는 기법이 개발되어, 대규모 모델 학습 효율에 직접적인 영향을 미칠 수 있다.
핵심 요약
- NVIDIA Blackwell GPU의 고처리량 저정밀도 행렬 곱셈을 Attention 연산에 활용하기 위해 FLAMIA라는 attention 커널 패밀리를 제시했다.
- 양자화 오버헤드, 공유 스케일을 통한 인과 정보 누출, 정방향과 역방향 계산 간 수치 불일치 등 세 가지 주요 문제를 해결했다.
- MXFP8과 혼합 NVFP4/FP8 학습 경로를 지원하며, 토큰-블록 스케일링으로 양자화된 피연산자를 행렬 방향 간에 재사용한다.
전체 요약 8문장 읽기 →AI · 머신러닝 · lightseekorg/tokenspeed · Python
Key Point에이전틱 AI 애플리케이션이 주목받으면서 추론 엔진의 처리량과 지연시간이 핵심 경쟁력이 되었고, TokenSpeed는 이를 위해 기본부터 재설계한 오픈소스 솔루션으로 실제 대규모 모델 배포에서 검증된 성능을 입증했다.
핵심 요약
- LightSeek Foundation이 에이전틱 워크로드에 최적화된 LLM 추론 엔진 TokenSpeed를 오픈소스로 공개했다.
- 기존 엔진과 달리 제어 평면(C++)과 실행 평면(Python)을 분리한 아키텍처를 채택했으며, 제어 평면은 유한 상태 머신으로 구현되어 컴파일 타임에 KV 캐시 리소스 안전성을 보장한다.
- 커널은 플러그인 가능한 계층형 시스템으로 설계되었으며, Blackwell GPU에서 가장 빠른 MLA(Multi-head Latent Attention) 구현 중 하나를 포함한다.
전체 요약 9문장 읽기 →AI · 머신러닝 · Mistral Large 4: "Le Chonk"
Key Point폐쇄형 AI 모델의 제약 없이 사이버보안·금융·법률 등 핵심 업무에서 최고 수준의 성능을 보이는 오픈웨이트 모델이 나타났으며, EU 자체 인프라에서 완전히 독립적으로 운영할 수 있다는 점에서 AI 주권과 산업 실무의 판도를 바꿀 수 있다.
핵심 요약
- 미스트랄이 Mistral Large 4(ML4, '르 숑크')를 공개했다. 1조 파라미터 규모에 5,200억 개의 활성 파라미터를 가진 멀티모달 모델이다.
- 유럽 자체 데이터센터의 3,800개 NVIDIA Grace Blackwell GPU로 처음부터 학습됐으며, 월말에 가중치를 공개할 예정이다.
- 사이버보안 분야에서 최고 수준 성능을 보이며, Artificial Analysis Cyber Index에서 상위 5개 모델 중 하나로 순위되고, 실제 취약점 재현 및 패칭 테스트에서 82% 점수를 달성했다.
전체 요약 12문장 읽기 →