쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 3일 (화)까지3800건
3건 · "모델압축"조건 지우기 ×
001▲ 13 · 댓글 2기하학 구조 보존하는 Transformer 압축 기법 제시Transformer 아키텍처의 계층 간 중복성을 활용하는 학습 없는 압축 프레임워크 GeoPair를 제안했다.AI · 머신러닝 · GeoPair: Geometry-Preserving Cross-Layer Factorization for Training-Free Transformer Compression
Key Point계층 간 상호작용을 고려한 새로운 압축 패러다임으로, 학습 없이 추론만으로 모델 크기를 줄이는 실무적 가치가 있으며 다양한 모달리티에 적용 가능하다.
핵심 요약
- Transformer 아키텍처의 계층 간 중복성을 활용하는 학습 없는 압축 프레임워크 GeoPair를 제안했다.
- 기존 방식처럼 인접 계층의 가중치를 강제로 같은 기저에 공유시키거나 휴리스틱 기반 활성화 통계 병합 대신, 구조적으로 호환 가능한 사영(projection)을 찾아내는 방식을 사용한다.
- 각 계층의 고유한 보정 기하학(calibration geometry)을 더 잘 보존하는 공유 표현을 학습하며, 구조화된 희소성과 함께 적용하면 기능 정확도를 손상시키지 않으면서 효율적인 가중치 분해를 달성한다.
전체 요약 5문장 읽기 →AI · 머신러닝 · PrismML-Eng/Bonsai-demo · Shell
Key Point극도로 경량화한 27B급 언어모델이 고성능을 유지하면서 개발자 기계에서 직접 실행 가능해지면서, 모델 압축 기술의 실용적 한계를 넓혔다.
핵심 요약
- PrismML이 극도로 압축한 언어모델 Bonsai 2 27B를 공개했으며, 5.9GB 크기로 노트북이나 단일 GPU에서 구동된다.
- FP16 대비 98.2% 수준의 성능을 유지하면서 원본의 약 9분의 1 크기를 달성했고, 수학은 반올림 수준의 정확도, 코딩은 기준 모델과 동일 수준이다.
- 3중 값(ternary) 가중치 기반이며 262K 토큰 콘텍스트, 비전 기능, OpenAI 방식의 도구 호출, 추론 기능을 지원한다.
전체 요약 6문장 읽기 →AI · 머신러닝 · Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint
.png)
Key Point로컬 기기에서 대형 모델을 실용적으로 실행할 수 있는 경계가 넓어지며, 에너지 효율과 배포 가능성의 균형이 어디까지 갈 수 있는지를 보여주기 때문입니다.
핵심 요약
- Qwen 3.8 27B 기반의 Ternary Bonsai 2 27B를 출시했으며, 삼진법 가중치와 FP16 그룹 스케일링으로 5.9GB 용량에 압축했다.
- 전체 정밀도 모델 대비 9배 이상 작으면서 98.2% 성능을 유지하며, 262K 토큰 컨텍스트 윈도우와 멀티모달 기능을 지원한다.
- 추론, 코딩, 비전, 에이전트 도구 사용 등에서 성능 저하를 최소화해 장시간 작업이나 다단계 처리에 유리하다.
전체 요약 6문장 읽기 →