쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 10월 30일 (금)까지 3647건
2건 · "자회귀 모델"조건 지우기 ×
001 00:11 ▲ 21 · 댓글 2 추측 샘플링과 확산 모델의 속도-품질 트레이드오프 분석 추측 디코딩(Speculative Decoding)은 빠르지만 품질이 낮은 초안 모델에서 샘플링해 LLM 추론 속도를 높이는 기법으로, 전통적으로는 검증자 분포 대비 손실 없이 속도 향상을 보장한다. AI · 머신러닝 · Speculative Diffusion is a Tale of Two Tradeoffs
Key Point LLM 추론 성능을 높이는 두 가지 기술(추측 디코딩과 확산 모델)의 트레이드오프를 체계적으로 분석함으로써 최적 조합 방식을 제시한다.
핵심 요약
추측 디코딩(Speculative Decoding)은 빠르지만 품질이 낮은 초안 모델에서 샘플링해 LLM 추론 속도를 높이는 기법으로, 전통적으로는 검증자 분포 대비 손실 없이 속도 향상을 보장한다. 최근 개발된 확산 LLM(dLLM)은 더 적은 확산 스텝으로 출력 품질을 떨어뜨려도 대폭의 속도 향상을 달성할 수 있다는 점에서 다르다. 확산 모델은 토큰을 병렬로 생성하기 때문에 자회귀 모델보다 빠르게 샘플링할 수 있어, 추측 디코딩의 초안 모델로 유망하다. 전체 요약 6문장 읽기 → 002 18:30 ▲ 12 · 댓글 2 계층적 사각형 구조로 이미지 토큰화와 생성 속도 개선 QuadTok는 쿼드트리 기반 계층적 구조를 사용해 이미지를 시각적 토큰으로 변환하는 새로운 프레임워크이다. AI · 머신러닝 · QuadTok: Quadtree Visual Tokenizer for Autoregressive Image Generation
Key Point 토큰 효율과 생성 품질의 트레이드오프를 새로운 구조로 해결한 방식이 기존 이미지 생성 모델의 설계 방식을 바꿀 가능성을 보여준다.
핵심 요약
QuadTok는 쿼드트리 기반 계층적 구조를 사용해 이미지를 시각적 토큰으로 변환하는 새로운 프레임워크이다. 기존 2D 격자나 1D 토큰 배열과 달리 동적으로 복잡한 영역에는 높은 해상도, 단순한 영역에는 낮은 해상도를 할당해 표현 용량을 최적화한다. ImageNet 학습 모델은 고정된 256 토큰 격자 대비 약 10% 토큰을 절약하며, 지로샷 전이 시 COCO 데이터셋에서도 9% 절약하면서 재구성 충실도는 유지한다. 전체 요약 6문장 읽기 → 
