쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 16일 (월)까지4683건
3건 · "추론모델"조건 지우기 ×
001▲ 296 · 댓글 38추론 모델을 직접 구현하는 11시간 강의 공개Sebastian Raschka가 8개 비디오, 11시간 분량의 추론 모델 구현 강의를 공개했다.AI · 머신러닝 · Sebastian Raschka's from-scratch video course on building reasoning models

Key Point추론 모델 구현의 핵심 기법들(강화학습, 추론 시점 스케일링, 증류)을 직접 코딩하면서 배울 수 있는 완전한 실습 자료가 공개되어, LLM 개발자가 최신 추론 기술의 동작 원리를 깊이 있게 이해할 수 있다.
핵심 요약
- Sebastian Raschka가 8개 비디오, 11시간 분량의 추론 모델 구현 강의를 공개했다.
- Python과 PyTorch로 평가, 추론 시점 스케일링, 강화학습, 증류를 처음부터 끝까지 구현한다.
- 사전학습된 Qwen 0.6B 모델을 출발점으로, KV 캐싱, 다양한 텍스트 생성, 답 검증기 구축 등을 단계별로 다룬다.
전체 요약 8문장 읽기 → 002▲ 30 · 댓글 1추론 단계 다양성이 RL 학습을 앞당긴다검증된 풀이가 모두 같은 가치는 아니라는 점에서 출발하여, 감독 학습(SFT) 데이터에서 추론 경로의 다양성이 중요함을 발견했다.AI · 머신러닝 · Selecting Diverse SFT Traces Improves Post-RL Generalization

Key PointRL 기반 추론 모델 개발에서 어떤 학습 데이터를 쓸지가 최종 성능을 크게 좌우하는데, 경로 다양성이라는 단순하지만 효과적인 선별 기준이 기존 방식을 일관되게 이기고 있습니다.
핵심 요약
- 검증된 풀이가 모두 같은 가치는 아니라는 점에서 출발하여, 감독 학습(SFT) 데이터에서 추론 경로의 다양성이 중요함을 발견했다.
- 추론 경로 다양성(route diversity)은 풀이 과정의 단계 수열이 얼마나 다양한지를 측정하는 지표로, 경량의 규칙 기반 지문(fingerprint)을 통해 선별할 수 있다.
- 같은 예산과 훈련 설정에서 유사한 경로보다 다양한 경로를 선택했을 때, SFT 이후 강화학습(RL)의 문제 해결률이 퍼즐과 수학 문제에서 모두 향상되었다.
전체 요약 6문장 읽기 → 003▲ 102 · 댓글 62Inception의 Mercury 2.5, 초당 770토큰 생성 속도로 가성비 모델 등장Inception이 개발한 Mercury 2.5는 2026년 9월에 출시된 프로프라이어터리 추론 모델이다.AI · 머신러닝 · Mercury 2.5 LLM hits 770 tokens per second

Key Point초당 770토큰 생성이라는 초고속 처리 속도를 비용 효율적인 가격으로 제공해, 지연시간이 중요한 실시간 애플리케이션 개발자들이 선택할 만한 새로운 옵션이 되었다.
핵심 요약
- Inception이 개발한 Mercury 2.5는 2026년 9월에 출시된 프로프라이어터리 추론 모델이다.
- 초당 770.4토큰 생성 속도를 제공하며, 동일 가격대 추론 모델 중앙값(111.6토큰/초)을 훨씬 상회한다.
- 입출력 가격은 각각 $0.25, $0.75/백만토큰으로, 중앙값 $0.92 출력가보다 낮아 가성비가 좋다.
전체 요약 9문장 읽기 →