쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 10월 30일 (금)까지 3636건
32건 · "추론 모델"조건 지우기 ×
001 21:11 ▲ 16 · 댓글 2 다중모달 추론 모델, 공개 데이터로 효율적 학습 방법 제시 멀티모달 추론 모델 학습의 병목인 데이터 품질 저하, 비효율적 감독 구성, 난이도 불균형, 도메인 간 간섭을 해결하기 위해 MMVistaReason(MVR)을 제안했다. AI · 머신러닝 · MMVistaReason: Toward Open-Data and Post-Training Recipes for Multimodal Reasoning
Key Point 멀티모달 추론 모델의 공개 학습 레시피가 상용 대규모 모델 대비 효율성과 성능을 동시에 달성하는 구체적 방법을 보여주므로, 오픈소스 멀티모달 AI 개발에 실질적 기준을 제시한다.
핵심 요약
멀티모달 추론 모델 학습의 병목인 데이터 품질 저하, 비효율적 감독 구성, 난이도 불균형, 도메인 간 간섭을 해결하기 위해 MMVistaReason(MVR)을 제안했다. 분석적 추론과 실제 추론으로 나눈 광범위한 학습 데이터로 구조적 추론과 시각 지각·공간 이해를 모두 커버한다. 구조화된 정제와 주석, 난이도 인식 증류, 답변 확률 기반 궤적 선택으로 SFT용 52.8만 개 샘플(MVR-SFT-528K)과 RL용 6.3만 개 샘플(MVR-RL-63K)을 효율적으로 구성했다. 전체 요약 9문장 읽기 → 002 03:12 ▲ 296 · 댓글 38 추론 모델을 직접 구현하는 11시간 강의 공개 Sebastian Raschka가 8개 비디오, 11시간 분량의 추론 모델 구현 강의를 공개했다. AI · 머신러닝 · Sebastian Raschka's from-scratch video course on building reasoning models
Key Point 추론 모델 구현의 핵심 기법들(강화학습, 추론 시점 스케일링, 증류)을 직접 코딩하면서 배울 수 있는 완전한 실습 자료가 공개되어, LLM 개발자가 최신 추론 기술의 동작 원리를 깊이 있게 이해할 수 있다.
핵심 요약
Sebastian Raschka가 8개 비디오, 11시간 분량의 추론 모델 구현 강의를 공개했다. Python과 PyTorch로 평가, 추론 시점 스케일링, 강화학습, 증류를 처음부터 끝까지 구현한다. 사전학습된 Qwen 0.6B 모델을 출발점으로, KV 캐싱, 다양한 텍스트 생성, 답 검증기 구축 등을 단계별로 다룬다. 전체 요약 8문장 읽기 → 003 12:11 ▲ 14 · 댓글 8 자연어 정책을 신경기호 프로그램으로 컴파일하는 SCOPE LLM 에이전트의 정책 집행이 단일 턴 콘텐츠 검증에서 여러 턴의 대화와 도구 호출 궤적을 평가하는 복합 정책으로 진화했다. AI · 머신러닝 · SCOPE: Compiling Natural-Language Policies into Neurosymbolic Predicate Programs
Key Point 정책 집행의 정확도·안정성·비용·해석 가능성을 동시에 해결하는 신경기호 접근법이 저렴한 모델에서도 대규모 언어모델 수준의 성능을 낼 수 있음을 보여준다.
핵심 요약
LLM 에이전트의 정책 집행이 단일 턴 콘텐츠 검증에서 여러 턴의 대화와 도구 호출 궤적을 평가하는 복합 정책으로 진화했다. 미세 조정한 가드레일 모델은 빠르지만 복합 정책에서 성능이 저하되고, LLM-as-a-judge는 높은 정확도를 달성하지만 추론 비용이 높고 예측이 불안정하다. SCOPE는 정책을 신경 술어, 결정적 추출기, 이들의 출력을 조합하는 코드로 이루어진 실행 가능한 프로그램으로 컴파일한다. 전체 요약 8문장 읽기 → 004 12:11 ▲ 14 · 댓글 3 추론 모델의 '대기' 토큰, RL이 아닌 학습 데이터에서 온다 추론 모델이 단계를 재검토하기 전에 {wait} 토큰을 쓰는 것이 강화학습(RL)의 성과로 여겨져 왔으나, RL이 이 현상을 만든 것이 아니라 학습 데이터에서 상속받은 것일 수 있다는 가설을 검증했다. AI · 머신러닝 · Inherited, Not Invented: Tracing the Provenance of Wait in Reasoning Models
Key Point 추론 모델의 향상이 실제로 RL의 효과인지 아니면 데이터 상속인지 구분해야 할 핵심 연구로, 모델 평가 방식과 RL 기술 검증의 신뢰성을 근본적으로 재검토하게 한다.
핵심 요약
추론 모델이 단계를 재검토하기 전에 {wait} 토큰을 쓰는 것이 강화학습(RL)의 성과로 여겨져 왔으나, RL이 이 현상을 만든 것이 아니라 학습 데이터에서 상속받은 것일 수 있다는 가설을 검증했다. 공개 모델의 학습 이력을 추적하며 빈도, 위치, 형태, 사용 방식을 라벨 없이 지수화하고 주입 오류 테스트로 {wait} 토큰의 출처를 분석했다. RL을 적용하지 않은 초기 모델(zero-RL)은 {wait} 토큰을 거의 생성하지 않으며, {wait}이 없는 기반 모델에 RL을 적용해도 MATH-500 정확도는 크게 올라가지만 {wait} 토큰 사용은 거의 증가하지 않는다. 전체 요약 7문장 읽기 → 005 03:11 ▲ 19 · 댓글 2 추론 시간이 길수록 모델은 논리를 문자 그대로 읽는다 '일부 학생이 합격했다'라는 문장에서 인간은 '모두 합격한 것은 아니다'라는 함축의미를 도출하는데, 추론 모델에서 생각 시간을 늘리면 이런 일상적 추론이 어떻게 달라지는지를 연구했다. AI · 머신러닝 · Entertain, then Cancel: How Thinking Makes Reasoning Models Read Some and Or Literally
Key Point 추론 모델이 생각 시간에 따라 언어 이해 방식을 바꾸는 현상을 처음 체계적으로 분석한 연구로, 이는 장시간 추론이 반드시 더 나은 결과를 낼 수 없음을 보여준다.
핵심 요약
'일부 학생이 합격했다'라는 문장에서 인간은 '모두 합격한 것은 아니다'라는 함축의미를 도출하는데, 추론 모델에서 생각 시간을 늘리면 이런 일상적 추론이 어떻게 달라지는지를 연구했다. 동일한 모델 가중치를 유지하면서 생각 시간만 변경해 어떤 해석을 선택하는지 기록하고, 추론을 중간에 끊어서 답변을 요청하는 도구로 변화 지점을 파악했다. 대부분의 오픈소스 추론 모델과 GPT-4o에서 생각 시간이 늘어나면 'some(일부)'의 함축의미인 '모두 아님'과 'or(또는)'의 함축의미인 '둘 다 아님'이 사라진다. 전체 요약 7문장 읽기 → 006 18:11 ▲ 22 · 댓글 2 추론 모델의 병렬 수정 기법, Draft Refinement 제안 추론 모델이 반복적으로 각 의사결정을 수정할 때, 개별적으로 타당한 토큰 업데이트가 전체 답변의 질을 보장하지 못한다는 문제를 제시한다. AI · 머신러닝 · Breaking Diffusion: Parallel Reasoning with Draft Refinement
Key Point 추론 모델에서 토큰 단위 수정을 병렬로 처리하면서도 평가의 정확성을 높이는 새로운 메커니즘을 제시해, 복잡한 문제 해결에서 계산 효율과 정확도를 동시에 개선할 수 있음을 보여준다.
핵심 요약
추론 모델이 반복적으로 각 의사결정을 수정할 때, 개별적으로 타당한 토큰 업데이트가 전체 답변의 질을 보장하지 못한다는 문제를 제시한다. Draft Refinement Language Models(DRLMs)는 단일 denoiser를 사용해 병렬 수정안을 제안하고 후보 초안을 평가하는 방식을 도입했다. Denoiser는 균등하게 손상된 초안에서 모든 토큰을 복원하도록 학습되어 보존과 수리 능력을 모두 갖춘다. 전체 요약 8문장 읽기 → 007 18:11 ▲ 135 · 댓글 43 DeepSeek, 552B 파라미터 추론 모델 V4.1 Flash 1017 공개 DeepSeek가 2026년 10월에 V4.1 Flash 1017 (Max) 모델을 오픈웨이트로 공개했다. 총 552억 개 파라미터 중 추론 시 16억 개만 활성화하는 MoE(Mixture of Experts) 구조를 사용한다. AI · 머신러닝 · DeepSeek V4.1 Flash 1017 (Max)
Key Point DeepSeek의 최신 고효율 모델이 오픈웨이트로 공개되어 누구나 자유롭게 활용할 수 있게 되었으며, 적정 가격에 동급 모델보다 빠른 성능을 제공한다.
핵심 요약
DeepSeek가 2026년 10월에 V4.1 Flash 1017 (Max) 모델을 오픈웨이트로 공개했다. 총 552억 개 파라미터 중 추론 시 16억 개만 활성화하는 MoE(Mixture of Experts) 구조를 사용한다. Artificial Analysis 벤치마크에서 지능지수 45점으로 같은 크기의 오픈웨이트 모델 중 평균(19점)을 크게 상회한다. 입력당 $0.30, 출력당 $1.20의 가격으로 일반적인 모델보다 저렴한 편이다. 초당 230.4 토큰 생성 속도로 같은 크기 모델 중 평균(77.9토큰)보다 빠르고, 첫 토큰까지 1.08초의 지연 시간은 경쟁 모델(중앙값 1.69초)과 비교해 우수하다. 전체 요약 6문장 읽기 → 008 21:11 당일 +104 OpenCode 통합 API 게이트웨이 '오픈코드2API' 공개 Go로 만든 OpenCode Zen/Go API 프록시로, OpenAI와 Anthropic API 호환성을 제공하며 웹UI를 포함한 실행 가능한 바이너리 형태다. 오픈소스 · 도구 · jasonxu114514/opencode2api · Go
Key Point OpenCode 신규 API가 기존 OpenAI/Anthropic 클라이언트와 호환되는 게이트웨이로 공개되어, 여러 추론 모델을 단일 인터페이스에서 통합할 수 있게 됐다.
핵심 요약
Go로 만든 OpenCode Zen/Go API 프록시로, OpenAI와 Anthropic API 호환성을 제공하며 웹UI를 포함한 실행 가능한 바이너리 형태다. 세 가지 추론 프로토콜(Chat, Responses, Anthropic Messages)을 지원하고 프로토콜 간 자동 변환, 키/프록시 풀링, 자동 라우팅, 동적 모델 발견을 제공한다. 별도의 Zen/Go 키 풀과 계층별 선호도 설정, 재시도 정책, 세션 친화성을 제공하며 OpenCode의 공개 계정으로 무료 모델 익명 접근이 가능하다. 전체 요약 13문장 읽기 → 009 03:12 새 버전 트랜스포머 5.20.0: 메타 뮤즈 스파크 오픈 등 6개 신규 모델 지원 메타의 멀티모달 혼합 전문가 모델 뮤즈 스파크 오픈(Muse Spark Open)을 추가했다. 총 816B 파라미터(토큰당 활성 42B)이며 최대 1,048,576 토큰의 맥락 창을 지원하고 다중 파일 편집·디버깅·도구 사용 등 에이전틱 코딩 작업을 위해 학습됐다. AI · 머신러닝 · huggingface/transformers@v5.20.0
Key Point 메타·알렉스 알파·바이두 등 주요 기업의 첨단 멀티모달·OCR·오디오 모델 6개가 한 번에 지원되고, 분산 학습·추론·양자화 내보내기 등 프로덕션 기능이 대폭 개선되어 트랜스포머 사용자에게 즉시 영향을 미친다.
핵심 요약
메타의 멀티모달 혼합 전문가 모델 뮤즈 스파크 오픈(Muse Spark Open)을 추가했다. 총 816B 파라미터(토큰당 활성 42B)이며 최대 1,048,576 토큰의 맥락 창을 지원하고 다중 파일 편집·디버깅·도구 사용 등 에이전틱 코딩 작업을 위해 학습됐다. InclusionAI의 Ling 3.0 Flash는 5개 KDA 레이어와 1개 MLA 레이어를 결합한 혼합 전문가 모델로 BailingHybridForCausalLM으로 네이티브 지원되어 trust_remote_code=True 없이 로드된다. 알렉스 알파의 Kolibri 1은 독일어·영어 중심 추론 모델로, 50개 레이어가 384명의 전문가 중 6명에게 각 토큰을 시그모이드 라우팅으로 라우팅하고 슬라이딩 윈도우와 전체 어텐션 레이어를 번갈아 사용한다. 전체 요약 13문장 읽기 → 010 00:11 ▲ 24 · 댓글 2 LLM 강화학습의 숨은 함정, "사고 누출" 현상 밝혀지다 Qwen3 같은 하이브리드 추론 모델은 채팅 템플릿 토큰으로 THINK 모드와 NO-THINK 모드를 전환하며, NO-THINK 모드에서 강화학습(GRPO)으로 훈련하면 추론 성능이 향상된다고 보고돼왔다. AI · 머신러닝 · The Thinking Leakage in Reinforcement Learning for LLMs
Key Point 하이브리드 추론 모델의 강화학습 개선이 실제로는 새로운 능력 학습이 아닌 기존 능력의 재활성화일 수 있다는 점이 모델 평가와 개선 방향에 실제 영향을 미친다.
핵심 요약
Qwen3 같은 하이브리드 추론 모델은 채팅 템플릿 토큰으로 THINK 모드와 NO-THINK 모드를 전환하며, NO-THINK 모드에서 강화학습(GRPO)으로 훈련하면 추론 성능이 향상된다고 보고돼왔다. 연구진이 Qwen3-1.7B, 4B, 8B를 NO-THINK 모드에서 GRPO로 훈련한 결과, 성능 향상의 대부분이 '사고 누출(thinking leakage)'로 설명됨을 발견했다. 정확도가 높아지면서 응답이 더 길어지고 숙고적이 되며, 원본 모델의 THINK 모드 특성을 닮아가고, 모델 내부 활성화가 THINK 모드로 이동한다. 전체 요약 7문장 읽기 → 011 18:11 ▲ 35 · 댓글 2 완전 공개 멀티모달 모델 Apertus 1.5 출시 Apertus 1.5는 완전히 공개 데이터로 학습한 멀티모달 추론 모델로, 텍스트 기반 Apertus 1.0을 확장했다. AI · 머신러닝 · Apertus 1.5: From Open Text Models to Open Multimodal Reasoners
Key Point 공개 데이터로만 학습한 완전히 오픈소스 멀티모달 모델의 등장으로, 소수 기업 종속에서 벗어날 수 있는 대안이 실제 규모에서 가능함을 보여준다.
핵심 요약
Apertus 1.5는 완전히 공개 데이터로 학습한 멀티모달 추론 모델로, 텍스트 기반 Apertus 1.0을 확장했다. 8B 모델에 4T개, 70B 모델에 2T개 토큰을 추가 학습해 이미지와 음성 이해 능력을 추가했으며, 컨텍스트 윈도우를 262,144 토큰으로 4배 확대했다. 토크나이저를 통해 멀티모달 입력을 처리하되 언어 모델 헤드는 텍스트만 출력하고 아키텍처는 유지했다. 전체 요약 9문장 읽기 → 012 15:11 ▲ 150 · 댓글 37 경량 추론 모델 LFM2.5-24B-A2B 출시, 온디바이스 에이전트 최적화 Liquid AI가 LFM2.5-24B-A2B를 공개했으며, 총 24B 파라미터 중 활성 파라미터는 2B만 사용하는 추론 특화 모델이다. AI · 머신러닝 · LFM2.5-24B-A2B: Built for fast on-device agents
Key Point 온디바이스에서 도구 호출과 추론을 빠르게 처리해야 하는 개발자에게, 클라우드 API 의존 없이 로컬 에이전트를 구축할 수 있는 선택지를 제시한다.
핵심 요약
Liquid AI가 LFM2.5-24B-A2B를 공개했으며, 총 24B 파라미터 중 활성 파라미터는 2B만 사용하는 추론 특화 모델이다. 총 파라미터가 50% 이상 많은 Qwen3.6-35B-A3B와 비교해 에이전트·도구 사용 벤치마크 8개 중 5개에서 경쟁력을 보였다. AutomationBench에서 27.69점으로 다음 경쟁 모델 8.72점의 3배 이상 점수를 기록했고, LiveClaw에서 48.09점을 달성했다. 전체 요약 13문장 읽기 → 013 18:11 ▲ 19 · 댓글 1 비디오 추론 모델의 증거 기반 검증 능력 강화 Open-o3-Video-v2는 비디오 추론 과정에서 타임스탬프와 객체 경계박스를 포함한 검증 가능한 증거를 생성하는 모델입니다. AI · 머신러닝 · Open-o3-Video-v2: Seek, Ground, and Reason with Verifiable Spatio-Temporal Evidence
Key Point 비디오 AI 모델이 단순히 답을 하는 것에서 벗어나 '왜 그렇게 생각하는지' 시간과 위치 정보로 검증할 수 있게 되면서, 신뢰성이 필요한 비디오 분석 응용에 실제 도입 가능성이 높아집니다.
핵심 요약
Open-o3-Video-v2는 비디오 추론 과정에서 타임스탬프와 객체 경계박스를 포함한 검증 가능한 증거를 생성하는 모델입니다. 기존 Open-o3-Video의 제한점을 극복하기 위해 부족한 정보를 식별하고 추가 관찰을 획득하는 에이전트 기반 접근 방식을 도입했습니다. 52K 다중 턴 에이전트 그라운딩 추론 궤적과 13K 강화학습 데이터셋(STGR-v2-CoT135K, STGR-v2-RL-13K)을 구성했습니다. 전체 요약 7문장 읽기 → 014 06:11 ▲ 10 · 댓글 2 생명과학 LLM이 실제로 생물학 데이터를 활용하지 않는다 DNA, 단백질, 단일세포 작업을 다루는 6개의 생명과학 추론 모델을 검증한 결과, 벤치마크 성능이 높아도 실제로는 생물학적 입력을 거의 활용하지 않는 것으로 나타났다. AI · 머신러닝 · When Do Biological Reasoning Models Use Their Biological Inputs?
Key Point 생명과학 분야의 AI 모델들이 높은 벤치마크 성능을 보이고 있지만, 실제로는 생물학적 데이터를 무시하고 텍스트 정보에만 의존하는 것으로 밝혀져 이들 모델의 신뢰성과 해석 가능성에 근본적인 의문을 제기한다.
핵심 요약
DNA, 단백질, 단일세포 작업을 다루는 6개의 생명과학 추론 모델을 검증한 결과, 벤치마크 성능이 높아도 실제로는 생물학적 입력을 거의 활용하지 않는 것으로 나타났다. BioReason과 BioReason-Pro의 경우 Evo2와 ESM3 같은 생물학 기초 모델의 기여도가 미미했으며, DNA 서열을 무작위로 섞어도 질병 예측 정확도가 거의 변하지 않았다. 두 모델이 텍스트 정보가 아닌 생물학적 입력에 충돌이 있을 때 텍스트를 따르는 비율이 97.9%와 99.7%에 달했다. 전체 요약 8문장 읽기 → 015 12:11 ▲ 111 · 댓글 25 스텝펀의 1백만 토큰 초대형 컨텍스트 모델 Step 5 Preview 공개 스텝펀이 에이전틱 작업 전용 플래그십 모델 Step 5 Preview를 OpenRouter를 통해 공개했다. AI · 머신러닝 · Step 5 Preview, a 1M-context MoE from StepFun, shows up on OpenRouter
Key Point 1백만 토큰의 초대형 컨텍스트로 긴 문서와 코드베이스를 한 번에 처리할 수 있어, AI 에이전트 구축과 복잡한 소프트웨어 엔지니어링 작업을 크게 단순화한다.
핵심 요약
스텝펀이 에이전틱 작업 전용 플래그십 모델 Step 5 Preview를 OpenRouter를 통해 공개했다. 27B 활성/600B 총 파라미터의 스파스 Mixture-of-Experts 아키텍처로 설계되었으며, 소프트웨어 엔지니어링과 재무 분야에서 강점을 보인다. 1,000,000 토큰의 초대형 컨텍스트 윈도우를 지원하며 최대 64,000개의 생성 토큰을 처리할 수 있다. 전체 요약 10문장 읽기 → 016 18:30 ▲ 64 · 댓글 2 자가학습하는 추론 모델, 반복 학습으로 성능 붕괴 막는 방법 제시 추론 모델이 자체 생성 질문으로 학습하는 자가진화 과정에서 반복할수록 성능이 저하되는 문제가 있다. AI · 머신러닝 · Questioning the Questions: Sustaining Self-Evolution in Reasoning Models
Key Point 자가학습하는 LLM 기반 추론 모델의 성능 붕괴 문제를 해결하는 실질적 방법을 제시해, 장기간 안정적인 모델 개선이 가능해진다.
핵심 요약
추론 모델이 자체 생성 질문으로 학습하는 자가진화 과정에서 반복할수록 성능이 저하되는 문제가 있다. 논문은 성능 악화의 원인으로 두 가지를 파악했다: 무효한 질문의 증가와 수학적으로 동등한 질문의 반복. 무효한 질문은 라운드가 진행될수록 늘어나며, 답변 일관성 필터링이 이를 더욱 악화시킨다. 전체 요약 9문장 읽기 → 017 00:11 ▲ 17 · 댓글 2 입모양으로 더빙 품질 검증...음성 없이 영상만으로 판단 더빙 품질 관리를 위해 음성 없이 무음 영상과 텍스트만으로 화자의 입술 움직임과 후보 텍스트가 내용·타이밍 모두 일치하는지 판단하는 참조 모델 없는 검증기가 필요하다. AI · 머신러닝 · Align Then Reason: A Multimodal Lip-Sync Judge for Dubbing
Key Point 더빙 품질을 자동으로 검증하는 기술이 높은 정확도로 개발되면 다국어 콘텐츠 제작의 품질 관리 비용과 시간을 크게 줄일 수 있기 때문이다.
핵심 요약
더빙 품질 관리를 위해 음성 없이 무음 영상과 텍스트만으로 화자의 입술 움직임과 후보 텍스트가 내용·타이밍 모두 일치하는지 판단하는 참조 모델 없는 검증기가 필요하다. 기존 시각적 음성 인식기와 영상-언어 모델은 입술 움직임에서 음성 내용은 복구하지만 시간 오차에는 민감하지 않아 이 작업에 부적합하다. 연구팀이 'Align Then Reason(ATR)'이라는 다국어 입모양 동기화 검증기를 개발했으며, 프레임 수준 입술 표현과 후보 텍스트의 음소 단위 사이에 단조 정렬을 먼저 확립한다. 전체 요약 7문장 읽기 → 018 15:11 ▲ 16 · 댓글 2 수학 문제 풀이 AI, 근처 파라미터로 학습 더 정확해진다 수학 추론 모델을 학습시키는 온정책 자기증류(OPSD)는 기준 해답을 보는 특권화된 교사가 학생이 샘플한 중간 단계를 감독한다. AI · 머신러닝 · Better Supervision Is Nearby: Neighborhood On-Policy Self-Distillation
Key Point 기존 자기증류 방식의 고정된 감독 전략을 파라미터 근처 탐색으로 개선해 AIME 수학 올림피아드 벤치마크에서 2~3포인트 일관된 성능 향상을 달성했으므로, 수학 문제 풀이 AI의 정확도 향상이 어떻게 이루어지는지 실제로 확인할 수 있다.
핵심 요약
수학 추론 모델을 학습시키는 온정책 자기증류(OPSD)는 기준 해답을 보는 특권화된 교사가 학생이 샘플한 중간 단계를 감독한다. 기존 OPSD는 매 상태마다 고정된 파라미터 설정 하나만 사용했으나, 근처의 파라미터 변동이 같은 기준 맥락에서 추가 감독을 제공한다. 지역 파라미터 섭동은 기준과 정렬된 상이한 정정(correction)을 드러내며, 다양한 전문가들이 기준 위치의 여러 지점에서 이를 제공한다. 전체 요약 9문장 읽기 → 019 21:11 ▲ 29 · 댓글 2 다중 보상 학습 최적화하는 CorrGRPO 알고리즘 Group Relative Policy Optimization(GRPO)은 추론 언어 모델 학습에 널리 쓰이며, 동일 프롬프트 롤아웃에서 보상을 중심화·정규화해 이점을 계산한다. AI · 머신러닝 · CorrGRPO: Correlation-Normalized GRPO for Multi-Reward Learning
Key Point 여러 목표를 동시에 최적화해야 하는 언어 모델 학습에서 각 보상의 영향력을 균형 있게 조절하는 새로운 방법을 제시하므로, 추론 모델과 에이전트 개발자에게 실질적인 개선 기회를 제공한다.
핵심 요약
Group Relative Policy Optimization(GRPO)은 추론 언어 모델 학습에 널리 쓰이며, 동일 프롬프트 롤아웃에서 보상을 중심화·정규화해 이점을 계산한다. 다중 보상 처리 시 기존 GRPO는 보상 성분을 합산한 뒤 그룹 내 표준편차로 정규화하는데, 분산이 모든 보상 공분산의 합이 된다. 중심화된 보상이 고정될 때 공분산이 클수록 이점이 작아지므로, 보상 간 상관성에 따라 업데이트 크기가 적응하지만 대규모 보상이 정규화를 지배해 소규모 보상 신호를 억제한다. 전체 요약 8문장 읽기 → 020 15:11 ▲ 100 · 댓글 53 구글 Gemini 4 Argon, 가격 대비 최상급 추론 성능 구글이 2026년 9월에 공개한 Gemini 4 Argon (High)는 추론 기능을 탑재한 멀티모달 모델이며, 텍스트와 이미지를 입력받아 텍스트를 출력한다. AI · 머신러닝 · Gemini 4 Argon (High): Intelligence, Performance and Price Analysis
Key Point 구글의 최신 추론 모델이 같은 가격대에서 가장 높은 지능지수를 기록했으며, 가격 대비 성능이 경쟁 모델 대비 어떤 수준인지 정량적으로 파악할 수 있다.
핵심 요약
구글이 2026년 9월에 공개한 Gemini 4 Argon (High)는 추론 기능을 탑재한 멀티모달 모델이며, 텍스트와 이미지를 입력받아 텍스트를 출력한다. Artificial Analysis Intelligence Index 기준으로 53점을 기록해 같은 가격대 모델의 중위값(26점)을 훨씬 상회한다. 입력 토큰 기준 100만 개당 $2.00, 출력 토큰 기준 100만 개당 $10.00로 책정되어 중간 수준의 가격이다. 전체 요약 8문장 읽기 → 021 06:11 ▲ 14 · 댓글 1 AI가 이미지 생성 명령어를 자동 최적화 — 다중 참고 이미지 합성 성능 향상 최신 이미지 생성 모델은 여러 참고 이미지를 입력받아 새로운 이미지로 합성할 수 있지만, 피사체 생략·중복·부자연스러운 합성 같은 문제가 남아있다. AI · 머신러닝 · AutoRef: Harness Optimization for Agentic Multi-Reference Image Generation
Key Point 다중 참고 이미지를 정확히 합성하는 방법이 AI 생성 품질을 크게 결정하는데, 기존의 손으로 만든 명령어 대신 자동으로 최적화하는 기법이 상용 모델 수준의 결과를 만들어낸 점이 중요하다.
핵심 요약
최신 이미지 생성 모델은 여러 참고 이미지를 입력받아 새로운 이미지로 합성할 수 있지만, 피사체 생략·중복·부자연스러운 합성 같은 문제가 남아있다. 최근 연구들은 이미지 생성 모델·추론 모델·하네스(생성 방식을 정의하는 실행 프로그램)를 결합한 에이전트 기반 접근법을 제안했다. 다중 참고 이미지 생성에서는 각 참고 이미지의 충실도·전체 이미지의 자연스러움 등 여러 기준을 동시에 만족해야 하므로, 참고 이미지 처리부터 출력 진단까지 하네스의 많은 부분이 개선될 여지가 있다. 전체 요약 8문장 읽기 → 022 06:11 ▲ 11 · 댓글 1 루프형 트랜스포머의 단계 크기를 동적으로 조절하는 TAPS 알고리즘 순환 추론 모델은 공유 파라미터로 잠재 상태를 반복 개선하며 테스트 시간 계산을 확장하는데, 기존에는 고정된 단위 크기의 업데이트를 적용해 효율성이 제한됨. AI · 머신러닝 · Scheduling Recursive Reasoning in Looped Transformers
Key Point 반복적인 추론으로 정확도를 높이는 생성 모델의 효율성을 단계 크기 조절만으로 최대 56% 빠르게 만드는 실용적 기법이 핵심입니다.
핵심 요약
순환 추론 모델은 공유 파라미터로 잠재 상태를 반복 개선하며 테스트 시간 계산을 확장하는데, 기존에는 고정된 단위 크기의 업데이트를 적용해 효율성이 제한됨. 연구진은 터미널 손실에 대한 순환 업데이트 크기의 민감도를 분석하고, 시간 평균을 지속적 진전(persistent progress)과 중심화된 변동(centered fluctuation)의 정확한 분해식으로 도출함. 이를 바탕으로 TAPS(Trajectory Adaptive Progress-Fluctuation Scheduler)를 제안하며, 순환 업데이트 전반에서 두 요소의 균형을 추적하고 온라인으로 단계 크기를 동적 조정함. 전체 요약 6문장 읽기 → 023 03:11 새 버전 Transformers 5.18.0 출시, Nemotron·NemotronH Omni 등 신모델 추가 Nemotron 3 Diarization 오픈웨이트 모델이 추가되어 실시간 음성 화자 분리를 지원하며, 최대 8명의 화자를 처리할 수 있고 80ms부터 30.4s까지 구성 가능한 지연 시간 프로필을 제공한다. AI · 머신러닝 · huggingface/transformers@v5.18.0
Key Point Transformers는 파이토치의 표준 NLP 라이브러리이며, 이 버전은 실시간 음성 처리, 멀티모달 추론, 분산 학습 최적화 등 프로덕션 환경의 여러 문제를 해결한다.
핵심 요약
Nemotron 3 Diarization 오픈웨이트 모델이 추가되어 실시간 음성 화자 분리를 지원하며, 최대 8명의 화자를 처리할 수 있고 80ms부터 30.4s까지 구성 가능한 지연 시간 프로필을 제공한다. NemotronH Omni 멀티모달 추론 모델은 Mamba-Transformer 언어 모델에 RADIO 비전 인코더와 Parakeet 사운드 인코더를 결합하여 텍스트, 이미지, 비디오, 음성을 동시에 처리한다. HyperCLOVAX Vision V2는 NAVER가 개발한 멀티모달 모델로 Qwen2.5-VL 비전 인코더를 탑재하고 체인오브싱크 추론을 위한 thinking 토큰을 지원한다. 전체 요약 8문장 읽기 → 024 12:11 ▲ 43 · 댓글 1 수학 추론 모델, 동료 모델과 궤적 교환으로 성능 향상 RLVR(검증 가능한 보상 강화학습) 방식인 GRPO는 자가생성 궤적에 의존하지만 제한된 롤아웃 예산으로 인해 모두 실패한 그룹이 발생해 정책 기울기 신호를 얻지 못하는 문제가 있다. AI · 머신러닝 · Learning Beyond What You Sample: Off-Policy-Aware Cross-Model Trajectory Exchange for RLVR
Key Point 이질적 모델들 사이의 상호 보완성을 활용해 동일 예산으로 수학 추론 성능을 크게 향상시키는 새로운 강화학습 방식을 제시하고 있으며, 실제 벤치마크에서 GRPO 대비 일관된 성능 개선을 입증했다.
핵심 요약
RLVR(검증 가능한 보상 강화학습) 방식인 GRPO는 자가생성 궤적에 의존하지만 제한된 롤아웃 예산으로 인해 모두 실패한 그룹이 발생해 정책 기울기 신호를 얻지 못하는 문제가 있다. 연구진은 서로 다른 모델들이 상호 보완적인 문제들에서 성공하는 패턴을 발견했으며, 이를 통해 강한 교사 모델 없이도 상호 학습이 가능함을 확인했다. 이를 바탕으로 GRAFT(Gated Replacement of Answer-Failed groups with peer Trajectories)를 제안했으며, 이는 모두 실패한 그룹을 정보량 많은 동료 그룹으로 교체하는 오프정책 인식 프레임워크다. 전체 요약 6문장 읽기 → 025 12:11 ▲ 30 · 댓글 1 추론 단계 다양성이 RL 학습을 앞당긴다 검증된 풀이가 모두 같은 가치는 아니라는 점에서 출발하여, 감독 학습(SFT) 데이터에서 추론 경로의 다양성이 중요함을 발견했다. AI · 머신러닝 · Selecting Diverse SFT Traces Improves Post-RL Generalization
Key Point RL 기반 추론 모델 개발에서 어떤 학습 데이터를 쓸지가 최종 성능을 크게 좌우하는데, 경로 다양성이라는 단순하지만 효과적인 선별 기준이 기존 방식을 일관되게 이기고 있습니다.
핵심 요약
검증된 풀이가 모두 같은 가치는 아니라는 점에서 출발하여, 감독 학습(SFT) 데이터에서 추론 경로의 다양성이 중요함을 발견했다. 추론 경로 다양성(route diversity)은 풀이 과정의 단계 수열이 얼마나 다양한지를 측정하는 지표로, 경량의 규칙 기반 지문(fingerprint)을 통해 선별할 수 있다. 같은 예산과 훈련 설정에서 유사한 경로보다 다양한 경로를 선택했을 때, SFT 이후 강화학습(RL)의 문제 해결률이 퍼즐과 수학 문제에서 모두 향상되었다. 전체 요약 6문장 읽기 → 026 00:11 ▲ 135 · 댓글 60 추론으로 정확도를 높인 의사결정 모델 Jeeves 공개 PostHog의 Jeeves는 Qwen3.5-9B 기반의 9B 규모 의사결정 분류기로, 생각하는 과정을 거친 후 답변을 내리도록 학습되었다. AI · 머신러닝 · Jeeves. Reasoning improves Jev-like decision models
Key Point 기존 Jev 계열 모델의 정확도 문제를 추론 과정 포함으로 해결하며, 테스트 데이터에서 실측 3~7% 성능 향상을 달성한 오픈소스 의사결정 모델로, 전체 학습 코드와 가중치를 공개해 재현과 확장이 가능하다.
핵심 요약
PostHog의 Jeeves는 Qwen3.5-9B 기반의 9B 규모 의사결정 분류기로, 생각하는 과정을 거친 후 답변을 내리도록 학습되었다. SFT와 CISPO를 통해 훈련되었으며, 블록-4 디퓨전 드래프터를 포함한다. 미학습된 테스트 데이터에서 Kev-9B(0.822), Jev(0.857)를 상회하는 0.889의 정확도를 달성했으며, JevBench 공개 계층에서는 0.935(Jev 0.866 대비)를 기록했다. 전체 요약 13문장 읽기 → 027 15:11 ▲ 33 · 댓글 1 작은 모델도 강력하게: 필요할 때만 큰 모델에 묻는 추론 시스템 작은 추론 모델(sRM)의 테스트 타임 컴퓨팅을 확장하는 것이 성능 향상의 핵심이지만, 더 많은 사고가 항상 도움이 되는지는 명확하지 않다. AI · 머신러닝 · Knowing When Thinking Is Not Enough: Teaching Small Reasoning Models to Reason Beyond Their Parametric Knowledge
Key Point 작은 모델이 큰 모델과 비슷하거나 나은 성능을 훨씬 낮은 비용으로 달성하는 방법을 보여주므로, 프로덕션 추론 비용 최적화를 고민하는 개발팀에게 직접적인 영향이 있다.
핵심 요약
작은 추론 모델(sRM)의 테스트 타임 컴퓨팅을 확장하는 것이 성능 향상의 핵심이지만, 더 많은 사고가 항상 도움이 되는지는 명확하지 않다. 중간 추론 상태에 개입하는 실험을 통해 자기개선(self-refinement)이 기존에 도달 가능한 해답으로 확률질량을 집중시킬 뿐, 새로운 해답을 만들지는 못한다는 것을 발견했다. 두 가지 실패 양식을 식별했다: 올바른 경로는 도달 가능하지만 실행에 실패하는 실행 병목(execution bottleneck)과, 외부 정보가 필요한 지식 병목(knowledge bottleneck)이다. 전체 요약 7문장 읽기 → 028 21:11 ▲ 102 · 댓글 42 LLM으로 Jev 수준의 고속 의사결정 모델 구축하기 GLM-5.3-Flash를 프롬프트 엔지니어링으로 한 번의 forward pass에서 타입화된 의사결정을 내도록 개선했으며, 전문 의사결정 모델 Jev와 동등한 정확도를 달성했다. AI · 머신러닝 · Turning GLM-5.3-Flash into a Jev-like decision model
Key Point 일반 LLM을 구조화된 의사결정 모델로 탈바꿈시키는 프롬프트 기법이 전문 의사결정 모델과 실무 성능에서 동등하다는 것을 보여주므로, 고도량 의사결정 시스템 구축 시 모델 선택지와 비용-성능 트레이드오프 판단에 실질적 참고가 될 수 있다.
핵심 요약
GLM-5.3-Flash를 프롬프트 엔지니어링으로 한 번의 forward pass에서 타입화된 의사결정을 내도록 개선했으며, 전문 의사결정 모델 Jev와 동등한 정확도를 달성했다. 기본 아이디어는 LLM의 확률 분포에서 옵션별 확률을 직접 읽는 것이다. 숫자로 인덱싱된 옵션 목록을 JSON으로 제시하고 프롬프트를 'choice_index:'로 끝내면, 모델이 첫 토큰에서 내놓는 확률 분포가 각 옵션의 신뢰도가 된다. 29개 공개 데이터셋(2~151개 옵션, 의도 라우팅·감정 분석·법률 문서 등 포함)을 벤치마킹한 결과, GLM-5.3-Flash와 Jev의 정확도 차이는 중앙값 0.7 포인트로 통계적으로 유의미하지 않았다. 전체 요약 12문장 읽기 → 029 22:29 ▲ 102 · 댓글 62 Inception의 Mercury 2.5, 초당 770토큰 생성 속도로 가성비 모델 등장 Inception이 개발한 Mercury 2.5는 2026년 9월에 출시된 프로프라이어터리 추론 모델이다. AI · 머신러닝 · Mercury 2.5 LLM hits 770 tokens per second
Key Point 초당 770토큰 생성이라는 초고속 처리 속도를 비용 효율적인 가격으로 제공해, 지연시간이 중요한 실시간 애플리케이션 개발자들이 선택할 만한 새로운 옵션이 되었다.
핵심 요약
Inception이 개발한 Mercury 2.5는 2026년 9월에 출시된 프로프라이어터리 추론 모델이다. 초당 770.4토큰 생성 속도를 제공하며, 동일 가격대 추론 모델 중앙값(111.6토큰/초)을 훨씬 상회한다. 입출력 가격은 각각 $0.25, $0.75/백만토큰으로, 중앙값 $0.92 출력가보다 낮아 가성비가 좋다. 전체 요약 9문장 읽기 → 030 18:11 ▲ 103 · 댓글 25 JevBench, 타입 기반 의사결정 모델의 재현 가능한 벤치마크 공개 JevBench는 Jev 1.13.0 등 타입 안전 의사결정 모델들을 일관된 기준으로 측정하는 벤치마크이며, Intelligence 85.1, Calibration 77.9, Speed 87.6, Cost 84.3 점 등으로 각 모델을 평가한다. 오픈소스 · 도구 · Show HN: JevBench, a reproducible benchmark for typed decision models
Key Point 타입 안전 의사결정 모델들의 성능을 객관적으로 비교할 수 있는 재현 가능한 벤치마크가 제공되어, 프로덕션 환경에서 어떤 모델을 선택할지 판단하는 기준이 명확해진다.
핵심 요약
JevBench는 Jev 1.13.0 등 타입 안전 의사결정 모델들을 일관된 기준으로 측정하는 벤치마크이며, Intelligence 85.1, Calibration 77.9, Speed 87.6, Cost 84.3 점 등으로 각 모델을 평가한다. Classifier.dev는 Jev 모델을 기반으로 하되 저신뢰도 응답에 추론 모델(Gemini 3.8 Flash)을 재질문하는 오케스트레이션 계층을 추가한 제품으로, 벤치마크에서 honorable mention으로 표시된다. Classifier.dev의 가격은 월 $20으로 일일 20만 건 분류 시 약 $0.0033/1,000 결정이며, 무료 티어(일일 2만 건)에서도 사용 가능하다. 전체 요약 4문장 읽기 → 031 09:10 ▲ 100 · 댓글 9 2026년 AI 추론이 주도권 잡으며 전용 칩 전쟁 시작 AI는 2020년 이후 대규모 모델 학습에만 집중했으나, 2026년 추론이 핵심 과제로 급부상했다. AI · 머신러닝 · The Inference Hardware Revolution of 2026
Key Point 기존 학습 중심의 AI 인프라 전략이 완전히 뒤바뀌고 있으며, 추론 전용 하드웨어가 새로운 경쟁 구도를 만들고 있기 때문이다.
핵심 요약
AI는 2020년 이후 대규모 모델 학습에만 집중했으나, 2026년 추론이 핵심 과제로 급부상했다. 추론형 AI 모델과 에이전트 AI 확산으로 인해 추론 수요가 폭발적으로 증가했고, 일부 고추론 모델은 저추론 모델 대비 20배 이상의 텍스트를 생성한다. 학습과 추론은 계산 방식이 완전히 다르다: 학습은 역전파로 매개변수를 갱신하지만, 추론은 이전 토큰의 모든 가중치와 문맥을 반복 읽어야 하는 자기회귀 방식이다. 전체 요약 4문장 읽기 → 032 21:11 ▲ 218 · 댓글 31 OpenRouter 사용할 때 마주칠 9가지 함정 OpenRouter를 통해 같은 모델을 호스팅하는 20개 제공자들이 벤치마크에서 크게 달라지는데, 예를 들어 DeepSeek V4 Flash의 도구 호출 성능이 제공자별로 58~81%까지 20포인트 이상 차이난다. AI · 머신러닝 · So you want to use OpenRouter?
Key Point 같은 모델의 가중치를 사용해도 제공자별로 성능, 기능 호환성, 에러 처리가 크게 달라서 OpenRouter를 사용하는 개발자는 제공자 선택과 에러 대응 코드를 신중하게 고려해야 한다.
핵심 요약
OpenRouter를 통해 같은 모델을 호스팅하는 20개 제공자들이 벤치마크에서 크게 달라지는데, 예를 들어 DeepSeek V4 Flash의 도구 호출 성능이 제공자별로 58~81%까지 20포인트 이상 차이난다. 일부 비전 모델은 같은 모델 가중치를 쓰는데도 특정 제공자에서는 이미지를 인식하지 못하거나 오류를 반환하면서도 200 OK를 보내는 문제가 발생한다. reasoning.effort 파라미터가 모든 제공자에서 작동하지 않으며, 동일한 프롬프트에 대해 제공자별로 추론 토큰 생성이 일관되지 않다. 전체 요약 6문장 읽기 →