쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 11월 16일 (월)까지 4683건
14건 · "포스트트레이닝"조건 지우기 ×
001 03:11 ▲ 21 · 댓글 5 가중치 0.05% 삭제하는 것만으로 LLM 파인튜닝과 동급 성능 트랜스포머 블록의 게이트 프로젝션에서 가중치의 0.05% 미만을 0으로 만드는 방식(Deletion Tuning)으로 전체 모델 파인튜닝(FFT)과 동등한 성능을 달성했다. AI · 머신러닝 · The Surprising Effectiveness of Deleting Weights in LLM Post-Training
Key Point 매우 적은 수의 가중치만 제거해도 전체 파인튜닝 수준의 성능을 낼 수 있다는 발견은 LLM 적응 학습의 효율성을 크게 개선하며, 특히 지속적인 학습에서 이전 성능 유지와 모델 크기 최소화 사이의 오래된 문제를 동시에 해결한다.
핵심 요약
트랜스포머 블록의 게이트 프로젝션에서 가중치의 0.05% 미만을 0으로 만드는 방식(Deletion Tuning)으로 전체 모델 파인튜닝(FFT)과 동등한 성능을 달성했다. 강화학습 기반 보상, 감독형 파인튜닝, 온폴리시 증류 등 세 가지 LLM 포스트트레이닝 방식 모두에서 FFT와 같은 수준의 학습 결과를 얻었다. 학습된 마스크는 대응하는 FFT 체크포인트보다 수백 배에서 수천 배 작으며, 연속 학습에서 중요한 과제인 이전 작업 망각을 크게 줄인다. 전체 요약 5문장 읽기 → 002 03:11 ▲ 30 · 댓글 2 대규모 모델도 11배 빠르게 양자화하는 MACaQ 기법 Weight-activation 양자화는 신경망 추론의 메모리와 계산 비용을 줄일 수 있지만, 기존 방식들은 비용이 많이 드는 최적화와 아키텍처별 복잡한 변환을 거쳐야 했다. AI · 머신러닝 · MACaQ: Fast, Model Agnostic Calibrated Quantization for Low-Precision Weights and Activations
Key Point 대규모 모델 양자화의 병목인 오버헤드와 시간을 획기적으로 줄이면서 다양한 아키텍처에 공통 적용 가능해, 효율적인 모델 배포에 실질적 영향을 줄 수 있는 기술이다.
핵심 요약
Weight-activation 양자화는 신경망 추론의 메모리와 계산 비용을 줄일 수 있지만, 기존 방식들은 비용이 많이 드는 최적화와 아키텍처별 복잡한 변환을 거쳐야 했다. MACaQ는 MXFP4 W4A4 포스트트레이닝 양자화 방법으로, 각 선형 계층을 독립적으로 처리한다. 채널별 스케일과 블록-하다마드 변환을 각 계층의 활성화에 온라인으로 적용하고, 역변환을 가중치에 흡수시켜 계층 간 의존성을 제거한다. 전체 요약 8문장 읽기 → 003 18:15 스타 1,469 Pika H3 Flex: 영상·음성 생성 AI 로컬 추론 오픈소스화 Pika H3 Flex는 MiniMax-H3을 기반으로 한 포스트트레이닝 모델로, 전문 콘텐츠 제작자를 위해 텍스트와 멀티모달 참조 입력으로 동기화된 영상과 음성을 생성한다. AI · 머신러닝 · Pika-Labs/Pika-H3-Flex · Python
Key Point 전문 크리에이터가 로컬 PC에서 고제어 텍스트·참조 기반 영상 생성을 무료로 시작할 수 있으며, 프롬프트나 프레임으로 카메라 움직임까지 직접 조종할 수 있는 열린 플랫폼이 나왔다.
핵심 요약
Pika H3 Flex는 MiniMax-H3을 기반으로 한 포스트트레이닝 모델로, 전문 콘텐츠 제작자를 위해 텍스트와 멀티모달 참조 입력으로 동기화된 영상과 음성을 생성한다. 6단계 샘플링으로 480p·768p 네이티브 해상도(11개 종횡비 지원)에서 5~15초 영상을 생성하며, 24fps 스테레오 음성이 MP4에 혼합된다. FL2VA 어댑터는 텍스트 또는 첫프레임/마지막프레임 조건 입력을, Ref2VA 어댑터는 최대 12개 참조(이미지 9개·영상 3개·오디오 3개)를 지원한다. 전체 요약 10문장 읽기 → 004 12:54 ▲ 10 · 댓글 2 로봇 시뮬레이터 PrimeSim 공개, 30110시간 데이터로 학습 로봇용 월드 모델 시뮬레이터 PrimeSim을 공개했으며, 동작 명령을 충실히 따르고 다중 카메라 뷰 일관성을 유지하며 장시간 시뮬레이션을 안정적으로 지원해야 한다는 과제를 해결했다. AI · 머신러닝 · PrimeSim: A Generalist World Model Simulator from Large-Scale Cross-Embodiment Demonstrations
Key Point 대규모 크로스-플랫폼 로봇 데이터로 학습한 첫 일반화된 월드 모델이 공개되어, 로봇 제어와 시뮬레이션 연구 진행 속도가 크게 높아질 것으로 예상된다.
핵심 요약
로봇용 월드 모델 시뮬레이터 PrimeSim을 공개했으며, 동작 명령을 충실히 따르고 다중 카메라 뷰 일관성을 유지하며 장시간 시뮬레이션을 안정적으로 지원해야 한다는 과제를 해결했다. 22개 로봇 플랫폼의 30,110시간 데이터로 미드트레이닝했고, 통합 크로스-임보디먼트 액션 표현과 프레임 정렬 듀얼-패스 컨디셔닝을 도입해 동작 추적 정확도를 개선했다. 뷰-어웨어 인터리브드 어텐션 메커니즘을 개발해 명시적 카메라 ID를 사용하며 카메라 간 정보 교환을 유지하면서도 뷰별 표현을 보존한다. 전체 요약 7문장 읽기 → 005 12:54 ▲ 173 · 댓글 16 텍스트-이미지 AI 모델, $21K로 학습 후 공개 2인 연구팀 Linum이 약 2만 1천 달러의 학습 비용으로 훈련한 Pyramid-JiT(P-JiT) 이미지 생성 모델을 Apache 2.0 라이선스로 공개했다. AI · 머신러닝 · Show HN: A decent text-to-image model trained for ~$20K (Apache 2.0 Weights)
Key Point 작은 팀이 주요 클라우드 AI 회사와 비교할 수 없는 수준의 비용으로 실용적인 이미지 생성 모델을 만들고 공개했으며, 이는 확산 모델의 효율성 개선 방향을 보여준다.
핵심 요약
2인 연구팀 Linum이 약 2만 1천 달러의 학습 비용으로 훈련한 Pyramid-JiT(P-JiT) 이미지 생성 모델을 Apache 2.0 라이선스로 공개했다. 모델은 2.42억 개의 파라미터(학습 시 포함)를 가진 확산 모델이며, 512²에서 1024² 해상도로 단계적으로 학습했고, Qwen 3.5-4B 텍스트 인코더를 사용한다. 기존 VAE 기반 압축 대신 픽셀 공간에서 직접 작업하고 32×32 토큰 압축으로 어텐션 컨텍스트 윈도우를 4배 축소했으며, 이전 모델보다 11배 적은 샘플로 수렴한다. 전체 요약 8문장 읽기 → 006 03:11 ▲ 111 · 댓글 26 포스트트레이닝 데이터 공용지는 존재하지 않는다 프리트레이닝은 위키피디아, 스택 오버플로우, arXiv, 프로젝트 구텐베르크, 커먼 크롤 등이 만든 인터넷 공용지에 크게 의존했으며, GPT-3는 60% 이상 커먼 크롤 데이터로 학습했다. AI · 머신러닝 · There is no posttraining data commons
Key Point 프리트레이닝 시대의 인터넷 공용지가 없어진 지금, AI 기업들이 포스트트레이닝 데이터를 독점하려는 움직임 속에서 공용지 재건의 어려움과 필요성을 짚는다.
핵심 요약
프리트레이닝은 위키피디아, 스택 오버플로우, arXiv, 프로젝트 구텐베르크, 커먼 크롤 등이 만든 인터넷 공용지에 크게 의존했으며, GPT-3는 60% 이상 커먼 크롤 데이터로 학습했다. 포스트트레이닝은 문서 대신 작업(task)을 소비하는데, 인간의 작업은 순간적이고 상황에 맞추어진 반면 강화학습 작업은 고정되고 재현 가능해야 한다. 작업을 보존하려면 실행 환경, 의도, 상호작용 도구, 그리고 결과를 평가하는 채점자가 필요하다. 전체 요약 12문장 읽기 → 007 21:11 ▲ 16 · 댓글 2 다중모달 추론 모델, 공개 데이터로 효율적 학습 방법 제시 멀티모달 추론 모델 학습의 병목인 데이터 품질 저하, 비효율적 감독 구성, 난이도 불균형, 도메인 간 간섭을 해결하기 위해 MMVistaReason(MVR)을 제안했다. AI · 머신러닝 · MMVistaReason: Toward Open-Data and Post-Training Recipes for Multimodal Reasoning
Key Point 멀티모달 추론 모델의 공개 학습 레시피가 상용 대규모 모델 대비 효율성과 성능을 동시에 달성하는 구체적 방법을 보여주므로, 오픈소스 멀티모달 AI 개발에 실질적 기준을 제시한다.
핵심 요약
멀티모달 추론 모델 학습의 병목인 데이터 품질 저하, 비효율적 감독 구성, 난이도 불균형, 도메인 간 간섭을 해결하기 위해 MMVistaReason(MVR)을 제안했다. 분석적 추론과 실제 추론으로 나눈 광범위한 학습 데이터로 구조적 추론과 시각 지각·공간 이해를 모두 커버한다. 구조화된 정제와 주석, 난이도 인식 증류, 답변 확률 기반 궤적 선택으로 SFT용 52.8만 개 샘플(MVR-SFT-528K)과 RL용 6.3만 개 샘플(MVR-RL-63K)을 효율적으로 구성했다. 전체 요약 9문장 읽기 → 008 12:11 ▲ 42 · 댓글 2 로봇 플래너도 포스트트레이닝으로 강화된다 로봇을 제어하는 AI 플래너의 성능을 높이기 위해 '포스트트레이닝' 기법을 적용한 AgenticRoboRL 프레임워크를 개발했다. AI · 머신러닝 · AgenticRoboRL: Bringing Coding-Agent Post-Training to Agentic Robotics
Key Point 작은 오픈소스 로봇 모델도 정교한 포스트트레이닝으로 폐쇄형 거대모델 수준의 성능을 낼 수 있다는 점이 로봇 개발자와 AI 연구자들에게 실질적인 의미를 갖는다.
핵심 요약
로봇을 제어하는 AI 플래너의 성능을 높이기 위해 '포스트트레이닝' 기법을 적용한 AgenticRoboRL 프레임워크를 개발했다. 기존 로봇 제어 시스템은 강력한 폐쇄형 모델(GPT 같은)에 의존했지만, 모델 자체를 개선하지는 않았다. 코딩 에이전트 분야에서 포스트트레이닝이 성공한 점에 착안해 로봇 플래너에도 같은 접근을 시도했다. 전체 요약 8문장 읽기 → 009 06:11 ▲ 19 · 댓글 2 에이전트 학습의 전체 시스템 개선, WEFT 프레임워크 제시 도구 사용 능력을 갖춘 AI 에이전트 학습을 위한 WEFT 프레임워크를 제안했다. AI · 머신러닝 · WEFT: Scaling Tool-Use Post-Training for General-Purpose Agents
Key Point 환경 확장만으로는 부족하다는 기존 접근의 한계를 지적하고, 에이전트 시스템 전체를 함께 개선하는 방식이 성능 향상에 실질적 영향을 미친다는 점을 실증한다.
핵심 요약
도구 사용 능력을 갖춘 AI 에이전트 학습을 위한 WEFT 프레임워크를 제안했다. 기존 방식은 환경만 확장했지만, WEFT는 환경·태스크·상호작용 다양성을 함께 키운다. 실행 중 발생한 실패를 추적하고 상태 증거를 이용해 문제 컴포넌트를 자동 수정하는 자진 진화 방식을 도입했다. 전체 요약 7문장 읽기 → 010 00:11 ▲ 77 · 댓글 2 온정책 학습의 매개변수 업데이트 방향이 LLM 일반화 능력 좌우한다 온정책(on-policy) 포스트트레이닝은 강한 일반화 성능을 보이는데, 기존 연구들은 이 과정의 매개변수 업데이트 행동을 단순 부산물로만 취급했다. AI · 머신러닝 · On-Policy Parameter Update Direction Underlies Generalization in LLM Post-Training
Key Point LLM 포스트트레이닝에서 온정책 방식의 우수한 일반화 능력을 효율적인 SFT 방식으로도 구현 가능하다는 것을 보여줌으로써, 실제 모델 학습 전략의 개선 방향을 제시한다.
핵심 요약
온정책(on-policy) 포스트트레이닝은 강한 일반화 성능을 보이는데, 기존 연구들은 이 과정의 매개변수 업데이트 행동을 단순 부산물로만 취급했다. 연구팀은 SFT(지도 미세조정)가 일관된 방향으로 매개변수를 업데이트하는 반면, 온정책 패러다임은 학습 중 지속적으로 방향을 조정한다는 점을 발견했다. 각 매개변수의 누적 업데이트 방향이 핵심 행동이라는 가설을 바탕으로, OPSFT(온정책 방향 제약 지도 미세조정) 기법을 제안했다. 전체 요약 7문장 읽기 → 011 12:11 ▲ 15 · 댓글 2 VLA 강화학습, 저랭크 구조로 성능 향상 메커니즘 규명 비전-언어-액션(VLA) 모델에 강화학습(RL)을 적용하면 파라미터 업데이트가 저랭크 구조를 형성하며, 이는 액션 전문가의 타임스텝 모듈이라는 작은 컴포넌트에 집중된다. AI · 머신러닝 · The Low-Rank Structure of VLA Reinforcement Learning
Key Point 로봇 비전-언어 모델의 강화학습이 파라미터 공간에서 어떻게 작동하는지 처음으로 명확히 규명했으며, 효율적인 미세조정 전략을 제시해 VLA 모델 개발 방식을 바꿀 수 있다.
핵심 요약
비전-언어-액션(VLA) 모델에 강화학습(RL)을 적용하면 파라미터 업데이트가 저랭크 구조를 형성하며, 이는 액션 전문가의 타임스텝 모듈이라는 작은 컴포넌트에 집중된다. π₀.₅, GR00T N1.5/N1.6 등 플로우 기반 VLA 모델을 LIBERO, ManiSkill, MetaWorld, CALVIN에서 테스트한 결과, 타임스텝 모듈이 RL 성능 향상의 불균형적으로 큰 부분을 차지한다. RL은 타임스텝 모듈을 롤아웃 중 사용되는 이산 노이징 타임스텝에 특화시키며, 이 이산 타임스텝 학습이 저랭크 업데이트의 원인이다. 전체 요약 6문장 읽기 → 012 00:11 ▲ 17 · 댓글 3 오픈소스로 공개된 GLM 초거대 모델 학습법 Rufus-Air는 GLM-4.5-Air-Base(106B-A12B) 모델의 오픈 소스 포스트트레이닝 레시피로, SFT·Reasoning RL·Coding RL·Instruction-Following RL·General Agent·Coding Agent·Search Agent·RLHF 8단계 파이프라인으로 구성된다. AI · 머신러닝 · Rufus-Air: An Open LLM Post-Training Recipe
Key Point 106B급 거대 언어모델의 전체 학습 파이프라인을 완벽히 공개한 첫 사례로, 독립적인 모델 개발을 시도하는 연구팀과 기업들이 직접 참고할 수 있는 실증적 설계서다.
핵심 요약
Rufus-Air는 GLM-4.5-Air-Base(106B-A12B) 모델의 오픈 소스 포스트트레이닝 레시피로, SFT·Reasoning RL·Coding RL·Instruction-Following RL·General Agent·Coding Agent·Search Agent·RLHF 8단계 파이프라인으로 구성된다. 데이터·보상 설계·인프라·단계 순서·단계별 결과를 공개하여 누구나 재현할 수 있도록 했으며, 새로운 인간 주석이나 자체 증류 교사 없이 공개 데이터와 오픈소스 컴포넌트를 그대로 사용했다. 기초 능력부터 고급 능력으로 진행되며, 검증 가능한 보상에서 판사 기반 신호로 점진적으로 전환된다. 전체 요약 5문장 읽기 → 013 21:10 당일 +141 처음부터 LLM 훈련하기, 모든 코드를 PyTorch로 직접 작성 Attention is All You Need 논문을 기반으로 PyTorch에서 트랜스포머 모델을 처음부터 구현한 튜토리얼 저장소. AI · 머신러닝 · FareedKhan-dev/train-llm-from-scratch · Python
Key Point LLM 개발의 모든 단계를 직접 이해하고 구현하려는 개발자와 연구자에게 명확한 참고 자료가 되어준다.
핵심 요약
Attention is All You Need 논문을 기반으로 PyTorch에서 트랜스포머 모델을 처음부터 구현한 튜토리얼 저장소. 단일 GPU로 수백만~수십억 개 파라미터 규모의 LLM을 훈련할 수 있으며, 데이터 전처리부터 텍스트 생성까지 전체 과정을 다룬다. trl, peft, transformers 같은 외부 라이브러리 없이 모든 알고리즘을 순수 PyTorch로 구현했다. 전체 요약 5문장 읽기 → 014 21:11 당일 +111 YAML 한 줄로 LLM 학습하는 Soup, 4GB GPU에서 8B 모델 실행 Soup는 YAML 설정 파일 하나로 LLM 파인튜닝과 포스트트레이닝을 실행하는 CLI 도구다. AI · 머신러닝 · MakazhanAlpamys/Soup · Python
Key Point 로컬 저사양 GPU에서도 대규모 언어모델을 효율적으로 학습할 수 있는 실용적인 도구로, 인프라 복잡성을 제거하고 싶은 개발자와 연구진이 참고해야 한다.
핵심 요약
Soup는 YAML 설정 파일 하나로 LLM 파인튜닝과 포스트트레이닝을 실행하는 CLI 도구다. 레이어 스트리밍 기술로 8B 모델을 4GB 노트북 GPU에서 학습할 수 있으며, RTX 3050에서 119.6 tok/s, 3.32GB 피크 메모리로 동작한다. SSH 설정 없이 로컬 GPU에서 QLoRA로 훈련 가능하며, 배치 크기와 양자화 등을 자동으로 처리한다. 전체 요약 6문장 읽기 →