쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 16일 (월)까지4683건
5건 · "지식 전이"조건 지우기 ×
001▲ 24 · 댓글 2이미지 생성 학습이 멀티모달 모델의 지식을 늘릴까?통합 멀티모달 모델(UMM)이 이미지 생성 학습으로 텍스트에 없는 시각 정보를 얻을 수 있는지 검증하기 위해 Knowledge Transfer Probing(KTP) 프로토콜을 개발했다.AI · 머신러닝 · Can Visual Generation Expand What Unified Multimodal Models Know?

Key Point멀티모달 AI가 텍스트와 이미지 생성을 함께 배울 때 실제로 지식 확장이 일어나는지 실증적으로 검증한 연구로, 향후 멀티모달 모델 설계의 방향성을 제시한다.
핵심 요약
- 통합 멀티모달 모델(UMM)이 이미지 생성 학습으로 텍스트에 없는 시각 정보를 얻을 수 있는지 검증하기 위해 Knowledge Transfer Probing(KTP) 프로토콜을 개발했다.
- KTP는 이미지 생성 훈련으로 새로운 지식을 주입한 후 텍스트만으로 답변하도록 테스트하는 방식으로, 7가지 지식 범주와 3개의 UMM에서 실험했다.
- 시각 학습에서 언어로의 직접적이지만 불균형한 지식 전이가 관찰되었으며, 이를 개선하기 위해 텍스트 정렬(Textual Alignment)과 인터리브 이미지-텍스트 정렬(Interleaved Image-Text Alignment) 방법을 제안했다.
전체 요약 6문장 읽기 → 002▲ 20 · 댓글 1LLM 에이전트, 외부 모델 없이 자기개선한다LLM 기반 에이전트가 파일 시스템·셸과 직접 상호작용하는 하네스 환경에서 작동하지만, 기존 학습 파이프라인은 외부 강력한 모델에 의존하는 일회성 방식에 머물고 있다.AI · 머신러닝 · ClawLoop: Self-Improving Agents via Harness-Native Training Loop

Key Point기존 LLM 에이전트 학습은 외부 모델과 인간에게 종속되어 근본적 한계가 있는데, ClawLoop은 순환 루프로 자동 개선을 실현하고 작은 모델에도 지식 전이가 가능함을 증명하며 에이전트 학습 패러다임의 전환을 시사한다.
핵심 요약
- LLM 기반 에이전트가 파일 시스템·셸과 직접 상호작용하는 하네스 환경에서 작동하지만, 기존 학습 파이프라인은 외부 강력한 모델에 의존하는 일회성 방식에 머물고 있다.
- ClawLoop은 외부 교사 모델 없이, 최소한의 사전 지식으로 에이전트가 자기개선하는 자체 순환 프레임워크를 제안한다.
- 과제 합성·진단 기반 난이도 성장·에이전트 기반 검증으로 다양한 학습 과제 풀을 생성하고, SFT와 RL로 에이전트를 업데이트한 후, 롤아웃 행동 분석으로 다음 반복의 피드백을 생성한다.
전체 요약 5문장 읽기 → 003▲ 17 · 댓글 2GPU 커널 최적화 기술 이전 능력 측정하는 벤치마크GPU 커널 최적화 에이전트가 배운 경험을 재사용할 수 있는지 측정하는 MetaKernelBench 벤치마크를 제안했다.AI · 머신러닝 · MetaKernelBench: Measuring GPU Kernel Knowledge Transfer Beyond Code

Key PointGPU 커널 최적화 에이전트의 학습 경험이 실제로 얼마나 전이 가능한지 체계적으로 측정하는 새로운 평가 기준을 제시하며, DSL 간 기술 이전의 한계를 드러낸다.
핵심 요약
- GPU 커널 최적화 에이전트가 배운 경험을 재사용할 수 있는지 측정하는 MetaKernelBench 벤치마크를 제안했다.
- 벤치마크는 74개 문제로 구성되며, CuTe DSL과 TIRx 두 가지 DSL로 같은 문제를 다르게 표현하여 한 DSL에서 배운 기술이 다른 DSL에서 도움이 되는지 평가한다.
- 에이전트는 각 DSL 변형에 대해 독립적으로 시도한 후 배운 내용을 자연어 스킬로 정리하고, 이를 다른 DSL의 시도에 입력으로 제공한다.
전체 요약 6문장 읽기 → 004▲ 10 · 댓글 2정책 증류에서 상대적 차이의 전이 메커니즘 규명온-정책 증류(OPD)는 강사 정책에서 학생 정책을 감독하되, 기존에는 강사가 월등히 뛰어나야 효과적이었다.AI · 머신러닝 · Rethinking Relative Policy Differences Transfer of On-Policy Distillation

Key Point강화학습 정책 증류에서 어떤 강사-참조 조합이 효과적인지, 모델 간 지식 전이 가능 조건을 규명해 실제 응용의 성공률을 높일 수 있기 때문이다.
핵심 요약
- 온-정책 증류(OPD)는 강사 정책에서 학생 정책을 감독하되, 기존에는 강사가 월등히 뛰어나야 효과적이었다.
- 최근 연구는 강사의 절대 분포 대신 강사와 참조 정책 간의 상대적 차이를 전이하는 방식을 제안했지만, 어떤 차이가 유용한 감독을 제공하고 어떤 대상이 이득을 볼 수 있는지는 불명확했다.
- 연구팀은 프록시 강사와 프록시 참조 간의 로그 확률 비를 KL 정규화 정책 최적화의 암묵적 보상으로 해석하는 통합 이론을 개발했다.
전체 요약 9문장 읽기 → 005▲ 252 · 댓글 1학습 흔적이 무관한 과제에 영향을 미친다언어 모델의 포스트 트레이닝 업데이트가 과제와 무관한 텍스트를 통해 다른 모델로 전이될 수 있음을 발견했다.AI · 머신러닝 · Post-Training Leaves Behavioral Shadows on Unrelated Decisions

Key Point포스트 트레이닝의 변화가 무관한 텍스트만으로도 다른 모델로 전이될 수 있다는 것을 보여주며, 언어 모델 학습 메커니즘과 능력 전이의 근본적 원리에 대한 새로운 시각을 제시한다.
핵심 요약
- 언어 모델의 포스트 트레이닝 업데이트가 과제와 무관한 텍스트를 통해 다른 모델로 전이될 수 있음을 발견했다.
- Active Taskless Distillation(ATD) 기법은 교사 모델당 단 하나의 단어만 사용해 능력을 전이하며, 목표 과제 예제나 교사 로짓, 교사 매개변수 없이도 학습이 이루어진다.
- ATD는 교사 모델과 학생 모델의 공통 선조 모델이 두 평범한 단어 사이에서 거의 무차별한 프롬프트를 선택해 포스트 트레이닝의 동작적 흔적을 탐사한다.
전체 요약 6문장 읽기 →