쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 11월 17일 (화)까지 4750건
10건 · "지속적 학습"조건 지우기 ×
001 09:11 ▲ 10 · 댓글 4 AI 에이전트의 평생 학습 측정 벤치마크 공개 지속적 학습(continual learning)을 측정하기 위해 ARC-AGI 과제 3개 버전으로 평생 스트림인 Continual-ARC를 제안했다. AI · 머신러닝 · Continual-ARC: Measuring Skill Acquisition over a Working Lifetime
Key Point 에이전트 기반 시스템의 지속적 학습 평가 방식을 완전히 재정의하는 벤치마크로, 메모리와 가중치 학습을 동등한 조건에서 비교할 수 있게 되었기 때문에 AI 에이전트 연구의 실제 성능 측정이 달라질 수 있다.
핵심 요약
지속적 학습(continual learning)을 측정하기 위해 ARC-AGI 과제 3개 버전으로 평생 스트림인 Continual-ARC를 제안했다. 과제는 반복되지만 다시 나타날 때 새로운 인스턴스이며, 새 과제가 계속 도착한다. 학습자는 시연 비용을 지불하거나 답을 제출하거나 에이전트 하니스 내에서 행동할 수 있으며, 각 인스턴스는 사용한 피드백 예산 비율에 따라 점수가 매겨진다. 전체 요약 9문장 읽기 → 002 21:11 ▲ 21 · 댓글 3 웹 에이전트를 위한 장기 지속 학습 프레임워크 'HaMo' 제시 웹 에이전트는 반복되는 다단계 작업에서 재사용 가능한 절차적 지식에 지속적으로 노출되지만, 기존 시스템은 모델 적응 또는 외부 메모리에 의존하면서 지속적 학습과 빠른 재사용 중 하나를 포기하는 한계가 있다. AI · 머신러닝 · Harness-Model Collaboration for Long-Horizon Continual Learning
Key Point 웹 자동화 에이전트의 장기 학습을 위해 경험 저장과 모델 적응을 어떻게 결합할지는 실무적 과제이며, HaMo의 접근은 이 문제의 구체적 해법을 제시한다.
핵심 요약
웹 에이전트는 반복되는 다단계 작업에서 재사용 가능한 절차적 지식에 지속적으로 노출되지만, 기존 시스템은 모델 적응 또는 외부 메모리에 의존하면서 지속적 학습과 빠른 재사용 중 하나를 포기하는 한계가 있다. 이를 해결하기 위해 HaMo(Harness-Model 협력 프레임워크)를 제안하며, 빠른 비모수적 경험 축적과 느린 모수적 적응을 결합한다. HaMo는 궤적을 전략 수준의 경험 카드로 증류하여 즉시 검색 가능하도록 하고, 경험 조건부 지속 학습 목표를 통해 모델이 검색된 전략을 다양한 맥락에서 해석·기반·실행하도록 훈련한다. 전체 요약 5문장 읽기 → 003 15:11 ▲ 49 · 댓글 2 LLM 외부 지식 통합하는 파라메트릭 메모리 구조 제안 LLM이 학습 후 새로운 지식을 추가할 때 지속 학습은 재앙적 망각을, 검색 기반 방법은 추론 오버헤드를 발생시킨다. AI · 머신러닝 · Deep Fusion Memory: A Chunk-Level Parametric Memory for Large Language Models
Key Point 토큰 수준 메모리 구성의 계산 비용을 획기적으로 줄이면서 동시에 더 깊은 수준의 지식 통합이 가능해져, LLM의 지속적 학습과 도메인 적응 방식이 실질적으로 단순화된다.
핵심 요약
LLM이 학습 후 새로운 지식을 추가할 때 지속 학습은 재앙적 망각을, 검색 기반 방법은 추론 오버헤드를 발생시킨다. 외부 파라메트릭 메모리는 온라인 검색을 피하지만 오프라인 검색이 많이 필요하고 얕은 수준의 융합만 가능해 왔다. 논문은 Deep Fusion Memory(DFM)를 제안하는데, 이는 청크 수준의 메모리를 중간 은닉층에 통합하는 구조다. 전체 요약 9문장 읽기 → 004 18:11 ▲ 65 · 댓글 1 문맥 정보를 모델의 영구 지식으로 만드는 방법 큰 언어모델에 주어진 문맥(context)으로 성능이 올라가지만, 문맥이 제거되면 그 이득이 사라진다. AI · 머신러닝 · Cortex: Consolidating Context into Parametric Memory
Key Point 문맥 정보를 임시적이 아닌 영구적 지식으로 전환하는 기술은 모델 미세조정이나 지속적 학습 환경에서 핵심적인 문제이며, 대규모 모델에서의 구체적 성능 달성(88.9% 복구율)을 보여준다.
핵심 요약
큰 언어모델에 주어진 문맥(context)으로 성능이 올라가지만, 문맥이 제거되면 그 이득이 사라진다. 생물학적 기억 통합 현상에서 영감을 얻어 Memory Consolidation(MC)을 제안한다: 문맥으로부터의 이득을 모델에 내재화하면서 다른 능력은 보존하는 것이다. Context-specified editing, skill learning, behavioral steering을 하나의 목표 아래 통합한다. 전체 요약 8문장 읽기 → 005 18:12 ▲ 18 · 댓글 2 언어모델 에이전트의 온라인 학습을 위한 재귀형 프레임워크 제안 언어모델 에이전트가 장시간 상호작용 스트림에서 분포 변화에 온라인으로 적응해야 하는데, 기존 에이전트 프레임워크는 순방향 정보 흐름만 사용하거나 재학습용 추가 데이터가 필요했다. AI · 머신러닝 · Recurrent Harness for Agentic Continual Learning
Key Point 장시간 상호작용을 처리하는 AI 에이전트의 지속적 학습 능력이 추론 정확도와 안정성에 직결되기 때문에, 오직 온라인 스트림만으로 효과적인 적응을 가능하게 하는 기술이 실제 배포에 중요하다.
핵심 요약
언어모델 에이전트가 장시간 상호작용 스트림에서 분포 변화에 온라인으로 적응해야 하는데, 기존 에이전트 프레임워크는 순방향 정보 흐름만 사용하거나 재학습용 추가 데이터가 필요했다. ReHarness는 순방향 읽기·쓰기와 역방향 수정을 결합한 재귀형 하네스 프레임워크를 제안해, 순수한 온라인 스트리밍 프로토콜 하에서 연속 학습을 지원한다. 각 인스턴스 이후 결과 궤적을 피드백으로 삼아 해당 인스턴스에서 검색한 반영(reflection)을 수정함으로써, 텍스트 기반 하네스 상태를 통해 피드백을 역방향으로 전파한다. 전체 요약 5문장 읽기 → 006 15:11 ▲ 43 · 댓글 2 소형 모델의 지속 학습을 위한 합성 자기 증류법 소형 모델의 지속적 학습(continual post-training)은 새로운 능력을 습득하면서도 기존 지식을 보존해야 하는 이중 과제에 직면해 있다. AI · 머신러닝 · Continually Post-training Small Models via Synthetic Self-distillation
Key Point 분포 편향이 소형 모델 학습 실패의 근본 원인이라는 발견과 이를 해결하는 구체적 기법이 온디바이스 AI 서비스 실현의 핵심 과제를 다룬다.
핵심 요약
소형 모델의 지속적 학습(continual post-training)은 새로운 능력을 습득하면서도 기존 지식을 보존해야 하는 이중 과제에 직면해 있다. 기존 자기 증류 미세조정(SDFT)은 문맥 내 학습과 명령 따르기 능력이 뛰어난 모델에서는 작동하지만, 저지연 온디바이스 실행이 필요한 소형 모델에서는 실패한다. 논문은 소형 모델에서 새로운 능력 습득 실패와 기존 지식 망각이 학습된 모델의 분포 편향과 선형 상관관계를 보여주며, 분포 내 학습의 필요성을 입증했다. 전체 요약 7문장 읽기 → 007 18:33 ▲ 38 · 댓글 2 LLM 에이전트의 스킬을 재실행 가능한 증거로 진화시키는 EVISKILL LLM 에이전트가 모델 파라미터를 업데이트하지 않으면서 상호작용 경험으로부터 재사용 가능한 절차적 지식을 축적하고 개선하는 지속적 스킬 진화를 다룬다. AI · 머신러닝 · EVISKILL: Grounding Skill Evolution in Replayable Evidence
Key Point 매개변수 고정 상태에서 LLM의 스킬을 직접 개선할 수 있는 새로운 방법론으로, 지속적 학습을 추구하는 에이전트 시스템 개발자와 연구자에게 실용적이다.
핵심 요약
LLM 에이전트가 모델 파라미터를 업데이트하지 않으면서 상호작용 경험으로부터 재사용 가능한 절차적 지식을 축적하고 개선하는 지속적 스킬 진화를 다룬다. 기존 경험 기반 방식들은 편집을 정당화하는 행동 증거와 작업 문맥을 잃기 쉬우며, 전역 검증이 구성 변화들에 대한 불완전한 판단을 제공하는 문제가 있다. EVISKILL은 실행 관찰값을 재실행 가능한 증거 카드로 정렬하고, 편집을 그들의 지원 문맥과 명시적으로 연결한다. 전체 요약 7문장 읽기 → 008 18:35 ▲ 15 · 댓글 2 로봇 에이전트의 행동 선택을 단순화한 RobotUse 프레임워크 로봇 에이전트가 의도한 행동을 실제 결과에 연결하면서 반복 시도 과정에서 필요한 맥락을 유지하는 문제를 다룬다. AI · 머신러닝 · RobotUse: Allocating Computation, Context, and Decisions
Key Point 로봇 에이전트가 실제 환경에서 학습하고 행동 선택을 효율적으로 관리하는 새로운 방식을 제시하며, 기존 방법보다 높은 성공률과 맥락 효율성을 입증했다.
핵심 요약
로봇 에이전트가 의도한 행동을 실제 결과에 연결하면서 반복 시도 과정에서 필요한 맥락을 유지하는 문제를 다룬다. 기존 인터페이스는 선택을 미리 정의된 도구 내부에 남기거나 에이전트가 상세한 실행 코드와 그 증가하는 이력을 관리하도록 요구한다. RobotUse는 로봇 에이전트 프레임워크로, 계산·맥락·의사결정을 물리적 행동 지정 및 수정을 중심으로 구조화한다. 전체 요약 9문장 읽기 → 009 12:11 ▲ 25 · 댓글 1 학생 모델이 만든 문장을 선생 모델이 계속쓰며 학습 OLIVE(온라인 인터벤션)라는 온라인 언어 모델 증류 방법을 제시한다. AI · 머신러닝 · Learning from Teacher Continuations at Student States
Key Point 온라인 학습과 오프라인 증류의 한계를 동시에 해결하는 새로운 증류 방식이 기존 방법 대비 더 나은 성능을 달성하는 방법론을 제시하기 때문이다.
핵심 요약
OLIVE(온라인 인터벤션)라는 온라인 언어 모델 증류 방법을 제시한다. 각 반복 단계에서 학생 모델이 프리픽스를 생성하고, 선생 모델이 자동회귀로 이를 이어쓰며, 선생이 생성한 토큰에 대해 교차 엔트로피로 학생을 업데이트한다. 기존 증류 방법의 세 가지 제약을 해결한다: 고정된 선생 궤적으로 학습할 때의 순차적 공변량 시프트, 프리픽스 실패 시 단편적 감독, 선생의 토큰 확률값 접근 필요성. 전체 요약 8문장 읽기 → 010 21:10 ▲ 145 · 댓글 25 8GB GPU에서 처음부터 학습하는 미니 AGI 공개 8GB VRAM 단일 GPU에서 처음부터 학습 가능한 바이트 레벨 언어 모델로, 가중치를 디스크에 저장했다가 필요할 때만 로드해 매개변수 수를 VRAM이 아닌 여유 디스크 공간으로 제한한다. AI · 머신러닝 · Show HN: Mini-AGI – Dynamic continual learning model trained on 8GB VRAM
Key Point 개인용 GPU에서 처음부터 훈련하고 계속 학습하는 언어 모델을 만드는 기술적 접근이 가능함을 보여주며, 하드웨어 제약 속에서도 지속적인 학습 구조를 구현할 수 있는 새로운 아키텍처 패턴을 제시한다.
핵심 요약
8GB VRAM 단일 GPU에서 처음부터 학습 가능한 바이트 레벨 언어 모델로, 가중치를 디스크에 저장했다가 필요할 때만 로드해 매개변수 수를 VRAM이 아닌 여유 디스크 공간으로 제한한다. 훈련 중 용량이 부족하면 자동으로 확장하고, 불필요한 부분은 정리하며, 지속적 학습(continual learning)을 통해 재앙적 망각 없이 스트림 형태의 데이터에서 계속 배운다. 두 개의 밀집 블록과 최대 24번 반복되는 재귀 블록으로 구성되며, 각 적용마다 공유 풀에서 자신의 전문가 8개를 선택하는 라우팅 방식을 사용한다. 전체 요약 5문장 읽기 →