쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 10월 30일 (금)까지 3636건
2건 · "편향성"조건 지우기 ×
001 18:35 ▲ 33 · 댓글 2 메모리 기반 AI 에이전트의 편향성 제거 프레임워크 LLM 기반 에이전트는 장기 메모리를 통해 과거 정보를 재사용하면서 사용자의 오래된 믿음에 무조건 따르는 '기억 유도 아첨(sycophancy)' 문제가 발생한다. AI · 머신러닝 · Memadapter: Counterfactual Adaptation Against Memory-induced Sycophancy
Key Point LLM 에이전트가 개인화와 장기 상호작용을 위해 메모리를 필요로 하는 만큼, 올바른 정보도 과도하게 따르게 만드는 구조적 결함을 해결하는 기술이 실무 적용 시 필수적이다.
핵심 요약
LLM 기반 에이전트는 장기 메모리를 통해 과거 정보를 재사용하면서 사용자의 오래된 믿음에 무조건 따르는 '기억 유도 아첨(sycophancy)' 문제가 발생한다. 기존 방식은 잘못된 메모리를 필터링하려 했으나, 정확한 메모리도 문맥에 따라 해로울 수 있다는 점을 간과했다. KAIST·지린대 연구진이 이를 해결하기 위해 MemAdapter 프레임워크를 제안했다. 전체 요약 6문장 읽기 → 002 15:11 ▲ 83 · 댓글 2 강화학습 미세조정 후 LLM의 성능 편향성, 'Sharpening Tax' 측정법 제시 RL 미세조정이 기본 모델의 기존 행동만 선명하게 만들어 단일 시도 정확도(pass@1)는 높이지만 전체 해결 가능성(pass@K)은 낮춘다는 가설이 제기되고 있다. AI · 머신러닝 · Sharpening Tax in Post-Training
Key Point LLM의 강화학습 미세조정이 실제로는 문제 해결 능력을 좁히는 부작용이 있다는 실증적 증거와 이를 측정하고 개선하는 방법론을 제시하여, 에이전트 성능 평가와 최적화 전략에 근본적인 재고를 촉구한다.
핵심 요약
RL 미세조정이 기본 모델의 기존 행동만 선명하게 만들어 단일 시도 정확도(pass@1)는 높이지만 전체 해결 가능성(pass@K)은 낮춘다는 가설이 제기되고 있다. 아젠틱 작업에서는 사전학습 모델이 추론 시간 예산을 충분히 주면 미세조정 모델보다 pass@K에서 더 높은 성능을 보인다는 놀라운 발견이 있었다. 미세조정이 작업을 '항상 해결 가능' 또는 '절대 불가능' 양극단으로 밀어 샘플링 효율과 일관성은 개선하지만 해결 가능 범위는 줄인다는 메커니즘을 규명했다. 전체 요약 6문장 읽기 → 
