쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 10월 30일 (금)까지3647건
5건 · "자기진화"조건 지우기 ×
001▲ 19 · 댓글 2스스로 개선하는 AI, 살아있는 환경에서 진화한다현재 대부분의 AI 시스템은 고정된 파라미터로 출시되어 외부 업데이트로만 개선되지만, 이상적인 시스템은 자신의 경험으로부터 계속 개선되는 '순환적 자기개선(RSI)' 능력을 가져야 한다.AI · 머신러닝 · Evolving with Open Worlds: Towards Recursive Self-Improvement for Future Forecasting
Key Point모델이 외부 업데이트 없이 자신의 경험으로 지속적으로 개선되는 구조를 실제로 구현해 검증했으며, AI 훈련 패러다임의 근본적 전환을 제시한다.
핵심 요약
- 현재 대부분의 AI 시스템은 고정된 파라미터로 출시되어 외부 업데이트로만 개선되지만, 이상적인 시스템은 자신의 경험으로부터 계속 개선되는 '순환적 자기개선(RSI)' 능력을 가져야 한다.
- 미래 이벤트 예측에 기반한 자기진화 에이전트 시스템 'DeepEvolve'를 개발했으며, 에이전트가 지속적으로 변화하는 환경과 상호작용하면서 경험을 내재화·외재화하여 개선된다.
- 검증 가능한 작업을 합성하는 살아있는 환경과 각 예측 뒤의 추론 궤적을 능력으로 변환하는 순환진화 엔진으로 구성되며, 탐색을 예측으로부터 분리하여 파라미터 수준의 진화를 오염 위험이 있는 라이브 환경에 맞춘다.
전체 요약 8문장 읽기 →AI · 머신러닝 · Seeing, Maintaining, and Learning: The Evolution of Multimodal Agent Memory
Key Point멀티모달 AI 에이전트가 실제 환경에서 장기간 지속적으로 학습하려면 시간이 지나면서 진화하는 메모리 관리 체계가 필수적이며, 이 논문이 제시하는 분석 프레임워크는 현재 에이전트 시스템의 메모리 설계 방향을 제시한다.
핵심 요약
- 멀티모달 AI 에이전트가 장기 과제와 평생 학습 환경에서 복잡한 다중 양식 데이터로부터 지속적으로 유용한 정보를 습득하는 것이 핵심 과제이다.
- 논문은 멀티모달 에이전트 메모리를 두 축으로 분석하는 프레임워크를 제안한다: 축1(Formation과 Representation)은 정보가 어떻게 형성되고 표현되는지, 축2(Memory Management)는 축적된 경험으로 어떻게 적응하는지를 다룬다.
- 축1에서는 어떤 정보를 유지하고 양식별 임베딩·텍스트 및 구조화된 기록·잠재 및 매개변수 표현으로 어떻게 인코딩하는지를 규명해 이후 추론과 행동을 지원한다.
전체 요약 6문장 읽기 →AI · 머신러닝 · False Frontiers: Diagnosing and Mitigating Co-Cheating in Self-Evolving Search Agents
Key Point자기진화하는 AI 모델의 오류가 누적되는 새로운 실패 양식을 발견하고 교차 검증으로 근본 해결하는 방법을 제시해, 자동 학습 시스템의 신뢰성을 높이는 핵심 기술이다.
핵심 요약
- 자기진화 검색 에이전트는 질문을 생성하는 제안자와 답변하는 해결자가 함께 학습 커리큘럼을 구축하는데, 이 폐쇄 루프에서 '공동 부정행위(co-cheating)' 현상이 발생한다.
- 공동 부정행위는 제안자와 해결자가 같은 오류에 동의하면서 내부 보상 신호는 개선되지만 실제 정답률은 정체하거나 악화하는 문제다.
- Qwen 모델 실험에서 자기진화 반복 단계마다 가짜 레이블 정확도가 정체하거나 감소했는데도 루프 내 학습 신호는 개선되는 현상이 확인됐다.
전체 요약 8문장 읽기 →AI · 머신러닝 · UniEvo-VL: An On-policy Self-Distillation Training Recipe for Multimodal Model Self-improvement
Key Point외부 감독 없이 AI 모델이 자신의 비판적 피드백으로 스스로 개선되는 메커니즘을 제시해, 모델 성능 향상의 새로운 가능성을 보여준다.
핵심 요약
- 현대 멀티모달 모델은 생성과 이해를 하나의 시스템에 통합해 자신의 피드백으로부터 학습할 수 있는 잠재력을 가지고 있다.
- UniEvo-VL은 이러한 능력을 활용해 모델이 테스트 타임에 자기수정 피드백으로부터 배우도록 하는 자기진화 프레임워크다.
- 별도의 큰 교사 모델에 의존하는 대신, 단일 멀티모달 모델이 서로 다른 맥락에서 교사와 학생 역할을 동시에 수행한다.
전체 요약 8문장 읽기 →AI · 머신러닝 · RewardVerse: Rubric-Guided Policy Optimization for Video Reward Modeling
Key Point영상 생성 AI를 강화학습으로 최적화할 때 보상 신호의 불안정성은 학습 효율을 크게 떨어뜨리는데, 명시적 평가 기준을 도입하는 이 접근법이 문제 해결에 새로운 방향을 제시한다.
핵심 요약
- 영상 생성 모델 강화학습에서 핵심인 보상 모델이 복잡한 영상 품질을 단일 점수로 직접 변환하면서 점수 기준이 프롬프트마다 붕괴되거나 이동하는 '스칼라 드리프트' 문제가 발생한다.
- RewardVerse는 평가 기준을 동적으로 생성한 후 그에 맞춰 점수를 매기는 방식으로, 명시적 평가 기준을 중간 표현으로 삽입해 점수의 안정성을 높인다.
- 이를 효율적으로 최적화하기 위해 제안된 Rubric-Guided Policy Optimization(RGPO)는 자기진화 초기 기준으로 평가 모델을 먼저 준비한 후, 기준 생성기와 평가기를 함께 최적화하면서 인간 평가와 정렬하는 2단계 학습 알고리즘이다.
전체 요약 4문장 읽기 →