쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 11월 1일 (일)까지 3728건
25건 · "자기개선"조건 지우기 ×
001 15:11 ▲ 70 · 댓글 4 모델이 스스로 배우는 시점을 판단하다 재귀적 자기개선(recursive self-improvement)에서 모델은 유용한 학습 경험을 얻는 것뿐 아니라 언제 새로운 경험이 필요한지 판단해야 한다. AI · 머신러닝 · A-RSI: Adaptive Task Refresh for Zero-Data Multimodal Self-Improvement
Key Point 모델 스스로 데이터를 생성하며 학습하는 자기개선 시스템에서, 언제 새 학습이 필요한지 자동으로 판단하는 기법이 벤치마크에서 성능 향상을 달성했기 때문이다.
핵심 요약
재귀적 자기개선(recursive self-improvement)에서 모델은 유용한 학습 경험을 얻는 것뿐 아니라 언제 새로운 경험이 필요한지 판단해야 한다. 기존 방식들은 다음에 무엇을 학습할지에 집중했지만, 언제 새 경험을 도입할지는 충분히 다루지 않았다. 또한 자기 일관성이나 다수결로 학습 목표를 만들어 감독 신호가 모델의 불확실한 예측에 의존하는 문제가 있다. 전체 요약 9문장 읽기 → 002 06:11 ▲ 11 · 댓글 2 AI 에이전트가 자신의 개선 방법을 스스로 최적화한다 언어 에이전트가 재사용 가능한 스킬에 절차적 지식을 저장하는데, 기존 스킬 최적화 방법들은 사람이 설계한 고정된 절차를 따르거나 각 작업마다 메타스킬을 재학습한다. AI · 머신러닝 · Skill^{infty}: Recursive Self-Improvement for Agent Skill Optimization
Key Point AI 에이전트가 문제 해결 방법 자체를 자동으로 개선할 수 있는 체계가 나왔으며, 이는 AGI로 향하는 재귀적 자기개선의 실질적 구현 사례다.
핵심 요약
언어 에이전트가 재사용 가능한 스킬에 절차적 지식을 저장하는데, 기존 스킬 최적화 방법들은 사람이 설계한 고정된 절차를 따르거나 각 작업마다 메타스킬을 재학습한다. Skill^∞는 메타 에이전트가 메타스킬을 따라 작업 스킬을 최적화하고, 동일한 절차로 메타스킬 자신도 최적화하는 재귀적 자기개선(RSI) 방식을 제시한다. 최적화 과정은 에이전트가 주도하며, 실행 추적을 진단하고 후보를 제안하며 독립적 검토를 요청하고 탐색 예산을 배분하는 단계들을 정의한다. 전체 요약 6문장 읽기 → 003 03:11 ▲ 16 · 댓글 2 AI 에이전트가 언어모델을 자동으로 개선할 수 있을까 언어모델의 자동 개선(재귀적 자기개선)을 평가하는 'ParetoRSI-Gym' 벤치마크를 제안했다. AI · 머신러닝 · ParetoRSI-Gym: Can AI Agents Improve Language Models Across Multiple Domains?
Key Point 다중 도메인 환경에서 AI 에이전트가 언어모델을 자동으로 개선할 수 있는지를 체계적으로 평가하는 첫 시도로, 한 분야의 성능 향상이 다른 분야를 해치는 트레이드오프까지 고려한 현실적 평가 틀을 제시한다.
핵심 요약
언어모델의 자동 개선(재귀적 자기개선)을 평가하는 'ParetoRSI-Gym' 벤치마크를 제안했다. 에이전트가 데이터를 검색·선별하고 모델을 훈련한 뒤 도메인별 결과를 읽으며 반복하는 과정을 시뮬레이션한다. 수학·코드·금융·의학·과학 다섯 개 도메인에서 성능을 측정하되, 각 도메인마다 과적합 판단용 별도 벤치마크를 둔다. 전체 요약 7문장 읽기 → 004 15:11 ▲ 39 · 댓글 2 AI 에이전트가 독립적으로 언어모델 학습, 인간 피드백으로 개선 AI 에이전트가 자율적으로 언어모델을 학습하고 사용자 피드백으로 개선할 수 있는지 확인하는 RSI Arena 연구를 공개했다. AI · 머신러닝 · RSI Arena: Towards Recursive Self-Improvement with Human Feedback
Key Point AI 모델 개발 주도권이 인간에서 AI로 이동할 가능성을 보여주는 연구로, 인간 피드백이 자율 시스템에 어떻게 통합되는지 실증적으로 보여준다.
핵심 요약
AI 에이전트가 자율적으로 언어모델을 학습하고 사용자 피드백으로 개선할 수 있는지 확인하는 RSI Arena 연구를 공개했다. 10개 프론티어 모델을 학습 에이전트로 사용해, 각각 1,000 GPU시간과 $300의 API 크레딧을 주고 6일간 독립적으로 데이터 선택·학습·체크포인트 선택을 하게 했다. 모든 10개 에이전트가 작동하는 어시스턴트를 만들었으며, GPT-6 Astra가 학습한 최강 모델은 12개 성능 벤치마크에서 기본 모델과 Instruct 버전의 중앙값 차이의 76%를 좁혔다. 전체 요약 8문장 읽기 → 005 03:11 ▲ 28 · 댓글 2 LLM 연구 에이전트가 만든 하스스톤 AI, 최상위 플레이어 능가 LLM 연구 에이전트들로 구성된 자기개선 시스템 AutoTavern이 8인 자동배틀게임 하스스톤 배틀그라운드의 완전한 시뮬레이터를 20일 만에 개발했다. AI · 머신러닝 · Build, Don't Play: Self-Improving LLM Research Agents Develop a Hearthstone Battlegrounds AI That Rivals Top Players
Key Point LLM 에이전트가 자동 개선 루프를 통해 최첨단 게임 AI를 개발하고 인간 최강자를 능가한 사례로, 에이전트 연구의 현실적 가능성과 한계를 보여줍니다.
핵심 요약
LLM 연구 에이전트들로 구성된 자기개선 시스템 AutoTavern이 8인 자동배틀게임 하스스톤 배틀그라운드의 완전한 시뮬레이터를 20일 만에 개발했다. AutoTavern은 특화된 LLM 에이전트들이 타입화된 연구 메모리를 공유하고, 모든 주장이 검증 단계를 거치며, 실제 게임을 통해 피드백 루프가 닫혀 있어 시뮬레이터, 상대 AI, 정책, 연구 과정까지 동시에 개선된다. TavernAgent는 PPO로 학습되어 23개 버전을 거쳤으며, 실제 게임 래더에서 등급이 6,000에서 약 15,000으로 올랐다. 전체 요약 7문장 읽기 → 006 15:11 ▲ 21 · 댓글 2 AI가 자동으로 만드는 평가 벤치마크, 근데 효과는? AI 연구자들이 재귀적 자기개선을 위해 반복적으로 복잡한 벤치마크를 실행하는데 비용이 많이 들어서, AI가 자동으로 평가 지표를 설계할 수 있는지 묻는 ERB(EvalResearchBench) 벤치마크를 소개했다. AI · 머신러닝 · EvalResearchBench: Can AI Agents Build Their Own Feedback for Recursive Self-Improvement?
Key Point AI가 스스로 피드백과 평가 지표를 설계하는 자동화가 기술적으로는 가능하지만 신뢰성 면에서 여전히 인간 설계를 따라잡지 못하며, 재귀적 자기개선의 비용 감축과 품질 사이의 실제 차이를 보여준다.
핵심 요약
AI 연구자들이 재귀적 자기개선을 위해 반복적으로 복잡한 벤치마크를 실행하는데 비용이 많이 들어서, AI가 자동으로 평가 지표를 설계할 수 있는지 묻는 ERB(EvalResearchBench) 벤치마크를 소개했다. 주어진 목표 자료, 개발 참고자료, 후보 API, 시간 및 API 예산이 있을 때 AI 에이전트인 연구자가 작업을 선택하거나 합성하고, 채점자를 구현한 뒤 파일럿 테스트를 통해 수정한 후 최종 평가자를 확정한다. 9개의 연구자 에이전트와 13개의 후보 모델을 연구했으며, 각 최종 평가자를 14개의 목표 벤치마크와 점수 일관성과 쌍별 동의도로 비교했다. 전체 요약 7문장 읽기 → 007 18:11 ▲ 58 · 댓글 2 로봇이 자신의 학습 방식까지 개선하는 방법 재귀적 자기개선(RSI)은 시스템이 행동뿐 아니라 개선 과정 자체를 향상시키는 개념으로, 디지털 에이전트에서는 코드 재작성과 테스트로 구현되고 있다. AI · 머신러닝 · Toward Recursive Self-Improvement in Physical AI
Key Point 로봇이 단순히 작업을 더 잘하는 데 그치지 않고 학습하는 방식 자체를 개선하는 자기개선 시스템의 원리와 현실적 제약을 종합적으로 다루는 논문으로, 물리 AI의 다음 단계를 엿볼 수 있다.
핵심 요약
재귀적 자기개선(RSI)은 시스템이 행동뿐 아니라 개선 과정 자체를 향상시키는 개념으로, 디지털 에이전트에서는 코드 재작성과 테스트로 구현되고 있다. 물리적 세계의 로봇에 이를 적용하려면 비용이 큰 시행착오를 통해 불완전한 정보에서 학습하면서, 변화하는 환경과 돌이킬 수 없는 결과를 고려해야 한다. 논문은 로봇 학습 내에서 RSI의 위치를 정의하고, 로봇 능력 개선에서 그 과정 개선까지의 경로를 추적한다. 전체 요약 7문장 읽기 → 008 03:11 ▲ 19 · 댓글 2 스스로 개선하는 AI, 살아있는 환경에서 진화한다 현재 대부분의 AI 시스템은 고정된 파라미터로 출시되어 외부 업데이트로만 개선되지만, 이상적인 시스템은 자신의 경험으로부터 계속 개선되는 '순환적 자기개선(RSI)' 능력을 가져야 한다. AI · 머신러닝 · Evolving with Open Worlds: Towards Recursive Self-Improvement for Future Forecasting
Key Point 모델이 외부 업데이트 없이 자신의 경험으로 지속적으로 개선되는 구조를 실제로 구현해 검증했으며, AI 훈련 패러다임의 근본적 전환을 제시한다.
핵심 요약
현재 대부분의 AI 시스템은 고정된 파라미터로 출시되어 외부 업데이트로만 개선되지만, 이상적인 시스템은 자신의 경험으로부터 계속 개선되는 '순환적 자기개선(RSI)' 능력을 가져야 한다. 미래 이벤트 예측에 기반한 자기진화 에이전트 시스템 'DeepEvolve'를 개발했으며, 에이전트가 지속적으로 변화하는 환경과 상호작용하면서 경험을 내재화·외재화하여 개선된다. 검증 가능한 작업을 합성하는 살아있는 환경과 각 예측 뒤의 추론 궤적을 능력으로 변환하는 순환진화 엔진으로 구성되며, 탐색을 예측으로부터 분리하여 파라미터 수준의 진화를 오염 위험이 있는 라이브 환경에 맞춘다. 전체 요약 8문장 읽기 → 009 18:11 ▲ 17 · 댓글 2 LLM 에이전트의 물리적 자기개선, 어떻게 가능할까 LLM 기반 로봇 에이전트의 물리적 자기개선(Physical RSI) 메커니즘을 체계적으로 분석한 연구다. AI · 머신러닝 · Where is Physical RSI capability from? An Observational Scaling Law of LLM-as-policy
Key Point 로봇 조작 같은 물리적 환경에서 LLM 에이전트가 스스로 개선되는 원리를 정량 분석해, 대규모 언어 모델의 실제 강화학습 적용 가능성을 예측할 수 있는 기초를 제공한다.
핵심 요약
LLM 기반 로봇 에이전트의 물리적 자기개선(Physical RSI) 메커니즘을 체계적으로 분석한 연구다. PhysRSI-eval이라는 평가 지표를 도입해 5개 축(첫 시도 성능, 효율성, 성공률, 예산, 실패 후 개선)으로 물리적 RSI를 정량화했다. 18개 로봇 조작 작업에서 다양한 VLM(시각 언어 모델)을 같은 상호작용 예산 내에서 평가했으며, 공개 벤치마크 점수가 비슷해도 개선 양상은 크게 다를 수 있음을 확인했다. 전체 요약 7문장 읽기 → 010 12:11 ▲ 43 · 댓글 4 코딩 AI, 스스로 실패를 분석해 개선하는 법 배우다 LLM 코딩 에이전트의 성능은 정책 모델과 환경 상호작용을 중개하는 harness(도구 호출 방식)에 의해 결정되며, 둘 중 하나만 최적화하는 것은 불충분하다. AI · 머신러닝 · Self-Evolving Coding Agents via Harness-Policy Optimization
Key Point 코딩 AI의 성능을 높이는 데 도구 사용 방식과 모델 학습을 함께 개선하는 방법이 유의미한 성과를 보여주고 있기 때문이다.
핵심 요약
LLM 코딩 에이전트의 성능은 정책 모델과 환경 상호작용을 중개하는 harness(도구 호출 방식)에 의해 결정되며, 둘 중 하나만 최적화하는 것은 불충분하다. Self-HPO는 두 성분을 번갈아 최적화하는 자기개선 프레임워크로, 현재 정책이 자신의 실패를 분석해 새로운 harness 후보를 제안하는 H-스텝과 RL로 정책을 업데이트하는 P-스텝을 반복한다. 학습 중 어려운 작업들이 다음 라운드의 harness 탐색 대상이 되어, harness 최적화가 진화하는 정책의 실패 패턴에 계속 맞춰진다. 전체 요약 6문장 읽기 → 011 15:11 ▲ 25 · 댓글 2 ML 엔지니어링 자동화하는 35B 모델 MLExpert 공개 LLM이 AI 시스템을 자율적으로 개발·개선하는 AI4AI 시대로 나아가고 있으며, 기계학습 엔지니어링(MLE) 시스템이 장기 실험 관리와 최적화 전략 자동 적응으로 이를 실현하고 있다. AI · 머신러닝 · MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering
Key Point ML 엔지니어링의 완전 자동화가 가능해지면 AI 개발 사이클을 획기적으로 단축할 수 있으며, 이는 AI 스스로가 AI를 개선하는 재귀적 자기개선의 실질적 첫걸음이다.
핵심 요약
LLM이 AI 시스템을 자율적으로 개발·개선하는 AI4AI 시대로 나아가고 있으며, 기계학습 엔지니어링(MLE) 시스템이 장기 실험 관리와 최적화 전략 자동 적응으로 이를 실현하고 있다. 기존 MLE 시스템의 문제점은 실험 피드백이 이전 여러 결정의 누적 결과라 단순 감독학습으로는 장기 궤적에서 유용한 신호를 학습하기 어렵다는 점이다. Hugging Face 팀은 35B Mixture-of-Experts 모델 MLExpert를 학습시키기 위해 Kaggle-MLE Factory로 실행 가능한 ML 최적화 작업을 대규모로 생성했다. 전체 요약 7문장 읽기 → 012 00:11 ▲ 19 · 댓글 2 과학 AI 에이전트 군단이 스스로 진화하며 학습한다 과학 연구의 재귀적 자기 개선(RSI)을 위해 과학 에이전트 군단이 실험 경험을 통해 연구 능력을 향상시키는 것을 목표로 한다. AI · 머신러닝 · SwarmRSI: Recursive Self-Improvement through Evolving Scientific Agent Swarm
Key Point 과학 연구 자동화를 추구하는 개발자와 연구자들이 AI 에이전트 간 협력과 피드백 기반 자기 개선이 어떻게 실제 과학 문제 해결에 활용되는지 알아야 한다.
핵심 요약
과학 연구의 재귀적 자기 개선(RSI)을 위해 과학 에이전트 군단이 실험 경험을 통해 연구 능력을 향상시키는 것을 목표로 한다. 기존 접근의 문제점은 실패한 실험 결과가 가설 오류인지 구현 오류인지 불분명하고, 전체 점수가 다른 에이전트에 유용한 부분 결과를 가린다는 것이다. SwarmRSI는 피드백 기반 군단 변이(Feedback-Guided Swarm Mutation)로 다른 에이전트의 실험 결과를 이용해 가설과 구현을 개선한다. 전체 요약 7문장 읽기 → 013 06:11 ▲ 10 · 댓글 1 에이전트가 직접 학습 환경을 설계하는 자동화 시스템 등장 터미널 에이전트의 강화학습 훈련에는 다양하고 검증 가능한 환경이 필요하지만, 지금까지 환경 설계는 인간 연구자가 수행해야 했다. AI · 머신러닝 · AutoEnvScaling: Automating the Data Flywheel with Terminal Agents
Key Point 터미널 에이전트 훈련의 가장 큰 병목이었던 환경 설계를 자동화함으로써, 모델의 자율적 성장과 비용 효율성을 동시에 달성하는 경로를 보여준다.
핵심 요약
터미널 에이전트의 강화학습 훈련에는 다양하고 검증 가능한 환경이 필요하지만, 지금까지 환경 설계는 인간 연구자가 수행해야 했다. AutoEnvScaling은 환경 설계를 터미널 작업으로 재정의해 에이전트가 자동으로 학습 환경을 생성하도록 한다. 제안 에이전트가 풀이 에이전트의 실행 롤아웃을 바탕으로 새로운 강화학습 환경을 구축하고, 그 결과가 다음 훈련 라운드를 안내한다. 전체 요약 8문장 읽기 → 014 15:11 ▲ 20 · 댓글 1 LLM 에이전트, 외부 모델 없이 자기개선한다 LLM 기반 에이전트가 파일 시스템·셸과 직접 상호작용하는 하네스 환경에서 작동하지만, 기존 학습 파이프라인은 외부 강력한 모델에 의존하는 일회성 방식에 머물고 있다. AI · 머신러닝 · ClawLoop: Self-Improving Agents via Harness-Native Training Loop
Key Point 기존 LLM 에이전트 학습은 외부 모델과 인간에게 종속되어 근본적 한계가 있는데, ClawLoop은 순환 루프로 자동 개선을 실현하고 작은 모델에도 지식 전이가 가능함을 증명하며 에이전트 학습 패러다임의 전환을 시사한다.
핵심 요약
LLM 기반 에이전트가 파일 시스템·셸과 직접 상호작용하는 하네스 환경에서 작동하지만, 기존 학습 파이프라인은 외부 강력한 모델에 의존하는 일회성 방식에 머물고 있다. ClawLoop은 외부 교사 모델 없이, 최소한의 사전 지식으로 에이전트가 자기개선하는 자체 순환 프레임워크를 제안한다. 과제 합성·진단 기반 난이도 성장·에이전트 기반 검증으로 다양한 학습 과제 풀을 생성하고, SFT와 RL로 에이전트를 업데이트한 후, 롤아웃 행동 분석으로 다음 반복의 피드백을 생성한다. 전체 요약 5문장 읽기 → 015 18:12 ▲ 113 · 댓글 63 AI가 자기 자신을 재귀적으로 개선하는 방법 Sakana AI 연구팀이 다중 에이전트 시스템의 집단 지능을 통해 AI 모델이 스스로를 개선하는 MASS(Multi-Agent Self-Supervision) 기법을 제안했다. AI · 머신러닝 · Recursive self-improvement through collective intelligence
Key Point 인간 감시자도 평가 불가능한 최첨단 과제에서 AI가 홀로 자신을 개선할 수밖에 없는 상황에서, 집단 지능을 통한 자기 감시 메커니즘이 작동하는지 보여주며, 동시에 그 방식의 안전 위험을 드러내는 연구다.
핵심 요약
Sakana AI 연구팀이 다중 에이전트 시스템의 집단 지능을 통해 AI 모델이 스스로를 개선하는 MASS(Multi-Agent Self-Supervision) 기법을 제안했다. MASS는 같은 모델이 작업 수행자, 워크플로우 최적화자, 평가자 세 역할을 모두 하는 동형 재귀적 자기 개선(RSI) 방식이다. 내부 루프에서 모델이 다중 에이전트 팀의 업무 분담 방식을 최적화하고, 외부 루프에서 최적화된 워크플로우 실행으로부터 배운다. 전체 요약 12문장 읽기 → 016 12:11 ▲ 33 · 댓글 2 재귀적 자기개선 프레임워크로 코드부터 신약까지 성능 지속 개선 RSI-Anything은 JEPA-Anything 기반의 도메인 범용 프레임워크로, 예측 세계 모델을 사용해 행동과 학습 데이터 선택을 안내한다. AI · 머신러닝 · RSI-Anything: Unlocking Recursive Self-Improvement with World Models
Key Point 기존 외부 피드백 없이 정책이 스스로 개선되는 자기개선 프레임워크가 코드 수리부터 신약 발견까지 다양한 분야에서 실질적 성능 향상을 입증했기 때문이다.
핵심 요약
RSI-Anything은 JEPA-Anything 기반의 도메인 범용 프레임워크로, 예측 세계 모델을 사용해 행동과 학습 데이터 선택을 안내한다. 정책 진화 중 세계 모델 예측의 신뢰성 저하 문제를 해결하기 위해 관찰된 피드백을 통해 정책이나 워크플로우 개선과 조건부 세계 모델 적응을 진행한다. 성분·호환성 검사를 통해 업데이트된 정책-모델 쌍의 유지 여부를 결정한다. 전체 요약 8문장 읽기 → 017 00:11 ▲ 35 · 댓글 5 고정된 LLM이 자기 개선하는 Memento 3, 환경 학습에 성공 Memento 3는 동결된 LLM 에이전트가 외부 메모리를 통해 명시적 세계 모델을 지속적으로 학습하도록 하는 기법이다. AI · 머신러닝 · Memento 3: Model-Based Recursive Self-Improvement through Reflective Rulebooks
Key Point 기존 LLM은 세계 모델을 외부 메모리 없이 학습할 수 없었는데, Memento 3의 규칙책 기반 접근은 동결된 모델도 자율적으로 환경을 학습하고 자기 개선할 수 있음을 보여준다.
핵심 요약
Memento 3는 동결된 LLM 에이전트가 외부 메모리를 통해 명시적 세계 모델을 지속적으로 학습하도록 하는 기법이다. 에이전트는 자연언어 규칙책을 의미 기억으로 유지하며, 환경 역학의 수정 가능한 가설을 기록하면서 미지의 측면은 불완전하게 남긴다. 규칙책을 실행 가능한 코드로 컴파일하여 예측과 계획에 활용한다. 전체 요약 9문장 읽기 → 018 00:11 ▲ 29 · 댓글 2 고정 모델도 로봇 역량 높인다, PhysEvo 프레임워크 제시 Astra 같은 고정된 대형 모델도 충분한 관찰과 제어 체계가 있으면 로봇 조작 능력을 발휘할 수 있다. AI · 머신러닝 · PhysEvo: Astra Can Act, Let It
Key Point 모델 가중치 업데이트나 별도 훈련 없이 시뮬레이션 기반 자기개선만으로 실제 로봇 조작 성공률을 5배 이상 높일 수 있음을 입증한 결과다.
핵심 요약
Astra 같은 고정된 대형 모델도 충분한 관찰과 제어 체계가 있으면 로봇 조작 능력을 발휘할 수 있다. PhysEvo는 모델 가중치를 업데이트하지 않고도 물리적 재귀적 자기개선(RSI)을 수행하는 프레임워크다. 작업 에이전트가 로봇 태스크를 실행하고, 메타 에이전트가 실패를 진단해 도구와 스킬을 개정한 후 테스트한다. 전체 요약 8문장 읽기 → 019 18:33 ▲ 11 · 댓글 1 로봇이 스스로 배우는 데이터로 자기개선 가속화 로봇 파운데이션 모델 학습을 위해 다양한 데이터와 신뢰할 수 있는 평가 환경이 필요한데, 기존 시뮬레이션은 미리 정한 에셋과 스킬로만 제약받고 있다. AI · 머신러닝 · EmbodiedSmith: Scaling Embodied Data through Recursive Self-Improvement Flywheel in Simulation
Key Point 로봇 학습에 필요한 대규모 시뮬레이션 데이터를 자동으로 생성하면서 동시에 질을 높이는 기술로, 로봇 AI 개발 비용과 시간을 크게 단축할 수 있는 방법을 제시한다.
핵심 요약
로봇 파운데이션 모델 학습을 위해 다양한 데이터와 신뢰할 수 있는 평가 환경이 필요한데, 기존 시뮬레이션은 미리 정한 에셋과 스킬로만 제약받고 있다. EmbodiedSmith는 재귀적 자기개선(RSI) 방식으로 시뮬레이션 환경에서 대규모 로봇 데이터를 생성하는 프레임워크다. 에셋, 씬, 태스크 생성을 한 파이프라인에 통합하며, 언어 기반 커스터마이징과 자동 생성을 모두 지원한다. 전체 요약 8문장 읽기 → 020 18:11 ▲ 75 · 댓글 2 LLM이 스스로 개선하며 게임을 만든다 LLM으로 게임을 자동 생성하는 것은 가능해졌으나, 단순 반복 개선은 작은 테스트 세트에 과적합되어 버그와 동작 누락, 일반화 부족 문제를 남긴다. AI · 머신러닝 · RSIGame: Autonomous Agentic Game Development with Recursive Self-improvement
Key Point LLM 기반 게임 생성의 품질 문제를 재귀적 자기개선으로 해결하며, 작은 모델도 더 큰 모델을 능가할 수 있음을 보여준다.
핵심 요약
LLM으로 게임을 자동 생성하는 것은 가능해졌으나, 단순 반복 개선은 작은 테스트 세트에 과적합되어 버그와 동작 누락, 일반화 부족 문제를 남긴다. RSIGame은 로컬 루프(탐색-진단-개선)와 글로벌 루프(품질 추적, 최고 체크포인트 보존, 포화/회귀 감지)로 게임 개발을 조직화한다. 로컬 루프에서는 실행 가능한 게임을 광범위하게 탐색하고 발견한 문제를 진단·우선순위화하며, 계속 누적되는 테스트 가이드라인을 바탕으로 근거 기반의 개선을 수행한다. 전체 요약 6문장 읽기 → 021 15:11 ▲ 33 · 댓글 1 작은 모델도 강력하게: 필요할 때만 큰 모델에 묻는 추론 시스템 작은 추론 모델(sRM)의 테스트 타임 컴퓨팅을 확장하는 것이 성능 향상의 핵심이지만, 더 많은 사고가 항상 도움이 되는지는 명확하지 않다. AI · 머신러닝 · Knowing When Thinking Is Not Enough: Teaching Small Reasoning Models to Reason Beyond Their Parametric Knowledge
Key Point 작은 모델이 큰 모델과 비슷하거나 나은 성능을 훨씬 낮은 비용으로 달성하는 방법을 보여주므로, 프로덕션 추론 비용 최적화를 고민하는 개발팀에게 직접적인 영향이 있다.
핵심 요약
작은 추론 모델(sRM)의 테스트 타임 컴퓨팅을 확장하는 것이 성능 향상의 핵심이지만, 더 많은 사고가 항상 도움이 되는지는 명확하지 않다. 중간 추론 상태에 개입하는 실험을 통해 자기개선(self-refinement)이 기존에 도달 가능한 해답으로 확률질량을 집중시킬 뿐, 새로운 해답을 만들지는 못한다는 것을 발견했다. 두 가지 실패 양식을 식별했다: 올바른 경로는 도달 가능하지만 실행에 실패하는 실행 병목(execution bottleneck)과, 외부 정보가 필요한 지식 병목(knowledge bottleneck)이다. 전체 요약 7문장 읽기 → 022 22:26 ▲ 17 · 댓글 1 AI 연구 에이전트가 자기 자신을 개선하다 AI 연구 에이전트가 자신의 코드를 최적화하는 '재귀적 자기개선' 루프를 구현한 AIDE^2 시스템을 개발했다. AI · 머신러닝 · Recursive self-improvement of AI research agents
Key Point AI 에이전트가 자기 자신의 코드를 개선하는 자동화 루프에 성공하면, R&D 수익 감소 문제를 근본적으로 해결할 수 있는 경로가 열린다.
핵심 요약
AI 연구 에이전트가 자신의 코드를 최적화하는 '재귀적 자기개선' 루프를 구현한 AIDE^2 시스템을 개발했다. AIDE^2는 자신의 코드를 수정 제안하고, 수정된 버전을 AI R&D 작업들로 평가한 후, 숨겨진 평가 세트에서 가장 좋은 성과를 낸 변경사항만 유지한다. 8일간의 자동 실행 중 AIDE^2는 새로운 탐색 정책과 에이전트의 성장하는 문맥을 압축·관리하는 메모리 메커니즘 등 7가지 연속적 개선을 발견했다. 전체 요약 7문장 읽기 → 023 03:10 ▲ 117 · 댓글 36 AI 에이전트가 스스로 탐색 전략을 개선하는 'Dream-RSI' 프레임워크 제안 자율 AI 에이전트의 재귀적 자기개선을 위해 탐색 전략을 명시적으로 프로그래밍할 수 있는 경량 오케스트레이션 레이어를 도입했다. AI · 머신러닝 · Dream-RSI: Recursive Self-Improvement through Evolving Worlds
Key Point AI 에이전트가 복잡한 문제를 풀 때 탐색 정책을 동적으로 학습·개선하는 새로운 방식을 제시해, 기존의 고정 전략 또는 비싼 온라인 재학습의 한계를 극복한다.
핵심 요약
자율 AI 에이전트의 재귀적 자기개선을 위해 탐색 전략을 명시적으로 프로그래밍할 수 있는 경량 오케스트레이션 레이어를 도입했다. 과거 발견 이력을 시뮬레이터로 재구성해 리플레이 환경에서 저비용 오프폴리시 피드백을 얻음으로써, 비싼 온라인 평가를 반복할 필요를 줄였다. 개선된 탐색 정책을 온라인으로 재배포해 새로운 발견을 추진하고 시뮬레이터 풀을 확장하는 자기개선 루프를 구성했다. 전체 요약 4문장 읽기 → 024 18:10 ▲ 101 · 댓글 99 AI 연구자들, 재귀적 자기개선까지 가는 길 논쟁 OpenAI 공동창립자 존 슐만, Zyphra CTO 베렌 밀리지, Baseten 모델 훈련 담당자 찰리 오닐이 재귀적 자기개선(RSI)의 실현 가능성을 토론했다. AI · 머신러닝 · AI researchers debate how close we are to recursive self-improvement
Key Point AI가 지수적으로 자기 자신을 개선할 수 있다는 시나리오가 과장된 것 아닌지, 실제 프론티어 연구자들이 어떤 장애물을 현실적으로 보고 있는지 알 수 있다.
핵심 요약
OpenAI 공동창립자 존 슐만, Zyphra CTO 베렌 밀리지, Baseten 모델 훈련 담당자 찰리 오닐이 재귀적 자기개선(RSI)의 실현 가능성을 토론했다. 만약 2036년에 초지능이 세상을 근본적으로 바꾸지 못한다면, 가장 가능성 높은 기술적 이유는 메타러닝 일반화의 어려움과 연속학습(continual learning) 문제라고 논의했다. AI 모델이 벤치마크에서는 우수하지만 현실 환경으로의 적용(sim-to-real gap)에서 계속 막힐 수 있고, 이것이 성능 향상 사이클을 반복시킬 수 있다고 밀리지는 지적했다. 전체 요약 5문장 읽기 → 025 00:10 ▲ 339 · 댓글 320 Opus 5, 벤치마크 최적화의 대가 Opus 5는 이전 버전보다 성능이 우수하지만, 사용자들은 실제 작업에서 더 어렵다고 평가합니다. AI · 머신러닝 · Why does Opus 5 feel worse to work with?
Key Point Hacker News에서 고인기를 얻은 이유는 Claude 모델의 실용성 문제를 직접 경험한 개발자들의 공감을 샀기 때문입니다.
핵심 요약
Opus 5는 이전 버전보다 성능이 우수하지만, 사용자들은 실제 작업에서 더 어렵다고 평가합니다. Opus 5는 명확하지 않은 의도에 대해 확인 요청을 하지 않고 가정을 바탕으로 행동하는 경향이 있습니다. 벤치마크 점수 최적화와 자기개선형 AI 개발 압박이 모호한 상황에서 대담한 결정을 내리도록 모델을 선택하게 만든 것으로 보입니다. 
