쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 17일 (목)까지585건
3건 · "자기개선"조건 지우기 ×
001▲ 117 · 댓글 36AI 에이전트가 스스로 탐색 전략을 개선하는 'Dream-RSI' 프레임워크 제안자율 AI 에이전트의 재귀적 자기개선을 위해 탐색 전략을 명시적으로 프로그래밍할 수 있는 경량 오케스트레이션 레이어를 도입했다.AI · 머신러닝 · Dream-RSI: Recursive Self-Improvement through Evolving Worlds
AI 에이전트가 스스로 탐색 전략을 개선하는 'Dream-RSI' 프레임워크 제안
Key PointAI 에이전트가 복잡한 문제를 풀 때 탐색 정책을 동적으로 학습·개선하는 새로운 방식을 제시해, 기존의 고정 전략 또는 비싼 온라인 재학습의 한계를 극복한다.
핵심 요약
- 자율 AI 에이전트의 재귀적 자기개선을 위해 탐색 전략을 명시적으로 프로그래밍할 수 있는 경량 오케스트레이션 레이어를 도입했다.
- 과거 발견 이력을 시뮬레이터로 재구성해 리플레이 환경에서 저비용 오프폴리시 피드백을 얻음으로써, 비싼 온라인 평가를 반복할 필요를 줄였다.
- 개선된 탐색 정책을 온라인으로 재배포해 새로운 발견을 추진하고 시뮬레이터 풀을 확장하는 자기개선 루프를 구성했다.
- 알고리즘 엔지니어링, 수학 최적화, GPU 커널 엔지니어링 등 여러 분야에서 발견 품질을 유지하면서 탐색 비용을 대폭 감축했다.
AI · 머신러닝 · AI researchers debate how close we are to recursive self-improvement
AI 연구자들, 재귀적 자기개선까지 가는 길 논쟁
Key PointAI가 지수적으로 자기 자신을 개선할 수 있다는 시나리오가 과장된 것 아닌지, 실제 프론티어 연구자들이 어떤 장애물을 현실적으로 보고 있는지 알 수 있다.
핵심 요약
- OpenAI 공동창립자 존 슐만, Zyphra CTO 베렌 밀리지, Baseten 모델 훈련 담당자 찰리 오닐이 재귀적 자기개선(RSI)의 실현 가능성을 토론했다.
- 만약 2036년에 초지능이 세상을 근본적으로 바꾸지 못한다면, 가장 가능성 높은 기술적 이유는 메타러닝 일반화의 어려움과 연속학습(continual learning) 문제라고 논의했다.
- AI 모델이 벤치마크에서는 우수하지만 현실 환경으로의 적용(sim-to-real gap)에서 계속 막힐 수 있고, 이것이 성능 향상 사이클을 반복시킬 수 있다고 밀리지는 지적했다.
- 슐만은 현재 모델들이 일정 수준에서 병목 현상을 겪는다며, 새로운 모델이 나올 때마다 사람들이 'AGI가 왔다'고 생각하지만 한 달 후면 한계를 느낀다고 설명했다.
- 오닐은 현재의 트랜스포머 + 강화학습 조합이 '칩에 담을 수 있는 최적의 학습자'에서 얼마나 멀리 떨어져 있는지가 핵심이며, AI 연구자를 능가하는 에이전트가 나와도 병렬 처리 이점이 모든 병목을 극복할지 불확실하다고 말했다.
AI · 머신러닝 · Why does Opus 5 feel worse to work with?
Opus 5, 벤치마크 최적화의 대가
Key PointHacker News에서 고인기를 얻은 이유는 Claude 모델의 실용성 문제를 직접 경험한 개발자들의 공감을 샀기 때문입니다.
핵심 요약
- Opus 5는 이전 버전보다 성능이 우수하지만, 사용자들은 실제 작업에서 더 어렵다고 평가합니다.
- Opus 5는 명확하지 않은 의도에 대해 확인 요청을 하지 않고 가정을 바탕으로 행동하는 경향이 있습니다.
- 벤치마크 점수 최적화와 자기개선형 AI 개발 압박이 모호한 상황에서 대담한 결정을 내리도록 모델을 선택하게 만든 것으로 보입니다.