쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 10월 30일 (금)까지 3636건
14건 · "에이전트 평가"조건 지우기 ×
001 00:11 ▲ 206 · 댓글 157 구글 제미니 4 카본, AI 성능 평가 1위 등극 구글의 제미니 4 카본이 Artificial Analysis Intelligence Index v5에서 1위를 차지했으며, 코딩 에이전트 평가에서는 Claude Opus 5.5 다음인 2위다. AI · 머신러닝 · Gemini 4 Carbon is the new #1 on the Artificial Analysis Intelligence Index v5
Key Point 구글이 최신 AI 성능 평가에서 1위를 차지해 OpenAI, Anthropic과의 경쟁 지형이 어떻게 변하는지 보여주며, 가격 경쟁력까지 갖춘 모델이 나타났기 때문이다.
핵심 요약
구글의 제미니 4 카본이 Artificial Analysis Intelligence Index v5에서 1위를 차지했으며, 코딩 에이전트 평가에서는 Claude Opus 5.5 다음인 2위다. 제미니 4 카본은 Intelligence Index v5에서 59점을 기록했으며, HLE-Diamond, Terminal-Bench-Science, AA-Omniscience, AutomationBench-AA 등 9개 평가 중 4개에서 1위를 기록했다. 코딩 에이전트 평가에서 제미니 4 카본은 Claude Opus 5.5보다 3점 낮은 59점으로 2위를 차지했으며, Terminal-Bench 4.0에서 64%, FrontierCode v1.1에서 51%를 기록했다. 전체 요약 9문장 읽기 → 002 12:11 ▲ 20 · 댓글 2 모바일 AI 에이전트의 개인화 능력 평가 벤치마크 공개 사용자의 실제 요청은 종종 불완전하며, AI 에이전트가 올바르게 행동하려면 사용자의 활동 기록에서 누락된 정보를 추론하고 필요한 경우 사용자에게 물어봐야 한다. AI · 머신러닝 · iPrefBench: A User-Centric Benchmark for Personalized Mobile Use Agents
Key Point 현재 개발되는 모바일 AI 에이전트는 작업 실행은 잘하지만 사용자 개인정보를 바탕으로 정확히 행동하는 데는 크게 부족하며, 이 논문은 그 간격을 정량적으로 측정하는 첫 벤치마크를 제시한다.
핵심 요약
사용자의 실제 요청은 종종 불완전하며, AI 에이전트가 올바르게 행동하려면 사용자의 활동 기록에서 누락된 정보를 추론하고 필요한 경우 사용자에게 물어봐야 한다. iPrefBench는 iOS 환경에서 모바일 에이전트의 추론과 질문 능력을 평가하는 벤치마크로, 3,051개의 과거 활동 이벤트를 바탕으로 한 일관된 페르소나와 26개 앱에 걸친 130개의 불완전한 사용자 작업으로 구성되었다. 각 누락된 정보는 사용자 활동 기록에서 추론 가능하거나 사용자에게만 물어볼 수 있도록 설계되었다. 전체 요약 7문장 읽기 → 003 12:11 ▲ 60 · 댓글 2 이커머스 쇼핑 에이전트 평가 벤치마크 공개 Hugging Face 연구팀이 추천 에이전트 개발을 위한 새로운 벤치마크인 UserArena를 공개했다. AI · 머신러닝 · UserArena: Benchmarking Interactive User Simulation for Long-Horizon Shopping Agents
Key Point 추천 에이전트 개발을 위한 대규모 실제 데이터 벤치마크와 평가 방법론이 제시되어, 이커머스 AI 시스템의 개발과 검증 방식에 새로운 표준을 제시할 수 있다.
핵심 요약
Hugging Face 연구팀이 추천 에이전트 개발을 위한 새로운 벤치마크인 UserArena를 공개했다. 11,010명의 사용자로부터 수집한 64,729개의 세션 궤적(session trajectory)을 포함하며, 566,102개의 상품과 13가지 액션 타입을 다룬다. 이 벤치마크는 추천 에이전트가 장기간의 사용자 상호작용에서 쇼핑 목표를 달성하는 과정을 평가한다. 전체 요약 8문장 읽기 → 004 18:11 ▲ 25 · 댓글 2 비디오 기반 딥 리서치 벤치마크로 AI 에이전트 평가 딥 리서치 에이전트가 비디오를 기반으로 연구 질문을 찾아 외부 멀티모달 증거를 수집한 뒤 대화형 보고서를 생성하는 새로운 과제를 소개했다. AI · 머신러닝 · Beyond Watching and Searching: Benchmarking Agents for Video-centered Deep Research Reports
Key Point 비디오 기반 장문 리서치 생성의 첫 체계적 벤치마크로, 멀티모달 AI 에이전트의 평가 방법과 현재 한계를 명확히 보여준다.
핵심 요약
딥 리서치 에이전트가 비디오를 기반으로 연구 질문을 찾아 외부 멀티모달 증거를 수집한 뒤 대화형 보고서를 생성하는 새로운 과제를 소개했다. 비디오 기반 딥 리서치는 사용자가 관련 장면을 찾고, 주장을 검증하고, 시연된 절차를 재현하고, 비디오 콘텐츠에서 정보를 바탕으로 의사결정하는 데 직접적인 실용 가치가 있다. OmniDR-Bench 벤치마크를 제시하며 세 가지 차원과 23개의 공유 방향, 작업별 원자 이진 기준으로 구성된 Omni Atomic Rubric Trees(Omni-ARTs)를 평가 지표로 제안했다. 전체 요약 9문장 읽기 → 005 18:11 ▲ 116 · 댓글 3 결과로만 평가하면 놓치는 AI 에이전트의 실제 역량 LLM 에이전트를 평가할 때 최종 결과만으로는 그 역량을 제대로 파악할 수 없다는 문제를 제시한다. AI · 머신러닝 · LiveMACE: Process-Aware Evaluation of LLM Agent Capabilities in Evolving Markets
Key Point 최종 수익만 비교하면 AI 에이전트의 의사결정 역량 차이를 놓치는 문제를 실증적으로 밝혔으며, 실제 역량과 성과의 불일치를 가시화하는 진단 방식이 필요함을 보여준다.
핵심 요약
LLM 에이전트를 평가할 때 최종 결과만으로는 그 역량을 제대로 파악할 수 없다는 문제를 제시한다. LiveMACEBench라는 새로운 벤치마크를 제안하며, 실시간 금융 시장을 자연스럽게 변화하는 테스트 환경으로 삼아 지속적인 LLM 에이전트를 평가한다. GPT-4, Claude, Gemini 등 5개 최신 LLM이 Tool Use, Persistent Memory, Rule Following, Multi-Agent Collaboration 등 동일한 조건으로 30일간 실시간 평가를 받았다. 전체 요약 6문장 읽기 → 006 18:11 ▲ 154 · 댓글 2 모바일·PC 통합 GUI 에이전트 학습 플랫폼 MAI-Gym 공개 강화학습으로 수학, 코딩, 도구 사용에서 진전을 이뤘으나, GUI 에이전트는 상호작용 환경 구축 비용이 높고 학습 태스크가 부족해 확장이 어려웠다. AI · 머신러닝 · MAI-Gym: An Open All-in-One Platform for GUI Agent Evaluation and RL Training across Mobile and Computer Environments
Key Point 모의 앱에서 학습한 모델이 실제 기기에 직접 전이되는 결과는 GUI 에이전트 실용화의 큰 진전을 의미하며, 공개 플랫폼과 데이터셋은 이 분야의 반복 가능한 연구를 크게 가속화할 것으로 보인다.
핵심 요약
강화학습으로 수학, 코딩, 도구 사용에서 진전을 이뤘으나, GUI 에이전트는 상호작용 환경 구축 비용이 높고 학습 태스크가 부족해 확장이 어려웠다. Hugging Face가 모바일·PC·웹 환경에서 GUI 에이전트 평가와 온라인 강화학습 훈련을 통합하는 오픈소스 플랫폼 MAI-Gym을 공개했다. 통합 롤아웃 파이프라인으로 평가와 훈련 시 일관된 에이전트 동작을 보장하며, 10개 기존 벤치마크를 지원하고 2만 개 병렬 환경 인스턴스로 확장 가능하다. 전체 요약 7문장 읽기 → 007 00:11 ▲ 62 · 댓글 2 AI 코딩 봇, 기능은 되는데 보안은 취약 AI 코딩 에이전트가 작성한 코드의 보안성을 평가하기 위해 Last Secure Code Benchmark를 개발했다. AI · 머신러닝 · Last Secure Code Benchmark: Is the Code You Vibe Secure?
Key Point 생산 코드를 작성하는 AI 에이전트의 보안 수준을 실제 측정한 첫 대규모 평가로, 대부분의 AI 생성 코드가 기능적으로는 문제없지만 보안 취약점을 안고 있음을 보여줍니다.
핵심 요약
AI 코딩 에이전트가 작성한 코드의 보안성을 평가하기 위해 Last Secure Code Benchmark를 개발했다. Java, C, C++, JavaScript, Python, PHP, Go 등 7개 언어로 된 450개 작업을 포함하며, 150개의 실제 취약점을 기반으로 구성됐다. 벤치마크는 2025 CWE Top 25 중 21개, Top 10 KEV 약점 8개를 포함하고, 함수 작성·파일 작성·저장소 구축 등 3가지 시나리오를 다룬다. 전체 요약 7문장 읽기 → 008 15:11 ▲ 21 · 댓글 2 영상을 3D 장면으로 재구성하는 AI 에이전트 평가 벤치마크 공개 영화 제작을 위한 제어 가능한 영상 생성을 목표로, 동영상으로부터 편집 가능한 동적 3D 장면을 재구성하는 AI 에이전트의 능력을 평가하는 벤치마크 'CineRecon'을 소개했다. AI · 머신러닝 · CineRecon: Benchmarking Frontier Models for Agentic Cinematic Reconstruction
Key Point 영상 생성 및 3D 재구성 기술의 발전 상황을 정량적으로 측정하는 공식 벤치마크가 처음 제시되었으며, 주요 AI 모델들의 구체적인 한계를 보여줍니다.
핵심 요약
영화 제작을 위한 제어 가능한 영상 생성을 목표로, 동영상으로부터 편집 가능한 동적 3D 장면을 재구성하는 AI 에이전트의 능력을 평가하는 벤치마크 'CineRecon'을 소개했다. 벤치마크는 50개의 참조 영상과 360개의 주석이 달린 평가 클립으로 구성되며, 영화, 실제 영상, 게임 등 다양한 출처의 영상을 포함한다. 에이전트는 주어진 영상으로부터 도구를 사용해 3D 장면을 구성, 애니메이션, 렌더링, 개선하며, Proxy(기본), Simplified(간단), Detailed(상세) 세 가지 재현 수준으로 평가된다. 전체 요약 5문장 읽기 → 009 09:11 ▲ 12 · 댓글 3 코딩 에이전트 평가 기준이 현실 업무와 안 맞는 문제 JetBrains IDE의 실제 소프트웨어 엔지니어 4,782개 세션을 수집해 분석한 결과, 3개 이상의 사용자 메시지를 포함한 장기 세션(전체의 33%)은 이슈 기반 벤치마크 과제와 크게 다른 특징을 보인다. AI · 머신러닝 · Coding-Agent Benchmarks Should Match Their Users' Task Flows
Key Point 코딩 에이전트 벤치마크가 현실의 엔지니어 업무 흐름과 불일치하는 문제를 실데이터로 입증하고, 평가 기준을 개선하는 방법을 제시한다.
핵심 요약
JetBrains IDE의 실제 소프트웨어 엔지니어 4,782개 세션을 수집해 분석한 결과, 3개 이상의 사용자 메시지를 포함한 장기 세션(전체의 33%)은 이슈 기반 벤치마크 과제와 크게 다른 특징을 보인다. 실제 작업은 단일한 작업 유형보다는 코드 질문, 계획, 검토, 리팩토링, 실행 등 다양한 작업이 혼합되어 있으며, 사용자들이 작업 유형 간에 자주 전환한다. 세 개의 공개 상호작용 코퍼스에서 추출한 장기 세션들이 서로 다른 Task Flow(세션 길이, 작업 유형, 유형 간 전환 패턴의 분포)를 보이므로, 단일한 상호작용 분포로는 현실성을 보장할 수 없다. 전체 요약 8문장 읽기 → 010 18:30 ▲ 19 · 댓글 2 RAG 에이전트 평가 예산을 어떻게 배분할까 생성형 AI 모델이 정보를 찾아 답변하는 RAG 에이전트의 평가 비용을 효율적으로 배분하는 문제를 다룬 논문이다. AI · 머신러닝 · Agentic RAG Evaluation: Budget Allocation Across Questions, Trajectories, and Reads
Key Point RAG 시스템 평가에 투입할 제한된 예산을 질문, 탐색 경로, 반복 읽기 중 어디에 쓸지 결정하는 실증적 기준을 제시하므로, 대규모 언어모델 평가를 설계하는 연구자들이 의사결정할 때 직접 참고할 수 있다.
핵심 요약
생성형 AI 모델이 정보를 찾아 답변하는 RAG 에이전트의 평가 비용을 효율적으로 배분하는 문제를 다룬 논문이다. HotpotQA와 MuSiQue 데이터셋에서 회수 피드백 비교를 통해 3.4천만 토큰 예산에서 질문 커버리지를 넓히는 것이 다섯 번 반복 읽기보다 표준 오차를 33% 낮추고, 세 가지 탐색 경로보다 12.6% 낮춘다는 것을 측정했다. 저장된 예측 모델이 최적 배분을 4.0%(중첩 경로) 및 3.5%(질문만 사용) 범위 내에서 예측할 수 있음을 보였다. 전체 요약 6문장 읽기 → 011 18:30 ▲ 32 · 댓글 2 반복 자기 증류 중 성능 붕괴 막는 ReSAIL 논문 발표 LLM 에이전트의 반복 자기 증류를 통한 재귀적 자기 개선은 순환이 거듭날수록 배포 성능과 특권 정보(PI) 조건부 성능이 붕괴되는 문제가 있다. AI · 머신러닝 · ReSAIL: Mitigating Collapse in Iterative Agent Self-Distillation
Key Point LLM 에이전트의 지속적인 자기 개선이 현실적으로 작동하려면 반복 순환 간 성능 저하를 반드시 해결해야 하는데, ReSAIL이 이를 첫 번째로 효과적으로 해결한 접근 방식을 제시하기 때문이다.
핵심 요약
LLM 에이전트의 반복 자기 증류를 통한 재귀적 자기 개선은 순환이 거듭날수록 배포 성능과 특권 정보(PI) 조건부 성능이 붕괴되는 문제가 있다. ReSAIL(Retentive and Selective Augmentation for Iterative Self-Distillation)은 이 붕괴를 해결하기 위해 특권 정보가 교사 모델의 예측을 크게 변화시키는 상호작용 단계를 선별하는 플러그인 증강 기법이다. 선별된 단계와 미선별 단계 모두에서 학생 모델의 PI 조건부 출력 분포를 고정 교사 모델로 정규화하여 다음 순환에서 감독용 PI 조건부 행동을 보존한다. 전체 요약 6문장 읽기 → 012 18:33 ▲ 11 · 댓글 1 거래 알고리즘 코드 생성에 특화한 언어모델 'QuantCode' 개발 대규모 언어모델이 일반 코드 생성에는 강하지만, 자동거래 알고리즘 코드 생성은 자연어 전략을 실행 가능한 프로그램으로 정확히 변환하고 과거 데이터에서 실행해 거래를 만들어내는 고도의 전문화가 필요하다. AI · 머신러닝 · QuantCode Model: Specializing Language Models for Executable Algorithmic Trading Code
Key Point 자동거래 코드 생성이라는 전문 영역에서 언어모델을 효과적으로 적응시키는 방법과 이 과정의 실제 제약을 실증적으로 보여주며, 도메인 전문화와 일반 능력 유지 사이의 트레이드오프 문제를 구체적으로 드러낸다.
핵심 요약
대규모 언어모델이 일반 코드 생성에는 강하지만, 자동거래 알고리즘 코드 생성은 자연어 전략을 실행 가능한 프로그램으로 정확히 변환하고 과거 데이터에서 실행해 거래를 만들어내는 고도의 전문화가 필요하다. 연구팀은 거래 프레임워크 코드로 계속 학습(continued pretraining)과 검증된 요청-코드 쌍으로 감독 학습(SFT)이라는 두 가지 메커니즘을 통해 언어모델을 특화시켰다. Backtrader 전략 생성을 위한 400개 과제 벤치마크(QuantCode-Bench)와 저장소 수준의 SWE-벤치 트랙으로 평가했다. 전체 요약 9문장 읽기 → 013 06:11 ▲ 14 · 댓글 2 소프트웨어 개발을 돕는 AI 에이전트의 새 평가 벤치마크 소프트웨어 개발은 코드 편집을 넘어 소프트웨어 실행, 인터페이스 조작, 시각적 검사, 관찰 기반 판단까지 포함하지만 기존 코딩 에이전트들은 이 통합 개발 과정을 제대로 다루지 못하고 있다. AI · 머신러닝 · CUA-SWE: When Computer-Use Agents Meet Visual Software Engineering
Key Point GUI 상호작용과 시각적 피드백을 함께 처리해야 하는 현실의 소프트웨어 개발 방식을 반영한 AI 에이전트 평가 체계가 처음 제시되어, 실무 수준의 자동화 개발 도구 발전에 기준점이 될 수 있다.
핵심 요약
소프트웨어 개발은 코드 편집을 넘어 소프트웨어 실행, 인터페이스 조작, 시각적 검사, 관찰 기반 판단까지 포함하지만 기존 코딩 에이전트들은 이 통합 개발 과정을 제대로 다루지 못하고 있다. 런타임 오류를 진단하려면 에이전트가 시각적 관찰과 코드를 연결한 후 응용 프로그램을 다시 실행해 수정사항을 검증해야 한다. CUA-SWE는 컴퓨터 사용 능력을 갖춘 AI 에이전트가 소프트웨어 엔지니어링 작업을 완수하는 방식을 평가하는 벤치마크, 환경, 평가 파이프라인이다. 전체 요약 8문장 읽기 → 014 21:11 ▲ 112 · 댓글 2 코드 에이전트 강화학습에서 품질 기반 보상 재분배하는 GAGAR 제안 기존 코드 에이전트 강화학습은 실행 가능한 테스트로 이진 보상을 제공하는데, Group Relative Policy Optimization(GRPO)은 테스트를 통과한 모든 궤적에 동일한 이득을 할당하여 구현 품질의 차이를 무시하는 문제가 있다. AI · 머신러닝 · Groupwise Agentic Grading and Advantage Redistribution for Code Agent RL
Key Point 테스트 통과 여부만 판단하던 기존 강화학습에서 구현 품질 차이를 감지하는 에이전트를 추가하면 코드 생성 모델의 학습 신호가 더 정교해진다.
핵심 요약
기존 코드 에이전트 강화학습은 실행 가능한 테스트로 이진 보상을 제공하는데, Group Relative Policy Optimization(GRPO)은 테스트를 통과한 모든 궤적에 동일한 이득을 할당하여 구현 품질의 차이를 무시하는 문제가 있다. 이를 보완하기 위해 GAGAR 프레임워크를 제안하는데, 통과 및 실패 궤적을 모두 포함하는 그룹만 선별하여 동적 샘플링한다. 각 그룹의 모든 궤적을 공유 작업공간에 놓고, SFT 학습된 에이전트 평가자가 이들을 함께 검사하여 테스트 통과 후보들을 순위 매긴다. 전체 요약 7문장 읽기 →