쌓인 기록에서 찾기
무엇을 찾으세요? 날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위 2026년 8월 13일 (목) 부터 2026년 11월 5일 (목)까지 3977건
18건 · "OSWorld"조건 지우기 ×
001 00:11 ▲ 11 · 댓글 1 4B 모델로 컴퓨터 조작 에이전트 SOTA 달성 Mage-VL-Cowork는 GUI 상호작용과 코드·터미널 실행을 하나의 정책으로 통합하는 4B 파라미터 하이브리드 컴퓨터 사용 에이전트(CUA)다. AI · 머신러닝 · Mage-VL-Cowork: A Full Training Recipe to Learn Hybrid Computer Use From Evolved Harnesses
Key Point 파라미터 수가 작으면서도 복잡한 컴퓨터 조작 작업을 수행할 수 있는 에이전트 개발 방법이 제시되어, 온디바이스 AI 활용과 효율적인 에이전트 학습의 새로운 가능성을 보여준다.
핵심 요약
Mage-VL-Cowork는 GUI 상호작용과 코드·터미널 실행을 하나의 정책으로 통합하는 4B 파라미터 하이브리드 컴퓨터 사용 에이전트(CUA)다. 일반적인 멀티모달 정렬 체크포인트에서 출발해 미드트레이닝·감독학습·강화학습을 포함한 5단계 점진적 교육 과정을 거친다. Mage-CUA-Forge는 작업별 에이전트 구성을 재사용 가능한 스킬 조건부 생성 워크플로우로 대체하여 293,806개의 데스크톱·웹 작업을 6,915개 스킬로 합성한다. 전체 요약 7문장 읽기 → 002 18:11 ▲ 97 · 댓글 1 컴퓨터 제어 AI, 쌍중 개선 루프로 성능 대폭 향상 컴퓨터 사용 에이전트(CUA) 개발의 병목은 학습 데이터의 다양성·제어성·신뢰성 부족과 자체 경험에만 의존한 개선 방식의 한계였다. AI · 머신러닝 · CUA-Master: Scaling Computer-use Agents through Open-World Recursive Improvements
Key Point 컴퓨터 조작 AI가 현실 데이터의 다양성 부족을 극복하고 여러 벤치에서 경쟁력 있는 성능을 달성한 방법론이 공개됐다.
핵심 요약
컴퓨터 사용 에이전트(CUA) 개발의 병목은 학습 데이터의 다양성·제어성·신뢰성 부족과 자체 경험에만 의존한 개선 방식의 한계였다. CUA-Master는 두 겹의 재귀 개선 루프로 문제를 해결한다: 바깥쪽은 개방형 데이터와 모델의 약점을 피드백하는 '세계-데이터-모델' 사이클, 안쪽은 시드 작업 채굴과 자가촉매 전파로 다양한 학습 데이터를 생성한다. 시스템은 교육 영상에서 실제 작업 흐름을 추출한 뒤, 시각-의미론 이중경로 궤적 재구성으로 변환하고, 이를 재사용 가능한 기본 단위로 만들어 제어 가능한 합성 작업을 생성한다. 전체 요약 6문장 읽기 → 003 18:11 ▲ 22 · 댓글 2 AI 에이전트가 자신의 인터페이스를 진화시킨다 기존 컴퓨터 사용 에이전트는 인간이 정해준 고정된 인터페이스로만 작동하는데, 메모리셀 단위 입력처럼 비효율적인 작업을 반복하거나 파일 전체를 출력하는 등의 한계를 가지고 있다. AI · 머신러닝 · Evolving Agent Interfaces
Key Point AI 에이전트가 직접 자신의 작업 인터페이스를 설계·최적화하면서 더 작은 모델로 기존의 고사양 모델을 능가하는 성과를 낸 것으로, 컴퓨터 사용 에이전트의 성능 향상 경로가 근본적으로 바뀔 수 있음을 보여준다.
핵심 요약
기존 컴퓨터 사용 에이전트는 인간이 정해준 고정된 인터페이스로만 작동하는데, 메모리셀 단위 입력처럼 비효율적인 작업을 반복하거나 파일 전체를 출력하는 등의 한계를 가지고 있다. 연구팀은 인터페이스 설계 자체를 에이전트의 능력으로 만들어야 한다고 주장하며 Agent S4를 제안했다. Agent S4는 메타 에이전트가 합성 훈련 작업에서 태스크 에이전트의 궤적을 분석하고, 성공 라벨 없이 인터페이스와 사용 지식을 자동으로 구축·수정하는 인터페이스 저장소를 관리한다. 전체 요약 8문장 읽기 → 004 06:11 ▲ 279 · 댓글 111 MiniMax M3.1 Flash 출시, 70% 가격 인하하고 추론 속도 3배 빨려 MiniMax가 차세대 경량 모델 M3.1 Flash를 공식 출시했으며, 기존 모델 대비 온라인 추론 속도가 3배 빨라지고 비용이 70% 절감됐다. AI · 머신러닝 · MiniMax M3.1 Flash
Key Point 에이전트 작업의 비용을 크게 낮추면서 최상위 모델 수준의 성능을 제공하는 모델이 나왔으니, 자동화 솔루션과 개발 업무에 LLM을 활용하는 기업들에게 실질적인 선택지가 생겼다는 뜻이다.
핵심 요약
MiniMax가 차세대 경량 모델 M3.1 Flash를 공식 출시했으며, 기존 모델 대비 온라인 추론 속도가 3배 빨라지고 비용이 70% 절감됐다. 자동화 업무·코딩·컴퓨터 사용·사이버보안 분야에서 상위 모델 수준의 성능을 보이며, AutomationBench-AA에서 우수한 순위를 기록하고 판매·마케팅·운영·고객서비스·재무·HR 등 기업 워크플로우를 자동화한다. DeepSWE v1.1에서 73.7% 점수로 코딩 업무에 강하며, 다단계 계획·문서 일관성 유지·금융 규정 준수 같은 복잡한 실무 과제를 처리한다. 전체 요약 10문장 읽기 → 005 12:11 ▲ 101 · 댓글 3 장기 작업 AI, 히스토리 대신 객체로 문맥 정리 장기 작업을 수행하는 AI 에이전트는 누적된 진전을 기록하는 긴 상호작용 히스토리를 반복해서 처리해야 한다는 문제가 있다. AI · 머신러닝 · Pack Light, CarryOn: Building Object-Oriented Context for Long-Horizon Agents
Key Point 컨텍스트 윈도우 제약이 있는 LLM 기반 에이전트에서 긴 작업 수행 시 토큰 사용량을 절반 이상 줄이면서 오히려 성능을 높이는 새로운 접근법이다.
핵심 요약
장기 작업을 수행하는 AI 에이전트는 누적된 진전을 기록하는 긴 상호작용 히스토리를 반복해서 처리해야 한다는 문제가 있다. CarryOn은 히스토리 대신 재사용 가능한 작업 객체를 중심으로 문맥을 조직하는 객체 지향 문맥 런타임이다. 기존 방식의 압축된 히스토리나 재구성된 진전 기록 대신, 재사용 가능한 작업 객체, 보완 실행 문맥, 최근 상호작용 로그로 문맥을 구성한다. 전체 요약 5문장 읽기 → 006 18:11 ▲ 316 · 댓글 4 컴퓨터 자동 조작 AI의 완전 오픈소스 스택 공개 컴퓨터 자동 조작 시스템이 GUI 상호작용에서 비주얼·프로그래밍 인터페이스를 모두 다루는 단계로 진화하고 있는데, GPT-4o Astra 같은 최신 구현들이 폐쇄적이어서 체계적 연구가 제한되고 있다. AI · 머신러닝 · OpenGCUA: Toward a Fully Open Stack for Generalist Computer Use
Key Point 컴퓨터 자동 조작 AI 연구가 막혀 있던 폐쇄형 구현에서 벗어나 완전 오픈스택으로 전환되면서, 누구나 최신 모델의 설계를 따라하고 개선할 수 있는 기반이 마련되었다.
핵심 요약
컴퓨터 자동 조작 시스템이 GUI 상호작용에서 비주얼·프로그래밍 인터페이스를 모두 다루는 단계로 진화하고 있는데, GPT-4o Astra 같은 최신 구현들이 폐쇄적이어서 체계적 연구가 제한되고 있다. OpenGCUA는 이런 문제를 해결하기 위해 제너럴 컴퓨터 사용 에이전트(GCUA)의 전체 스택을 오픈소스로 공개하는 프로젝트다. 에이전트 설계의 핵심은 코드 실행 기능으로, 중간 결과가 다음 동작을 결정하게 하고 모델이 기존 프로그래밍 능력을 컴퓨터 상호작용에 직접 적용할 수 있다. 전체 요약 8문장 읽기 → 007 18:11 ▲ 154 · 댓글 2 모바일·PC 통합 GUI 에이전트 학습 플랫폼 MAI-Gym 공개 강화학습으로 수학, 코딩, 도구 사용에서 진전을 이뤘으나, GUI 에이전트는 상호작용 환경 구축 비용이 높고 학습 태스크가 부족해 확장이 어려웠다. AI · 머신러닝 · MAI-Gym: An Open All-in-One Platform for GUI Agent Evaluation and RL Training across Mobile and Computer Environments
Key Point 모의 앱에서 학습한 모델이 실제 기기에 직접 전이되는 결과는 GUI 에이전트 실용화의 큰 진전을 의미하며, 공개 플랫폼과 데이터셋은 이 분야의 반복 가능한 연구를 크게 가속화할 것으로 보인다.
핵심 요약
강화학습으로 수학, 코딩, 도구 사용에서 진전을 이뤘으나, GUI 에이전트는 상호작용 환경 구축 비용이 높고 학습 태스크가 부족해 확장이 어려웠다. Hugging Face가 모바일·PC·웹 환경에서 GUI 에이전트 평가와 온라인 강화학습 훈련을 통합하는 오픈소스 플랫폼 MAI-Gym을 공개했다. 통합 롤아웃 파이프라인으로 평가와 훈련 시 일관된 에이전트 동작을 보장하며, 10개 기존 벤치마크를 지원하고 2만 개 병렬 환경 인스턴스로 확장 가능하다. 전체 요약 7문장 읽기 → 008 03:12 ▲ 12 · 댓글 1 GUI 인식 성능 대폭 개선한 GroundGUI 공개 GUI 화면의 자연어 지시를 정확히 화면상 요소로 매핑하는 멀티모달 비전 접지(visual grounding) 기술의 발전을 위해 ScreenRef 데이터셋을 제시했다. AI · 머신러닝 · GroundGUI: GUI Grounding by High-Quality Data and Distillation-to-Reinforcement Learning
Key Point 자동화된 GUI 에이전트 개발의 핵심 과제인 화면 요소 인식 성능이 8B급 모델 범위에서 기존 오픈소스 접근법을 처음으로 능가했기 때문이다.
핵심 요약
GUI 화면의 자연어 지시를 정확히 화면상 요소로 매핑하는 멀티모달 비전 접지(visual grounding) 기술의 발전을 위해 ScreenRef 데이터셋을 제시했다. ScreenRef는 데스크톱, 웹, 모바일을 아우르는 586K개 GUI 스크린샷과 633K개 이상의 자연어 표현 인스턴스로 구성되며, 텍스트 인식·시각적 매칭·공간 이해·거부 시나리오 등을 포함한다. 감독학습 파인튜닝의 제한된 일반화와 강화학습의 희소 보상 문제를 해결하기 위해 Distillation-to-Reinforcement Learning(D2RL) 방법을 개발했다. 전체 요약 7문장 읽기 → 009 18:12 ▲ 92 · 댓글 2 AI 에이전트 학습용 소프트웨어 환경 자동 생성 기술 Computer-use agent(CUA)는 발전 중이지만 다양하고 신뢰할 수 있는 소프트웨어 환경을 대규모로 합성하는 것이 어려운 상황이다. AI · 머신러닝 · SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments
Key Point 자동 생성된 소프트웨어 환경으로 학습한 AI 에이전트가 기존 벤치마크에서 대폭 성능을 향상시켜, CUA 개발의 데이터 부족 문제에 새로운 해결책을 제시한다.
핵심 요약
Computer-use agent(CUA)는 발전 중이지만 다양하고 신뢰할 수 있는 소프트웨어 환경을 대규모로 합성하는 것이 어려운 상황이다. 기존 네이티브 애플리케이션 환경은 구축과 통합에 많은 노력이 필요해 범용성이 낮고 오버피팅 위험이 있으며, 브라우저 기반 환경은 상호작용 깊이와 워크플로우 복잡성이 제한적이다. SoftwareGym은 다양한 인터페이스, 실행 가능한 기능, 런타임 검증된 동작을 갖춘 GUI 소프트웨어 환경을 자동으로 합성하는 파이프라인이다. 전체 요약 8문장 읽기 → 010 18:12 ▲ 44 · 댓글 2 인간의 GUI 경험에서 재사용 가능한 에이전트 스킬을 자동 추출 컴퓨터 사용 에이전트는 복잡한 GUI 작업을 수행할 수 있지만 인간의 도메인 지식이 필요한 낯선 소프트웨어와 워크플로우는 여전히 어려운 과제다. AI · 머신러닝 · Work2Skill: Capturing Human GUI Experience for Reusable Agent Skill Induction
Key Point 복잡한 GUI 작업을 수행하는 AI 에이전트가 인간의 실제 워크플로우 지식을 자동으로 학습하고 재사용할 수 있는 새로운 방법론이며, 멀티모달 데이터셋도 함께 공개돼 향후 에이전트 연구의 기반을 제공한다.
핵심 요약
컴퓨터 사용 에이전트는 복잡한 GUI 작업을 수행할 수 있지만 인간의 도메인 지식이 필요한 낯선 소프트웨어와 워크플로우는 여전히 어려운 과제다. Work2Skill은 인간의 GUI 경험을 캡처하여 재사용 가능한 에이전트 스킬을 자동으로 유도하는 프레임워크를 제시한다. WorkRecorder는 화면 녹화, 마우스·키보드 이벤트, 접근성 트리 정보를 정렬하여 인간의 경험을 수집하는 인프라를 제공한다. 전체 요약 7문장 읽기 → 011 18:30 ▲ 11 · 댓글 2 GUI 에이전트가 스스로 개선되는 프레임워크 등장 GUI 모델을 감싸는 실행 환경(harness)을 자동으로 최적화하는 GUI-HARVEST를 제안한다. AI · 머신러닝 · GUI-HARVEST: Self-Improving GUI Agents through Evidence-Driven Harness Evolution
Key Point GUI 기반 에이전트의 성능을 모델 재학습 없이 실행 환경 최적화만으로 끌어올리는 방법이 등장했으며, 폐쇄형 모델도 개선 가능해진다.
핵심 요약
GUI 모델을 감싸는 실행 환경(harness)을 자동으로 최적화하는 GUI-HARVEST를 제안한다. 모델의 의도를 시각적 결과와 정렬하고, 스크린샷 변화로 동작 효과를 진단하며, 실행 변동성을 고려한 반복 실행 비교를 통해 신뢰성을 높인다. 여러 작업에서 확인된 반복 실패 패턴을 식별하고, 이를 소스코드 수정으로 변환한 뒤 반복 실행으로 검증한다. 전체 요약 6문장 읽기 → 012 18:30 ▲ 872 · 댓글 418 Anthropic, 저비용 소형 모델 Claude Haiku 5.5 공개 Anthropic이 Claude Haiku 5.5를 발표했으며, 이는 지금까지 출시한 소형 모델 중 가장 저렴하고 빠르며 성능이 우수한 버전이다. AI · 머신러닝 · Claude Haiku 5.5
Key Point 소형 모델이 대폭 저렴해지면서 이전에는 비용상 불가능했던 요약, 분류, 에이전트 작업이 대규모로 가능해진다.
핵심 요약
Anthropic이 Claude Haiku 5.5를 발표했으며, 이는 지금까지 출시한 소형 모델 중 가장 저렴하고 빠르며 성능이 우수한 버전이다. Haiku 5.5는 요약·데이터 압축·데이터베이스 쿼리·분류 등 반복적인 고용량 작업을 위해 설계되었으며, Opus 5.5 및 Sonnet 5.5와 함께 하위 에이전트로도 사용 가능하다. Haiku 4.5 대비 평균 75% 저렴하며, 특히 10만 토큰 이하 요청(전체 요청의 90%)에 대해 90% 저렴해졌다. 전체 요약 13문장 읽기 → 013 18:33 ▲ 11 · 댓글 2 데스크톱 환경 기반 대규모 AI 에이전트 학습 데이터셋 DeskForge 공개 컴퓨터 제어 AI 에이전트가 복잡한 데스크톱 화면에서 정확히 액션 타겟을 찾도록 학습하는 것이 주 과제인데, 기존 학습 데이터는 밀집된 주석이나 다양한 시나리오가 부족하다. AI · 머신러닝 · DeskForge: Dense Supervision from Desktop Environments for Computer-Use Agents
Key Point 컴퓨터 화면에서 정확히 동작하는 AI 에이전트를 만들려는 개발자들이 활용할 수 있는 대규모 고품질 학습 데이터셋이 공개되었으며, 기존 모델들의 성능을 10%대 향상시키는 데 직접 기여하고 있다.
핵심 요약
컴퓨터 제어 AI 에이전트가 복잡한 데스크톱 화면에서 정확히 액션 타겟을 찾도록 학습하는 것이 주 과제인데, 기존 학습 데이터는 밀집된 주석이나 다양한 시나리오가 부족하다. DeskForge는 실제 애플리케이션들을 조합·제어하면서 자동으로 대규모 감독 신호를 생성하는 데스크톱 환경이며, 앱 상태·콘텐츠·창 배치·외관·해상도를 변화시키고 스크린샷과 접근성 트리·창 기하 정보를 융합해 밀집 요소 주석을 만든다. 이를 통해 DeskForge-1M이라는 1.2M 주석 데스크톱 관찰과 159.7M 요소 인스턴스로 이루어진 데이터셋을 구축했다. 전체 요약 7문장 읽기 → 014 18:35 ▲ 22 · 댓글 2 컴퓨터 제어 AI, 최종 결과만 아니라 '과정'으로 평가한다 기존 OSWorld는 컴퓨터 제어 에이전트(CUA)가 생성한 최종 결과만 평가하는 방식으로, 어느 단계에서 어떤 방식으로 실패했는지 파악하기 어려웠다. AI · 머신러닝 · OSWorld-Pro: Process-based Evaluation for Computer Use Agents
Key Point 컴퓨터 제어 AI의 성능을 정확히 측정하려면 최종 결과뿐 아니라 각 단계의 실패 원인을 파악해야 하는데, 이 벤치마크가 그 해법을 제시한다.
핵심 요약
기존 OSWorld는 컴퓨터 제어 에이전트(CUA)가 생성한 최종 결과만 평가하는 방식으로, 어느 단계에서 어떤 방식으로 실패했는지 파악하기 어려웠다. 새로운 평가 벤치마크 OSWorld-Pro는 300개 이상의 작업에 포함된 2800개 이상의 세부 목표(서브골)를 설정하고, 6만 7000건 이상의 인간 주석을 수집했다. LLM 판사를 활용해 각 서브골의 완료 여부를 평가함으로써 에이전트가 순차적으로 연결된 목표들을 단계별로 어떻게 수행하는지 추적한다. 전체 요약 5문장 읽기 → 015 12:11 ▲ 54 · 댓글 2 이미지 생성 AI로 GUI 상호작용 데이터 합성 GUI 에이전트 학습에는 소프트웨어 환경과의 상호작용 궤적이 필요하지만, 실제 앱을 설치·운영하면서 수집하는 방식은 비용이 많이 든다. AI · 머신러닝 · AutoGUIWorld: Image Generators as Visual World Models for GUI Agent
Key Point GUI 에이전트 학습 비용을 획기적으로 줄일 수 있는 데이터 합성 방법이 실제 환경에서 성능 향상을 입증했기 때문이다.
핵심 요약
GUI 에이전트 학습에는 소프트웨어 환경과의 상호작용 궤적이 필요하지만, 실제 앱을 설치·운영하면서 수집하는 방식은 비용이 많이 든다. AutoGUIWorld는 이미지 생성 모델과 작업 계획기를 결합해 실제 환경을 배포하지 않고도 GUI 상호작용 데이터를 자동으로 생성하는 프레임워크다. 초기 GUI 화면을 운영체제 컨텍스트·시각적 모양·인터페이스 상태로 정의한 후, 조건부 작업을 생성한다. 전체 요약 7문장 읽기 → 016 03:11 ▲ 28 · 댓글 1 AI가 과학 소프트웨어를 다루다: 146개 과제로 평가하는 벤치마크 과학 소프트웨어는 분자 구조 조작, 이미지 분석 등 전문적인 인터페이스와 검증 가능한 결과물 생성을 요구하는 만큼 AI 에이전트에게 도전적인 환경이다. AI · 머신러닝 · OSWorld-Science: A Benchmark of Computer Use Agents for Learning and Using Scientific Software
Key Point 과학 도메인에서 AI의 실제 능력을 측정할 수 있는 첫 대규모 벤치마크로, 분자 설계·데이터 분석 등 연구 워크플로우 자동화의 가능성을 객관적으로 평가할 수 있게 한다.
핵심 요약
과학 소프트웨어는 분자 구조 조작, 이미지 분석 등 전문적인 인터페이스와 검증 가능한 결과물 생성을 요구하는 만큼 AI 에이전트에게 도전적인 환경이다. Hugging Face와 연구팀이 OSWorld-Science 벤치마크를 공개했으며, 여러 과학 분야의 소프트웨어 환경에서 12개의 비전 언어모델(VLM)을 146개의 고품질 작업으로 평가한다. 분자 그리기·역합성, 병리 이미지 분석, 통계 계산, 물리 시뮬레이션 등 실제 연구 워크플로우를 다루며, 전문가 제안과 인간-AI 협력설계를 통해 과제를 개발했다. 전체 요약 7문장 읽기 → 017 15:11 ▲ 28 · 댓글 2 컴퓨터 작업 에이전트, GUI와 CLI 결합으로 성능 대폭 향상 기존 컴퓨터 사용 에이전트(CUA)는 GUI에만 의존하거나 특정 애플리케이션 API로 보완하는데, 전자는 비효율적이고 오류가 많고 후자는 확장성이 낮다. AI · 머신러닝 · HybridCUA: Learning to Orchestrate GUI and CLI for Computer-Use Agents
Key Point GUI와 CLI를 선택적으로 조합하는 기법으로 컴퓨터 작업 에이전트의 성능이 14.8포인트 개선되어, 더 효율적이고 일반화된 자동화 도구 개발의 새로운 방향을 제시한다.
핵심 요약
기존 컴퓨터 사용 에이전트(CUA)는 GUI에만 의존하거나 특정 애플리케이션 API로 보완하는데, 전자는 비효율적이고 오류가 많고 후자는 확장성이 낮다. 연구팀은 GUI의 일반성과 셸 명령어의 효율성을 결합한 하이브리드 접근 방식을 제시했다. 핵심 문제는 현재 모델들이 작업 실행 중 CLI를 언제·어떻게 사용할지 모른다는 점이다. 전체 요약 8문장 읽기 → 018 16:18 ▲ 29 · 댓글 1 디지털 환경 통합 제어하는 AI 에이전트 MintAct 공개 Hugging Face가 모바일·데스크톱·웹 환경을 통합으로 제어하는 비전-언어 모델 MintAct를 발표했다. AI · 머신러닝 · MintAct: A Unified Visual Agent for Digital Environments
Key Point 다양한 디지털 환경을 하나의 모델로 제어할 수 있는 AI 에이전트 기술이 실무 수준의 성능에 도달했기에 자동화 애플리케이션 개발에 영향을 미칠 수 있다.
핵심 요약
Hugging Face가 모바일·데스크톱·웹 환경을 통합으로 제어하는 비전-언어 모델 MintAct를 발표했다. 2B부터 8B 규모로 학습된 MintAct는 UI 인식, 다단계 네비게이션, 시각 도구 사용을 한 모델에서 수행한다. 수백 개의 동시 환경 인스턴스와 비동기 강화학습 프레임워크로 도메인 간 학습을 효율화했다. 전체 요약 4문장 읽기 →