쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 11월 4일 (수)까지3898건
4건 · "인간 감시"조건 지우기 ×
001▲ 15 · 댓글 1사용자를 대신하는 AI 에이전트, 개인 목표를 얼마나 잘 이루는가개인 AI 에이전트가 장기 작업을 처리할 수 있어지고 있으나, 사용자는 여전히 목표 설정·애매함 해결·결과 검증에 상당한 노력을 들여야 한다.AI · 머신러닝 · Avatar Intelligence: Amplifying Human Agency Through Persistent Personal Agents
Key Point개인용 AI 에이전트의 자율성을 높이되 사용자 통제를 유지하려면 무엇이 필요한지, 기존 접근과 달라지는 평가 관점이 무엇인지 보여준다.
핵심 요약
- 개인 AI 에이전트가 장기 작업을 처리할 수 있어지고 있으나, 사용자는 여전히 목표 설정·애매함 해결·결과 검증에 상당한 노력을 들여야 한다.
- 아바타 인텔리전스(Avatar Intelligence) 패러다임을 제안한다: 사용자의 목표·가치·제약을 여러 상황과 시간에 걸쳐 지속적으로 대리 결정하는 개인화된 영구적 에이전트다.
- 성숙도 로드맵은 인간 지시 실행에서 위임된 도메인 내 자율 운영으로 진행되며, 에이전트 운영 비용과 인간 감시 부담 대비 전달된 가치를 평가하는 에이전틱 오버사이트 지수(AOI)를 제시한다.
전체 요약 5문장 읽기 →AI · 머신러닝 · Google staff resign in backlash over its AI contracts with military
Key Point구글 같은 대형 기술 기업들이 군사용 AI 배포를 추진하면서 직원들의 윤리적 우려와 AI 전투 사용의 준비 부족 문제가 충돌하고 있으며, 이는 AI 거버넌스와 책임 체계에 대한 근본적인 의문을 제기한다.
핵심 요약
- 구글 DeepMind의 여러 직원들이 군사용 AI 배포에 반발하며 퇴사하고 있다.
- 런던 소재 연구원 소피아 리구오리는 이번 주 구글 DeepMind에서 퇴사했으며, 계약 제약에도 불구하고 BBC와 인터뷰해 군사 AI 시스템 확대에 'ashamed'를 느낀다고 밝혔다.
- 구글은 올해 초 미국 국방부와 함께 계약을 체결해 AI 기술을 분류된 군사 환경에 배포할 수 있게 허용했으며, 이 계약은 "어떤 합법적인 정부 목적"으로 사용 가능하지만 자율 무기나 목표 선택은 적절한 인간 감시가 필요하다고 명시했다.
전체 요약 12문장 읽기 →AI · 머신러닝 · Recursive self-improvement through collective intelligence
Key Point인간 감시자도 평가 불가능한 최첨단 과제에서 AI가 홀로 자신을 개선할 수밖에 없는 상황에서, 집단 지능을 통한 자기 감시 메커니즘이 작동하는지 보여주며, 동시에 그 방식의 안전 위험을 드러내는 연구다.
핵심 요약
- Sakana AI 연구팀이 다중 에이전트 시스템의 집단 지능을 통해 AI 모델이 스스로를 개선하는 MASS(Multi-Agent Self-Supervision) 기법을 제안했다.
- MASS는 같은 모델이 작업 수행자, 워크플로우 최적화자, 평가자 세 역할을 모두 하는 동형 재귀적 자기 개선(RSI) 방식이다.
- 내부 루프에서 모델이 다중 에이전트 팀의 업무 분담 방식을 최적화하고, 외부 루프에서 최적화된 워크플로우 실행으로부터 배운다.
전체 요약 12문장 읽기 →AI · 머신러닝 · What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents
Key PointAI 에이전트가 장시간 독립적으로 작업할 때 사용자가 무엇을 해야 하는지 알 수 없는 문제를 해결하는 기술이 등장했기 때문입니다.
핵심 요약
- 에이전트가 장시간 작업을 수행할 때 사용자는 개별 의사결정에서 자율 실행 감시로 전환하는데, 방대한 에이전트 활동과 증거의 분산으로 인해 검증이 필요한 결정을 파악하기 어렵다.
- 연구팀은 중요한 결정을 식별하고 증거를 위치시켜 사용자의 판단을 돕는 모니터를 연구했다.
- 소프트웨어 엔지니어링 벤치마크 AgentMonBench를 소개하며, 요구사항과 동작의 정렬, 검증을 위한 중요 자율 결정의 인식이라는 두 측면을 다룬다.
전체 요약 6문장 읽기 →