사용자를 대신하는 AI 에이전트, 개인 목표를 얼마나 잘 이루는가

핵심 요약

• 개인 AI 에이전트가 장기 작업을 처리할 수 있어지고 있으나, 사용자는 여전히 목표 설정·애매함 해결·결과 검증에 상당한 노력을 들여야 한다.
• 아바타 인텔리전스(Avatar Intelligence) 패러다임을 제안한다: 사용자의 목표·가치·제약을 여러 상황과 시간에 걸쳐 지속적으로 대리 결정하는 개인화된 영구적 에이전트다.
• 성숙도 로드맵은 인간 지시 실행에서 위임된 도메인 내 자율 운영으로 진행되며, 에이전트 운영 비용과 인간 감시 부담 대비 전달된 가치를 평가하는 에이전틱 오버사이트 지수(AOI)를 제시한다.
• 세 가지 핵심 연구 과제를 제시한다: 사용자 선호도를 여러 작업에 걸쳐 유지하는 아이덴티티 연속성 개인화, 리허설 엔지니어링을 통한 사용자 맞춤형 진화, 기술적 제어와 책임·구제를 결합한 안전 메커니즘이다.
• 이들은 개인 에이전트에 대한 신뢰할 수 있는 결정 위임의 연구 의제를 정의한다.