Hugging Face 논문AI · 머신러닝

웹 에이전트 검증 재사용성 평가 벤치마크 공개

원제 AgentProofBench: Benchmarking Reusable Verifiers for Web Agents

추천 14댓글 2Jingjie Ning, Xueqi Li, Yi Lu 외
Key Point

웹 에이전트의 검증 규칙 재사용성을 정량적으로 측정할 수 있는 첫 벤치마크로, 에이전트 신뢰성을 평가하는 새로운 기준을 제시한다.

핵심 요약

  • 웹 에이전트의 재사용 가능한 검증을 위해 변화하는 요구사항에 맞춰 규칙을 따르도록 하는 AgentProofBench 벤치마크를 소개했다.
  • 97개 작업, 79개 작업 군, 4개 웹 서비스를 아우르며 동일한 저장된 초기 상태에서 실행되는 쌍을 이룬 테스트를 통해 규칙을 검증한다.
  • DeepSeek Flash와 Pro 모델로 실험한 결과 48개 작업 군에서 Flash는 82/96, Pro는 79/96 소스 프로그램을 유지했으며 재사용-재구축 신뢰도 구간은 각각 [-5.47, 1.57]%p, [-10.16, 0.00]%p였다.
  • 22개 실행 작업 군에서는 저장된 두 초기 상태 모두 정상적으로 실행되는 프로그램이 32/33개인 반면 패널 오류가 있는 경우는 1/11개로 나타났다.
  • 참조 정의 프로그램 게이트 회귀와 미달 완료는 모두 패널 오류 그룹에서만 발생했다.
  • 중립적 계속 수행이 테스트한 일반 피드백 중 가장 높은 정상 완료율을 달성해 게이트가 추가하는 가치 측정의 기준선이 된다.
  • 모든 테스트 실패를 실행 결과에 연결하는 지시사항, 상태, 프로그램, 참조 규칙, 궤적을 공개해 요구사항 및 정책 수준 모두에서 재사용 가능한 검증을 평가할 수 있게 했다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗