OSReward: 크로스 플랫폼 컴퓨터 사용 보상 모델을 위한 표준화된 평가 도입
OSReward: Instituting Standardized Evaluation for Cross-Platform Computer-Use Reward Models
TL;DR AI
1분핵심 요약
연구진이 컴퓨터 사용 에이전트 궤적을 더 표준적으로 평가하기 위한 벤치마크 OSReward를 공개했다.
OSReward는 정답 라벨이 있는 데이터와 함께 OSReward-Hard, OSReward-Multi 하위 세트를 포함한다.
현재 비전-언어 모델 판정기는 관대함 편향이 있어 평가 신뢰도가 떨어질 수 있다고 지적했다.
대안으로 더 저렴하고 안정적인 평가 신호를 제공하는 OS-Shepherd-100K와 OS-Shepherd 보상 모델을 제안했다.