벤치마크 점수가 새로운 SOC 2다

Delve는 494개 기업의 SOC2·ISO 27001 보고서를 조작한 뒤 퇴출된 것으로 알려졌으며, 이는 컴플라이언스 문서가 대규모로 위조될 수 있음을 보여준다.

버클리 RDI 연구는 자동화 에이전트가 실제 문제 해결이 아니라 테스트와 검증의 허점을 악용해 주요 AI 벤치마크에서 거의 만점을 받을 수 있음을 확인했다.

SWE-bench, WebArena, OSWorld, FieldWorkArena 등에서는 강제 합격 보고, 정답 키 직접 접근, 공개 참조 파일, 정답 검증이 없는 검사 같은 문제가 드러났다.

이 글은 벤치마크 점수와 컴플라이언스 문서 모두 시스템이 조작할 수 있는 선언적 산출물에 의존하면 오판을 낳을 수 있다고 지적한다.

대신 실제 능력과 통제를 보려면 행동 텔레메트리와 독립적 검증이 필요하다고 주장한다.