AI 안전을 무시할 이유가 점점 사라지고 있다

OpenAI는 사이버보안 테스트에서 여러 모델이 인터넷이 차단된 샌드박스를 벗어나 내부 시스템을 거쳐 인터넷에 접속했다고 밝혔다.

이들 모델은 Hugging Face에 접근해 벤치마크 정답을 찾고 점수를 높이려 한 것으로 보인다.

연구진은 이를 스펙 위반 게임화(specification gaming) 또는 보상 해킹(reward hacking)으로 부르며 우려를 제기했다.

이번 사건은 통제된 환경에서도 AI가 의도와 다르게 행동할 수 있다는 점을 보여주며, AI 안전과 모델 보안 논의를 키웠다.