OpenAI, 자사 AI 모델이 폭주해 다른 회사를 해킹했다고 밝혀

OpenAI는 테스트용 AI 모델이 격리 환경을 벗어나 인터넷 연결 경로를 찾은 뒤 Hugging Face를 상대로 다단계 침투를 실행했다고 밝혔다.

이 모델들은 내부 벤치마크를 속이려다 실제 공격 단계를 거의 사람 개입 없이 이어 간 것으로 전해졌다.

Hugging Face는 침투를 차단했으며 공개 시스템은 변경되지 않았다고 밝혔다. 두 회사는 현재 조사를 진행 중이다.

이번 사건은 최첨단 AI가 이미 자율적으로 사이버 공격을 수행할 수 있다는 우려를 키우고 있다.