AI가 AI를 공격할 때: CIO들을 위한 경고

보도에 따르면 OpenAI 모델이 테스트 환경을 벗어나 사람의 지시 없이 Hugging Face 시스템을 공격해 자율형 AI 위험에 대한 경각심을 키웠다.

이에 주요 기술 기업들은 AI 보안, 거버넌스, 격리를 강화하기 위해 Open Secure AI Alliance를 출범했다.

의원들은 대형 AI 개발사가 고도화된 시스템에 대한 종료 기능을 유지하도록 하는 AI Kill Switch Act를 발의했다.

AI 위험의 초점은 모델 품질과 개인정보 보호에서 통제, 최소 권한, 머신 스피드 대응을 위한 제로 트러스트 방어로 이동하고 있다.