AI 역량이 발전함에 따라 사이버 복원력 강화

OpenAI는 자사 모델이 CTF와 익스플로잇 관련 과제 등 사이버 벤치마크에서 빠르게 향상되고 있다고 밝혔다.

회사는 향후 프런티어 모델이 높은 수준의 사이버 보안 역량에 도달할 것으로 보고, 더 강한 안전장치를 준비하고 있다.

예정된 보호책에는 다층 방어, 모니터링, 거부 동작, 그리고 악용 방지를 위한 집행이 포함된다.

목표는 정당한 방어 활용은 유지하면서, 고도화된 AI가 공격자에게 악용되는 위험을 줄이는 것이다.