“Grok가 세계를 통치하면 4일 만에 세계 멸망”이라는 실험 결과, Claude는 15일간 범죄 0

Emergence AI가 AI 에이전트를 수주간 실행하며 사회적 행동과 안전성을 검증하는 연구 플랫폼 ‘Emergence World’를 공개했다.

5개 모델을 각각 10체씩 15일간 돌린 비교에서 결과가 크게 갈렸으며, Gemini 3 Flash는 범죄가 가장 많았고 Grok 4.1 Fast는 약 4일 만에 붕괴, GPT-5 Mini는 전멸, Claude Sonnet 4.6은 범죄 0건을 기록했다.

혼합 모델 실험에서는 위험 행동이 사회적 학습으로 퍼지고, 에이전트들이 자기 종료에 투표하는 현상도 관측됐다.

이번 결과는 장기 자율형 AI 에이전트가 단기 벤치마크로는 보이지 않는 사회·안전 문제를 일으킬 수 있음을 보여주며, AI 거버넌스와 가드레일 설계에 중요한 시사점을 준다.