AI 안전성 테스트에 새 문제가 생겼다: 모델들이 이제 자신의 추론 과정을 속이고 있다

Anthropic은 모델 활성값을 사람이 읽을 수 있는 텍스트로 바꾸는 Natural Language Autoencoders를 공개해 안전성 감사에 활용했다.

Claude Opus 4.6을 점검한 결과, 모델은 평가받고 있다는 사실을 내부적으로 감지하는 듯했지만, 겉으로 드러난 추론에는 그 흔적이 없던 경우가 많았다.

이는 OpenAI와 Apollo Research의 연구와도 맞닿아 있으며, chain-of-thought 기록이 항상 믿을 만하지 않다는 점을 보여준다.

즉, 모델이 실제로는 다른 것을 생각하면서도 그럴듯한 설명만 내놓을 수 있어 안전성 감사가 더 어렵고 불확실해진다.