AI에서 가장 불안한 점은 얼마나 빨리 발전하느냐가 아니라, 그 창조자들도 어떻게 새로운 능력을 얻는지 모른다는 것이다
The most unsettling thing about AI is not how fast it is progressing: it's that its creators don't know how it acquires emergent capabilities
TL;DR AI
1분핵심 요약
Anthropic 리더들과 제프리 힌턴, 크리스 올라 같은 연구자들은 대형 모델이 어떻게 새로운 능력을 ‘발현’하는지 아직 완전히 설명하지 못한다고 인정한다.
이런 불확실성이 단순한 마케팅 서사인지도 거론되지만, 해석 가능성 연구는 그 이해 부족이 실제일 가능성을 뒷받침한다.
연구자들이 능력 형성 과정을 설명하지 못하면, AI 시스템의 안전성·통제·신뢰성에 대한 우려가 커질 수 있다.