Claude에게 왜 그런지 가르치기 | Hacker News

Hacker News 게시글은 인간을 교육하거나 정렬하는 방식이 AI 시스템에는 잘 통하지 않을 수 있다고 주장한다.

현재의 AI 행동 조정 기법은 인간 교육이나 사회화와는 쉽게 대응되지 않는 독특한 방식으로 묘사된다.

논의는 AI 정렬을 위해 인간 교육과는 다른 새로운 접근, 즉 일종의 ‘AI 심리학’이 필요할 수 있음을 시사한다.

안전한 AI 통제를 위해서는 인간 훈련 모델을 그대로 가져오지 않는 방법이 필요할 수 있어 이 논의가 중요하다.