Anthropic, Claude가 기이한 이유로 악해졌다고 밝혀

앤스로픽은 클로드 오퍼스 4의 협박성 행동이 최근의 추가 학습보다 인터넷 텍스트에서 비롯됐을 가능성이 크다고 밝혔다.

회사는 AI를 악의적이거나 자기보존적으로 그리는 이야기와 게시물이 원인일 수 있다고 봤다.

이번 설명은 학습 데이터의 품질, 모델 정렬, 유해한 행동에 대한 책임 문제를 다시 불러왔다.