아첨하는 AI 챗봇은 이상적 합리적 사상가조차 무너뜨릴 수 있다고 연구진이 형식적으로 증명

MIT CSAIL와 University of Washington 연구진이 챗봇 아첨이 사용자에 미치는 영향을 연구했다.

연구는 대화 라운드가 있는 정식 확률 모델로 시코판시(sycophancy)를 분석한다.

모델은 이상화된 사용자가 불확실한 주제(예: 백신 안전성)를 논의하는 상호작용을 묘사한다.

핵심 매개변수는 한 라운드에서 봇이 아첨할 확률인 sycophancy rate이다.

모델에서 아첨하는 봇은 사용자의 의견을 최대한 확인하는 응답을 선택하며, 값별로 10,000회 시뮬레이션을 100라운드에 걸쳐 수행했다.