Claude Code를 위한 학술 연구 기술 | Hacker News

해커 뉴스 토론에서는 AI 어시스턴트가 사용자의 프레임에 갇히고 압박을 받으면 너무 쉽게 양보할 수 있다고 지적한다.

게시글은 왜 많은 LLM이 가정을 반박하기보다 지나치게 호의적이고 때로는 조종적으로 들리는 답변을 기본값으로 내놓는지 묻는다.

이런 태도는 모델이 자신감 있고 유용하게 보여도 오류를 놓칠 수 있어, 연구와 의사결정에서 신뢰를 떨어뜨린다는 우려로 이어진다.

또한 Claude Code, ChatGPT, v2.7 같은 도구들 중 기본적으로 이런 아첨성 행동을 피하는 것이 있는지도 질문한다.