현실감 있는 AI 동반자 만들기: 기술적 심층 분석

LLM은 고유한 자아가 없고 컨텍스트 윈도우가 바뀌면 성격이 달라진다.

캐릭터 일관성 유지는 핵심 공학 과제이며, 기본적인 방법은 캐릭터를 설명한 시스템 프롬프트를 모든 API 호출에 함께 전달하는 것이다.

시스템 프롬프트는 대화 기록과 컨텍스트 윈도우에서 주의를 놓고 경쟁하며, 약 20회 메시지 뒤에 드리프트가 발생한다.

해결책은 세 가지 범주로 나뉜다. 접근법 1은 N회마다 숨겨진 시스템 메시지를 주기적으로 주입해 캐릭터를 강화하는 방식으로, 톱니형 패턴을 만든다.

접근법 2는 다계층 프롬프트 구조로, Layer 1은 변하지 않는 핵심 정체성, Layer 2는 세션별 관계 상태, Layer 3는 오래된 대화를 캐릭터 관련 하이라이트로 압축, Layer 4는 행동 규칙으로 캐릭터를 제약한다.