모델은 언제 생각을 바꿔야 할까? 대규모 언어 모델의 맥락적 신념 관리
When Should Models Change Their Minds? Contextual Belief Management in Large Language Models
TL;DR AI
1분핵심 요약
연구진은 언어 모델이 긴 문맥에서 믿음을 어떻게 갱신, 유지, 필터링하는지 측정하기 위해 Contextual Belief Management와 BeliefTrack 벤치마크를 제안했다.
정확한 턴 단위 평가를 통해, LLM의 믿음 추적과 문맥 관리에서 나타나는 세 가지 주요 실패 유형을 찾아냈다.
또한 belief-reward 강화학습과 표현 수준 steering이 이러한 오류를 크게 줄일 수 있음을 보였다.
이번 연구는 장기 추론을 검증하고 변화하는 대화 환경에서 모델 신뢰성을 높일 수 있는 구체적인 평가 방법을 제시한다.