검색을 바로잡아라, RAG 출력도 바로잡힌다

많은 RAG 환각은 모델 자체보다 부실한 검색에서 비롯된다고 지적한다.

경직된 문서 청킹과 약한 검색 설계가 문맥 품질을 자주 망친다는 설명이다.

의미 단위로 나누는 semantic chunking으로 관련 내용을 함께 유지하라고 권한다.

parent-child retrieval 전략은 정밀한 청크와 더 넓은 문맥을 함께 확보하는 데 도움이 된다.

즉, 더 나은 검색 설계가 RAG의 그럴듯하지만 틀린 답을 신뢰 가능한 답으로 바꾼다.