BM25는 대규모 환경에서 승리한다: 검색증강생성 패러다임의 확장 연구
BM25 Wins at Scale: A Scaling Study of Retrieval-Augmented Generation Paradigms
TL;DR AI
1분핵심 요약
28개의 중첩 코퍼스 크기에서 검색 증강 생성(RAG) 방법들의 성능을 비교한 스케일링 연구가 진행됐다.
BM25는 약 1,000만 코퍼스 토큰 규모부터 File-System Agent를 앞서기 시작했고, 더 큰 규모에서도 계속 우위를 유지했다.
밀집 검색은 더 저렴했지만 정확도는 낮았고, 그래프 기반 RAG는 규모가 커질수록 확장성에 어려움을 보였다.
단일 규모 평가만으로는 결론을 내리기 어렵고, 대규모 환경에서는 BM25 같은 어휘 기반 검색이 가장 강한 기본 선택으로 보인다.