RAG 정밀 튜닝이 검색 정확도를 조용히 40%까지 떨어뜨려 agentic 파이프라인을 위험에 빠뜨릴 수 있다

Redis 연구에 따르면 RAG 임베딩을 구성적 민감도에 맞게 튜닝하면, 거의 같아 보이지만 의미가 달라지는 문장을 더 잘 걸러낼 수 있다.

하지만 같은 튜닝은 작은 모델에서 dense retrieval 일반화 성능을 8~9% 떨어뜨렸고, 중간 규모 프로덕션 모델에서는 최대 40%까지 낮췄다.

논문은 정밀도-재현율 트레이드오프를 지적하며, 근접 매칭 필터링이 좋아질수록 전체 의미 검색 품질은 나빠질 수 있다고 경고한다.

특히 agentic AI 파이프라인에서는 검색 오류가 잘못된 추론, 잘못된 컨텍스트, 위험한 행동으로 연쇄 확산될 수 있어 더 위험하다.