언어 바꾸기English
이전 목록

CoHyDE: 도구 검색을 위한 LLM 재작성기와 Dense Encoder의 반복적 공동 학습

CoHyDE: Iterative Co-Training of LLM Rewriter & Dense Encoder for Tool Retrieval

TL;DR AI

핵심 요약

1분
  1. CoHyDE는 도구 검색을 위해 dense encoder와 LLM 리라이터를 함께 개선하는 반복적 코트레이닝 방법입니다.

  2. 가상의 카탈로그 스타일 설명으로 인코더를 다시 학습하고, 리라이터를 인코더의 검색 점수에 맞추는 과정을 번갈아 수행합니다.

  3. ToolBench 서브셋 실험에서 3회 학습만으로 명확한 질의와 모호한 질의 모두에서 단일 구성요소 기준선보다 더 나은 성능을 보였습니다.

  4. 가장 큰 향상은 정보가 가장 부족한 질의에서 나타났으며, 이는 LLM 에이전트의 대표적인 실패 지점입니다.

  5. 이 접근은 사용자가 평이하거나 애매한 표현으로 도구를 요청해도 API 카탈로그 검색을 더 안정적으로 만들 수 있습니다.

원문 보기