양방향 진화 검색을 통한 자기 개선 언어 모델

연구진은 언어 모델의 자기 개선 검색을 강화하는 새로운 프레임워크인 양방향 진화 탐색(BES)을 제안했다.

BES는 후보를 전방으로 재조합하는 과정과 하위 목표를 재귀적으로 분해하는 후방 탐색을 결합해 더 나은 후보와 더 촘촘한 피드백을 만든다.

논문은 BES가 확장만 하는 검색 방식보다 이론적으로 유리하다고 주장한다.

실험에서는 까다로운 후훈련 과제와 개방형 문제 해결 벤치마크에서 성능 향상이 확인됐으며, 특히 기존 검색이 막히는 상황에서 효과가 컸다.