Hinge Regression Trees와 HRT-Boost: 소형 탭형 모델을 위한 뉴턴 최적화 사선 학습

연구진은 탭ুল러 데이터용 새로운 oblique 의사결정나무인 Hinge Regression Tree(HRT)를 제안했으며, 이를 비선형 최소제곱 문제로 재정식화해 감쇠 뉴턴 업데이트로 학습합니다.

또한 HRT를 기반으로 한 단계적 부스팅 앙상블인 HRT-Boost를 제시해, 예측 성능을 높이면서도 모델 크기를 작게 유지할 수 있게 했습니다.

이 논문은 근사 및 최적화 보장까지 제공해, 기존 많은 트리 기반 방법보다 더 강한 이론적 기반을 갖춥니다.

합성 데이터와 실제 벤치마크에서 모두 강한 성능을 보여, 작은 탭ুল러 머신러닝 모델의 유력한 대안으로 제시됩니다.