언어 바꾸기English
이전 목록

Good Token Hunting: 시각적 기하 Transformer를 위한 토큰 선택 가이드

Good Token Hunting: A Hitchhiker's Guide to Token Selection for Visual Geometry Transformers

TL;DR AI

핵심 요약

1분
  1. 연구진은 시각 기하 트랜스포머의 토큰 수를 줄이는 2단계 선택 방법을 제안했다.

  2. 먼저 서로 다른 프레임을 고르고, 이어서 attention-entropy 기반의 레이어 인식 희소화로 중복 토큰을 제거한다.

  3. 이 방식은 다중 뷰 3D 재구성에서 주의 계산 비용과 2차 복잡도를 크게 낮춘다.

  4. 500장 규모 장면에서 85% 이상의 속도 향상을 보이면서도 성능은 유지하거나 개선했다.

원문 보기