dRAE: 하이퍼스피어리컬 코드를 사용하는 표현 오토인코더

연구진은 시각 특징을 위한 새로운 이산 표현 오토인코더 dRAE를 제안했다.

dRAE는 하이퍼스피어리컬 양자화를 사용해 의미 정보와 특징 크기를 분리하고, 기존 유클리드 양자화의 코드북 붕괴를 줄인다.

이 방법은 재구성 성능을 높이고 코드북 사용률 100%를 유지했으며, 131,072개 규모의 어휘로도 잘 확장됐다.

그 결과 이해와 생성 과제에서 강한 성능을 보여 멀티모달 AI용 시각 코드의 확장 가능성을 제시했다.