디퓨전 트랜스포머에서의 크로스 레이어 정보 라우팅 재고

연구진은 Diffusion Transformer의 기존 residual connection을 대체하는, timestep-aware한 Diffusion-Adaptive Routing을 제안했다.

논문은 전통적인 residual addition이 계층 간 정보 흐름을 중복시키고 gradient 안정성을 해칠 수 있음을 분석했다.

Diffusion-Adaptive Routing은 timestep에 따라 sublayer 출력을 학습적으로 결합해 효율성과 생성 품질을 높인다.

ImageNet에서 더 나은 FID와 더 빠른 수렴을 보였고, fine-tuning 및 distillation에서도 유용함을 확인했다.