언어 바꾸기English
이전 목록

블록 희소 GPU 커널

Block-sparse GPU kernels

TL;DR AI

핵심 요약

1분
  1. 연구진이 블록-희소(block-sparse) 신경망용 최적화 GPU 커널을 공개해, 완전연결층과 합성곱층의 희소 연산을 더 빠르게 처리할 수 있게 했다.

  2. 이 커널은 TensorFlow와 LSTM 같은 모델을 지원하며, GPU에서 희소성을 실용적으로 만드는 것을 목표로 한다.

  3. NVIDIA Titan X Pascal 환경에서 일부 감성 분석과 생성 모델링 과제에서 최신 수준의 성능을 보고했다.

  4. 계산량과 메모리 사용을 크게 줄여, 더 큰 모델과 새로운 희소성 기반 아키텍처를 가능하게 할 수 있다.

원문 보기