2021 / 08 / 01
10:40 ~ 11:10
TR409-1
Google 技術 x 公共參與 x 開源
深度學習的推理加速
by
Ida Chen
深度學習的研究在現今已非常火熱且應用領域十分廣泛。其中,如何將深度學習網路部屬在邊緣端進行運算 (edge computing),如手機,是深度學習應用於產品的重要關鍵。
在這段分享將會介紹如何在手機平台上加速深度學習網路模型的推理運算。
- 介紹適用於手機上的開源推理框架,如 TensorFlow Lite、NCNN、TNN 與 MACE 。
- 介紹硬體 (如GPU 與 DSP) 加速運算。
- 介紹如何使用 TensorFlow Lite 在手機上部屬深度網路並使用硬體進行加速。
About Ida Chen
對於開源與加速運算有著興趣的軟體工程師。