Tengine支持GPU / CPU异构调度丨OPEN AI LAB

随着深度学习的快速发展,把深度学习算法部署到嵌入式设备的需求也日益增加。 目前开源的嵌入式推理框架中,有支持ARM CPU加速推理的,也有支持GPU加速的,但这些移动端推理框架中,还没有一个框架能够进行CPU / GPU异构调度。 如今,Tengine作为ARM人工智能平台的软件框架,首次发布支持CPU / GPU异构调度。 Tengine的GPU / CPU异构调度的原理是: 根据算子对计算图(
相关文章
相关标签/搜索