干货|基于CPU的深度学习推理部署优化实践

背景介绍 随着人工智能技术在爱奇艺视频业务线的普遍应用,深度学习算法在云端的部署对计算资源,尤为是 GPU 资源的需求也在飞速增加。如何提升深度学习应用部署效率,下降云平台运行成本,帮助算法及业务团队快速落地应用和服务,让 AI 发挥真正的生产力,是深度学习云平台团队努力的目标 。node 从基础架构的角度,GPU资源的紧缺和GPU 利用率的不足是咱们面临的主要挑战。因为大量的算法训练及推理服务需
相关文章
相关标签/搜索