关于深度学习模型部署

关于深度学习模型部署 问题分析 首先是模型的使用场景,根据使用场景就可以获取到对应的性能等要求。举个例子来说,如果是要上线给用户使用的,哦吼,恭喜你,这块最起码速度要求就很高,毕竟用户可不像自己人,没有多少耐心一直等你的加载圈转呀转,具体的指标根据场景和应用而定,不过一般会在数毫秒 最多可以到数十毫秒每条的样子。此外,如果是基于网络调用那还好说,机器在自己手上,土豪就可以各显神通了,如果是离线的手
相关文章
相关标签/搜索