阿里云Kubernetes 1.9上利用Helm玩转TensorFlow模型预测

TensorFlow Serving是由Google开源的机器学习模型预测系统,能够简化并加速从模型到生产应用的过程。它可以将训练好的机器学习模型部署到线上,使用 gRPC 作为接口接受外部调用。更给人惊喜后的是,它还提供了不宕机的模型更新和版本管理。这大大降低了模型提供商在线上管理的复杂性,可以将注意力都放在模型优化上。 TensorFlow Serving本质上也是一个在线服务,我们需要考虑它
相关文章
相关标签/搜索