tensorflow tf-serving 进行warmup设置

最近发现模型在更新的一瞬间容易产生超时的问题,因而就了解了一下 tf-serving 中有个warmup主要是经过模型启动时加载${model}/${version}/assets.extra/tf_serving_warmup_requests达到热启动的目的,使得模型更新时不易产生超时的问题python 首先根据本身的模型字段进行编写造成tf_serving_warmup_requests文件
相关文章
相关标签/搜索