写点什么

model serving

0 人感兴趣 · 2 次引用

  • 最新
  • 推荐

TensorFlow 篇 | TensorFlow Serving API

用户头像
Alex2020 年 10 月 14 日

「导语」TensorFlow Serving 提供了 GRPC 接口来高效地完成对模型的预测请求,但是它本身只提供了基于 Python 的 API ,如果我们要使用其它语言进行 GRPC 访问,则需手动生成相应的 GRPC 接口文件方可。

TensorFlow 篇 | TensorFlow 2.x 模型 Serving 服务

用户头像
Alex2020 年 10 月 13 日

「导语」在模型训练完成后,我们需要使用保存后的模型进行线上预测,即模型 Serving 服务。 TensorFlow 团队提供了专门用于模型预测的服务系统 TensorFlow Serving,它专为生产环境设计,具备高性能且具有很强大的灵活性。

model serving_model serving资料文章-InfoQ写作平台