seldon
1 人感兴趣 · 5 次引用
- 最新
- 推荐
Seldon 使用 (五): engine & graph
本文介绍seldon如何定义和使用模型编排(graph),已经通过什么方式实现(即engine容器)
Seldon 使用 (四):内置的推理服务 TFServing
如何使用seldon内置支持的TFServing模型服务,部署tensorflow模型服务,调用模型服务推理,以及seldon是如何实现内置TFServing服务的
Seldon 使用 (三): 模型服务如何运行
典型的python模型服务,使用seldon-core-microservices是如何启动,如何通过REST方式响应模型推理请求的
Seldon 使用 (二):打包模型
当部署模型服务(即创建SeldonDeployment)时,模型文件已包含在docker image中。那模型文件是如何打包成docker image呢?
Seldon 使用 (一):简介及入门
Seldon是一个开源的,基于kubernetes的模型部署服务。目前支持多种主流的机器学习及深度学习框架,包括Xgboost, Tensorflow, Pytorch等,支持多种语言(包括python,java等)的模型代码打包。