写点什么

KubeAI平台部署

0 人感兴趣 · 1 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/e3/e3c5b737ab918df6d81d36930df6c9fc.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

Tritonserver 在得物的最佳实践

Tritonserver是Nvidia推出的基于GPU和CPU的在线推理服务解决方案,因其具有高性能的并发处理和支持几乎所有主流机器学习框架模型的特点,是目前云端的GPU服务高效部署的主流方案。

KubeAI平台部署_KubeAI平台部署技术文章_InfoQ写作社区