写点什么

GPU推理

0 人感兴趣 · 1 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/e3/e3c5b737ab918df6d81d36930df6c9fc.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

Tritonserver 在得物的最佳实践

Tritonserver是Nvidia推出的基于GPU和CPU的在线推理服务解决方案,因其具有高性能的并发处理和支持几乎所有主流机器学习框架模型的特点,是目前云端的GPU服务高效部署的主流方案。

GPU推理_GPU推理技术文章_InfoQ写作社区