模型部署
0 人感兴趣 · 3 次引用
- 最新
- 推荐
CUDA 编程基础与 Triton 模型部署实践
本文将结合在阿里智能互联云端模型推理部署方面半年以来的工作学习，对相关的GPU编程与云端模型部署的知识与经验进行总结分享。
AI 机器学习模型部署的典型策略
这篇文章是为那些想了解ML模型如何在生产中部署以及在部署这些模型时可以使用什么策略的人准备的。本文将说明部署ML模型的基本方法，可以采取的不同部署策略，以及这些策略一般在哪里实施。每个数据科学团队都会有一套不同的要求，所以要慎重考虑。
使用 C++ 部署深度学习模型快速上手方案
本文将从获取一个训练好的 shufflenet_v2 模型出发， 讲解如何使用 MegEngine Lite 的 C++ 接口将其部署到 CPU（Linux x86 / Android Arm）环境下运行。主要分为以下小节：
