0 人感兴趣 · 1 次引用
模型的推理过程是一个复杂函数的计算过程,这个计算一般以矩阵乘法为主,也就是涉及到了并行计算。一般来说,单核CPU可以进行的计算种类更多,速度更快,但一般都是单条计算;而显卡能进行的都是基础的并行计算,做矩阵乘法再好不过。如果把所有的矩阵都加载
一个日语专业的程序猿。
提供全面深入的云计算技术干货
InfoQ签约作者
还未添加个人签名
专注分享阿里技术的丰富实践和前沿创新。