深度学习优化层技术
MLIR Multi-Level Intermediate Representation!
https://zhuanlan.zhihu.com/p/101879367
TVM
TVM 是什么:基于统一 IR+JIT+AOT+LearningBased+AutoScheduling 等编译优化方法的,全图优化+具体算子优化+多层次优化的,链接 DNN 计算图到后端硬件的中间件。
TVM 支持主流的深度学习前端框架,包括 onnx,TensorFlow, MXNet, PyTorch, Keras, CNTK;同时能够部署到宽泛的硬件后端,包括 CPUs, server GPUs, mobile GPUs, and FPGA-based accelerators;为了更好地适配底层硬件,TVM 不仅内嵌了对 CPU 和 GPU 的优化库(MKL/cudnn),甚至还支持集成 ARM 的 ACL 库和 TensorRT、xilinx 的 Vitis-AI。
https://zhuanlan.zhihu.com/p/381324332
XLA:优化机器学习编译器
https://tensorflow.google.cn/xla?hl=zh-cn
评论