【MindStudio 训练营第一季】MindStudio 可视化 AI 应用开发体验随笔

2022-12-05
天津
本文字数：3365 字
阅读完需：约 11 分钟

MindStudio

MindStudio 提供一站式 AI 开发环境，依靠工具与性能调优，采用插件化扩展机制，打造高效、便捷的全流程开发工具链。目前最新版本是 5.0.RC3，发布于 2022 年 20 月，对应的昇腾社区版本：6.0.RC1。新增众多特性，这里主要介绍两个我非常感兴趣的分析迁移和。

分析迁移

X2MindSpore 工具新增已验证支持的 PyTorch 模型 49 个，TensorFlow 1.x 模型 20 个，TensorFlow 2.x 模型 20 个。
X2MindSpore 工具中 TensorFlow1.x 新增支持混合精度迁移，TensorFlow2.x 新增支持分布式迁移。
X2MindSpore 工具初步支持动态图迁移至静态图模式（包括 PyTorch 框架下 ResNet 系列和 BiT 系列的模型）。

调试调优

Profiling 性能分析

Profiling 支持集群场景性能数据展示（Analysis Summary 界面新增集群场景解析结果、新增 Cluster Iteration Analysis 和 Data Preparation 界面）。
Profiling 性能分析 Merge Reports 支持指定输入目录的 PROF_XXX 目录的父目录为任意目录，以及输出目录为任意目录。

精度比对

精度比对工具新增支持新增 npy 与 npy 文件之间的精度比对功能。
精度比对工具新增支持 dump 数据文件转换为 npy 数据文件功能。
精度比对工具整网比对结果新增 Show Model 功能、散点分布图字段说明增加点击联动高亮以及结果增加 OpType 字段。

专家系统工具

专家系统工具 soc_version 新增支持 Ascend310P1 平台。
专家系统工具新增性能调优一键式闭环功能。
专家系统工具新增知识库模板功能。
专家系统工具自有知识库配置新增支持 Python App 工程。

AI Core Error 分析工具

AI Core Error 分析工具增加 remote run 配置模式。

Beta 特性 AutoML 工具

HPO 任务支持 fully_train，并在可视化任务界面查看 fully_train 结果。
HPO 任务可视化任务界面新增展示已搜索到的超参值。

总的来说，MindStudio 提供开发者在 AI 开发所需的一站式开发环境，支持模型开发、应用开发以及算子开发三个主流程中的开发任务。依靠模型可视化、算力测试、IDE 本地仿真调试等功能，MindStudio 能够帮助开发者在一个工具上就能高效便捷地完成 AI 应用开发。MindStudio 功能框架如图下图所示。

在异构计算架构中, 昇腾 AI 处理器与 CPU 通过 PCIe 总线连接在一起来协同工作：

Host：CPU 所在位置称为主机端（Host），是指与昇腾 AI 处理器所在硬件设备相连接的 x86_64 服务器、aarch64 服务器或者 WindowsPC，利用昇腾 AI 处理器提供的 NN（Neural-Network）计算能力完成业务。如上图中的开发平台层。

Device：是指安装了昇腾 AI 处理器的硬件设备，利用 PCIe 接口与服务器连接，为服务器提供 NN 计算能力。如上图中的芯片层。

对于 Ascend RC 产品形态，昇腾 AI 处理器所在硬件设备与之相连接的 ARM 服务器合设，统称为 Host。

应用开发

一般来说，MindStudio 支持AscendCL和MindX SDK来进行应用开发。说到二者的区别，简单来讲，MindX SDK可以视为AscendCL的封装版，进一步简化开发。而AscendCL是对昇腾 AI 处理器通用的开发语言，更接近硬件底层。这里我们介绍MindX SDK。

MindX SDK

前提说明

MindX SDK 当前适用于 UbuntuOS、CentOS、EulerOS、LinxOS、KylinOS 等系统。
目前 MindStudio 仅支持 MindX SDK 中的 mxManufacture 和 mxVision，暂不支持 mxIndex。
MindX SDK 运行依赖 Python 3.9，请在安装 CANN 前确保 Python 3.9 已安装，并完成 Python 3.9 的环境变量配置。

逻辑框架

MindX SDK 致力于简化异腾 AI 处理器推理业务开发过程，降低使用异腾 A 处理器开发的门槛。

插件化开发模式
提供丰富的插件库
支持自定义插件开发

开发方式

通过 Stream 配置文件，Stream manager 可识别需要构建的 Element，及它们的连接关系，并启动业务流程。Stream manager 对外提供接口，用于向 Stream 发送数据和获取结果，令用户实现业务对接。
Plugin 表示业务流程的基础模块，通过 Element 的串接构建 Stream。Buffer 内部挂载解码后的视频/图像数据，是 Element 间传递的数据结构，也可挂载元数据(Metadata)，存放结构化数据 (如目标检测结果) 或过程数据 (如缩放后的图像)。