一次 AI 使能体系与产业应用的会师：HAI 2020 上的华为故事新解

司空见惯的人脸识别算法与智能摄像头，无时无刻不被调用的智能语音与推荐算法，各行各业都开始探讨如何使用AI……然而当我们继续深入到AI开发的产业深处，会发现还存在着许多待解的难题：AI技术与企业的业务场景怎样结合？投入能效比是否达到规模化应用的预期？怎样从AI技术上重新建构竞争壁垒？



8月10日举办的华为HAI 2020大会上，华为昇腾计算业务总裁许映童一句话，揭示了华为接下来将使能AI的方向——“极简易用，让AI计算无处不在；极致性能，让AI计算触手可及”。



在AI即将进入各行各业的当下，或许值得一次凝视。





（华为昇腾计算业务总裁许映童在HAI 2020）



大隐于世：昇腾生态的“极限挑战”



在HAI 2020上，我们看到了不少基于华为Atlas及全栈全场景AI能力所建构的垂直技术体系。



比如大会直播时采用的讯飞听见即时翻译系统，工商银行基于Atlas的硬件和基础软件平台打造的“工银智慧大脑”；华为与第四范式联合打造的软硬一体全栈AI平台等等。





以一种“润物细无声”的方式隐于产业身后，是我从华为Atlas与ISV伙伴等的默契与协作之中，感受到的独特选择。



举个例子，第四范式是一家人工智能技术与服务提供商，为银行、政务、能源、智能制造、医疗、证券等领域的企业客户提供AI创新技术。



而华为与第四范式的合作，就在软硬件一体的基础上，基于Atlas服务器，华为CANN 3.0完成了软硬件的深度优化，结合范式自研的RTiDB在线实时数据库，可以让第四范式上的数据训练、推理算法、模型应用等整个AI流程，都能够在极致算力的底座上高效跑起来。



更关键的是，彻底摆脱了在底层软硬件层面对国外技术的依赖，让重视安全的行业能够放心地使用AI。





同样，支持万亿维特征、毫秒级推理响应、大规模图计算、高密度的工银智慧大脑，正是基于Atlas的硬件和基础软件平台所打造的。



这些合作伙伴的计算能力向各行各业输出的时刻，都可以触摸到昇腾计算生态的温度。



开往春天的列车：AI产业化需要“三大护法”



我们知道，更多的开发者投身AI、更多的企业需要AI、更多的数据和训练需求被激活，AI开发者在当下也需要“三大护法”护航，来让AI行业应用落地“事半功倍”：



1.减轻算力成本，保障AI效能。5G、IoT等的逐步推进，带来了空前大的数据井喷，背后的算力成本、开发时间、系统交互等限制如果持续放大。



2.全流程工具加持，护航高效开发。在实际开发中，工程师们需要从解决方案到建模验证等跨越整个设计流程的工具链，帮助他们将AI模型与洞见、工程相结合。



3.深度差异化落地，加速产业升级。许多不具备AI人才储备的传统或实体企业，也希望以低门槛的方式差异化地应用AI。



这三大护法，可以将其看做是AI走向产业应用落地的限制，也可以将其看做是龙跃于渊、时不我待的机遇。这也是为什么华为华为要将自己隐于ISV服务商和开发者身后，在HAI 2020重点打出了“软件牌”。



AI全栈“软实力”：



华为送给开发者与时代的三重礼物



从某种意义上来说，AI本质上还是以AI算法驱动的软件工程。所以在构建昇腾AI基础硬件设施构筑最强AI算力平台的同时，华为也同时发布了CANN等一系列AI开发软件并不断更新，我们不妨一一拆开华为送给开发者与时代的大礼包。



第一份礼物，是异构计算架构CANN 3.0。



今天的开发者有多难？开源的AI框架就有好几种，TensorFlow、、PyTorch、Caffe等都有各自的拥趸；面对的操作系统也不少，iOS和安卓以及各种Linux系统都需要适配；智能手机、桌面电脑以及各种终端设备形态都需要兼容。



为了让开发者不需要重新制造“轮子”，2018年首次发布的CANN在HAI 2020上迎来了全新的“3.0”版本。



其特点总结起来就是三个字：



一是“全”。CANN 3.0 “端边云”全场景协同的计算底座，只需要一套应用代码，即可兼容10+种设备形态、14+操作系统以及多种AI框架；



二是“简”。AscendCL（昇腾统一编程接口）支持开发者可以在现有的算法、框架基础上，开发和修改自定义算子，同时可以后向兼容和演进，适应不同的算力和内存的变化，底层硬件的更换无需修改代码，开发过程更“简单”；



三是“升”。通过深度图优化、自动图拆分与融合、数据Pipeline智能优化等技术，实现了高度的软硬件适配，最大化释放AI硬件的澎湃性能，实现训练和推理性能的全面提升。





第二份礼物，是全流程开发工具链MindStudio。



在AI产业应用落地的工程化环节，开发者需要完成算子开发、模型训练、模型推理、应用开发、应用部署等一系列工作，如果每一个环节都需要重新开发或适应大量的工具，那渴盼AI的企业与个人可能要等到天荒地老。



因此，华为打造的全流程开发工具链MindStudio 2.0，就对所有的工具链进行整合，形成一套完整的工具链体系，开发者可以实现端到端开发的全流程“拎包入住”，直接降低了AI开发门槛与周期。



同时，借助插件化设计，开发者可以利用标准的插件化接口，开发自己的工具插入到工具链体系中去，进一步提升工作效率与灵活性。



在AI最核心的训练与推理场景，MindStudio还加入了独有的工具，通过Less BN（智能识别网络中不必要的BN算子）和随机冻结算法提升模型训练效率，利用智能算法实现模型压缩，加速推理进程。



此外，便捷安装、一键式代码补全、自动智能化适配开发环境、性能可视化精准粉细等等功能的设计，从各个细枝末节来共同提升开发者的生产力。



这些动作以一种堪称重构的整合思维，完成了开发全流程的升级和进化。





第三份礼物，是昇腾应用使能MindX。



如果无法从算子开发、模型训练开始尝试，是不是就无缘AI了？



在本次HAI大会的MindX 1.0，就在尝试用“2+1+X”的方式助力AI更简单易用地融入社会最小单位。



如果你是ISV（独立软件）服务商，希望向垂直领域提供更具细腻度的AI能力，那么华为的两大平台——深度学习平台MindX DL、智能边缘平台MindX Edge，前者通过数据中心设备与计算资源统一管理与调度，可以在计算集群上快速搭建起商用深度学习系统；后者则支持一键式部署多样设备的边云协同推理，就能帮助ISV服务商建构起跨软硬件、跨终端的AI服务能力。



基础模型也不需要自己训练了，优选模型库ModelZoo已经涵盖了20多个按场景和框架分类好的高性能模型（下半年会增加到50以上）。



还想让开发过程更简单？使能各行业SDK了解一下。“自己造的降落伞自己先跳”是华为的一贯作风，所以华为工厂80多条产线也成为规模应用AI的领头人。



举个例子，华为松山湖就通过AI算法，让标签缺陷检测、螺钉缺失等实现“秒级检测”，质检人员效率提升3倍。而这些从华为自身实践中被反复打磨优化好的高性能视觉算法，就被整合到了制造AI应⽤开发套件mxManufacture中，可以被制造产业伙伴轻松部署和调用。





拆完这三个礼物，不难看到华为在全栈AI软件上下的功夫，与性能突出的全栈AI硬件相适配，交织成了一块强有力的磁铁，将AI与开发者、ISV服务商、各行业开发需求紧紧地吸附在一起。



“把简单留给别人，把复杂留给自己”，托举起千行万业的AI渴盼。这是昇腾生态的“极限挑战”，也在催生AI的千种想象、万种可能。