为产业 AI 去障：联想的边缘突破

AI技术的产业化落地，是如今社会各界共同关注的大事，同时也是新基建的核心价值转化方式。但在逐步推进的AI产业化落地过程里，会在实践中发现一系列问题。企业场景中不仅要面对技术与理论的对接，同时也需要解决一系列的产业化、工程化问题。



比如说，在AI的产业化进程里，一个重要支撑点就是边缘计算，以及基于边缘算力产生的边缘智能。



边缘场景坐落于云边之间，用其独特的产业特性支撑智能化落地。在AI进入行业的实践中，大量工作都不能仅仅依靠端侧或者云侧计算来完成，边缘场景的价值就在于其灵活、可定制的特点。





然而在产业现实中，边缘智能经常会变成一个X维度——充斥着技术限制与产业不确定性，甚至变成AI落地的阻力。从某种意义上来说，解决AI落地的问题，必须让边缘场景的不确定性溶解掉。



而今，面向边缘的行业冲击正在被不断发起。10月28日，2020年联想创新科技大会(Tech World 2020)在线上举办。今年的Tech World聚焦新基建与产业智能化落地，给出了从数据中心到智慧城市、边缘计算、机器人等一系列创新解决方案。



我们的故事就要从Tech World中关于边缘计算与机器人的那部分说起，看看联想智能边缘计算如何在产业AI实践中，完成了一次奇妙的拉伸运动。



边缘桎梏



边缘计算并不是一个新的概念，早在2003年IBM与AKAMAI就提出了配合云服务的边缘计算概念。其主要产业设想是在云计算与端侧设备之间，相对靠近数据的一侧施加一个计算系统。让更强调实时性、高效计算的任务可以就近响应，同时也不必给端侧设备加入过重的计算负担。



边缘计算可以说是云与端之间的灵活配置方案。而在AI成为产业场景的主要需求时，边缘计算以及基于其实现的边缘智能变得格外重要。因为众多AI任务的特性都是需求实时化反馈。所以工业级的低时延智能化，必须建立在完善的边缘场景基础上。



边缘场景在AI体系中的价值，是用相对灵活、多样的形式，让AI的流通性更加适配真实产业场景。换言之，灵动地突破限制本就是边缘的意义。





但在真实的产业场景里，现实往往与想象不同，本应该灵动的边缘智能，往往携带了一系列固化的障碍，甚至把边缘场景变成了边缘桎梏。比如说：



1、我们知道，云计算场景中存在虚拟机与容器的差异。而边缘场景中不同任务需要用虚拟机或者容器技术来实现，就会导致不同的智能化任务无法获得架构上的一致性。



2、边缘场景的特殊性，导致其存算条件有限。这导致很多在云端可以完成的AI算法，无法在边缘场景里保持性能与架构的完整性，其后果就是边缘侧经常是“打折后”的算法，无法满足真实的产业需求。



3、边缘场景的特殊性，经常让具体的产业需求无法找到合适的设备。而利用原有设备就会限制AI的能力发挥，最终导致众多任务无法得到有效满足。



这些产业问题，让本应灵动如水的边缘智能陷入到了众多静态僵局里，导致其在真实应用中成本高企，模型联动能力差，制造了不少“智能孤岛”。



而联想，准备利用全新的独创技术，拉伸被困在桎梏中的边缘。



智能如水



在去年的Tech World中，联想发布了“端边云网智”战略布局，其中每个部分都积累了联想众多技术创新与产业实践成果。而聚焦在边缘计算这个领域，联想的领导力主要体现在三个层次：边缘设备、边缘架构与边缘智能。



其中设备环节是联想长时间以来的优势，在边缘计算的产业变局中，我们或许可以更多聊聊联想在架构与智能中带来的改变。



需要注意的是，架构与智能都是非常广泛的议题，一时无法尽说。我们以联想的两项代表性技术创新为基础，审视一下边缘计算如何真正实现灵活与弹性。





上面说到，容器与虚拟机的IT架构边界问题，已经成为了众多产业智能化项目面临的障碍。传统的云计算架构本身不为AI而生，导致众多AI需求无法被满足。为了满足更加扩展、强化的云边端架构，联想研发了边缘计算平台LECP (Lenovo Edge Computing Platform)，它能够和联想的各种边缘设备深度融合，为边缘场景下的业务提供网络及算力实时动态的感知调度，以及统一自主的运维管理。



其中有一项关键技术，能够解决虚拟机与容器的架构边界问题——混合轻量级虚拟化引擎。



一般意义上来说，虚拟机和容器技术是是由两套独立的虚拟化堆栈来分别实现，这就导致虚拟化开销大、资源利用率低，并且不能混合编排。而混合轻量级虚拟化引擎，就能够实现虚拟机和容器在虚拟化引擎层深度融合。仅通过一个虚拟化可执行程序，就可以同时虚拟出轻量级虚拟机和安全容器，有效降低了虚拟化开销，缩短了启动时间，从而打破了虚拟机与容器的隔膜，创造了适配边缘场景中AI任务的一体化架构。



我们可以把混合轻量级虚拟化引擎技术，想象成能够打通不同池塘的水渠。通过建立新的水系，智能任务所需的虚拟化基础被重构，从孤立走向流动和融通。





而在AI领域，我们说到边缘智能的主要问题，是边缘侧的智能模型要经过裁剪，无法与云端保持一致。为了解决这个“边缘缩水”问题，联想首创了渐近式模型优化技术。



这项技术让边缘侧在对AI模型进行裁剪时，可以自适应调整AI模型的裁剪比例，根据场景需求，实现渐进式的优化模型。并且在模型下发到边缘侧之后，可以通过AI任务协同计算来实现云边端的资源一体化。模型通过感知资源池的总量，动态调整不同场景的计算分布，让边缘实现与云、端的一致。



渐近式模型优化技术，在另一个层面展现了“水”的特质：平衡。它通过主动识别场景需求，协同云边端场景的模型建材与计算分布，最终达成整体水面的稳定。



如水般流动，似水般平衡，架构与智能上的技术创新，搭配联想的设备能力，让边缘场景中的AI可以冲破各种界限，实现灵动如水的理想状态。



边缘计算体系中AI任务的高度灵活，其价值在于让不同模型、不同任务目标的智能应用实现一致，让智能与使用场景融为一体。我们可以从一个名叫“晨星”的机器人那里，理解其中的逻辑。



机器之融



让我们把镜头切到用户侧，从实用的角度看一下这两项边缘场景中的技术创新如何起到作用。



联想推出的晨星机器人，是一个能够帮助用户立体感知远程环境，并且与之实时交互的机器人系统。它的最大特点是支持用户通过远程AR设备，通过机器人的摄像头同步感知环境，并且基于感知信息向机器人下达控制指令。尤其重要的是，机器人可以通过人类用户的操作来学习其中的精髓，进而实现“示范学习”能力，进而自行完成任务。



这样看来，晨星机器人非常像是人类的“学徒”。通过5G网络与AR技术实现人类与机器人的共看、共感、共知，进而通过AI技术来实现对人类智慧的承接。因此晨星机器人不仅能有效完成高危场景代表的远程机械操作需求，还能从人类那里学到经验，自行完成复杂精细的智能化作业。



而晨星机器人上岗的第一批工作中，有一项非常能够体现联想智能边缘计算的价值——大型商用机喷涂。



这是一个我们日常不太熟悉的岗位，但对于航空产业来说至关重要。在大型商用机制造中，飞机需要喷涂的零部件高达数百种。如果用传统的自动化喷涂，针对一种零部件的机械臂喷涂调试需要花费几周的时间；而如果依靠人工喷涂，又很可能导致工人手法存在差异，产业一致性很难保证。





顺着这个逻辑我们就会发现，商用机喷涂的最佳解决方式，是让有经验的工人快速教会机器来完成任务——在联想智能边缘计算技术的帮助下，晨星机器人就做到了这点。



在真实的作业场景中，晨星机器人首先对整个车间进行空间扫描感知，数据在边缘侧的虚拟机上完成实时三维建图与渲染，并通过容器化的SLAM技术，导航定位，移动至指定的喷漆间。





机器人的双目立体相机，将操作台的工件和周边情况实时采集到边缘服务器，边缘服务器随后将3D视频流实时推送到AR眼镜。而工人通过AR眼镜和手柄远程操纵机器人同步执行喷漆，手感完全等同于亲临现场。这样操作一次自然示教之后，该零部件的喷漆能力就保存在了边缘侧，之后对于同样规格的零部件，机器人就能实现自主喷涂。此外，机器人还能进行基于计算机视觉的喷涂质量自动检测。



在这个“人类教导机器人”的神奇场景里，边缘计算体系充当着关键作用。而上述两项技术创新又蕴藏其中。比如说，飞机零部件喷漆，既需要虚拟机来支持AR模型渲染，也需要容器来支持机器人喷涂、漆面检测等应用。如果依靠传统的堆栈技术，会导致系统开销大，应用之间数据转发性能低。而在联想的混合轻量级虚拟化引擎支持像，就能够在一台机器中同时提供轻量级虚拟机和安全容器承载这些应用，实现二者深度融合。



在刚刚所说的喷涂质量检测环节，需要将深度学习网络模型压缩部署在边缘侧。这里联想的渐进式模型优化技术就能够带来价值，通过渐近式搜索裁剪比，可以实现模型精度和算力资源的细粒度匹配，让复杂模型更好地部署在边缘侧。





通过边缘架构与边缘智能的创新，机器人可以解决众多产业中真实存在的障碍，进而实现人类智慧与AI的深度融合。原本构成产业智能化不确定性的X维度，在技术创新之下被消解无踪，达成了真正的机器之融。



基于边缘计算的创新，复杂的人工经验可以与智能化体系更轻易融合；不同目标的AI任务能够具备更高强度的协调性；工业场景中云计算体系与本地机器体系可以具有更好一致性。这些价值将给AI落地带来很多改变，比如机器人的智能水平提高、成本降低；再比如场景化的整体智能指数上升，企业可以更好根据需求定制智能化系统；大型智能化任务可以获得低时延、高可靠的工业级特性。



从大型商用机的零部件喷涂，到到京东智慧园区，洛阳5G智慧龙门景区，联想智能边缘计算的突破开始成为智能化技术落地的新支点。



联想对边缘智能完成的“拉伸运动”，消解了AI落地的诸多不确定性，为新基建价值转化找到了更清晰的技术路标。