芮勇：让智能边缘计算下沉到行业场景，更靠近数据产生的地方

2020年10月28日，联想集团高级副总裁、首席技术官芮勇博士在2020联想创新科技大会演讲时表示：随着人工智能和5G等新兴技术的迅猛发展，智能化的应用场景变得越来越丰富，新的解决方案不断涌现。这些新兴解决方案和应用场景对实时计算能力的要求不断提高，于是，智能边缘计算就应运而生了，它让计算和智能下沉到行业场景，更靠近数据产生的地方。

以下为发言内容整理:

参加联想创新科技大会的朋友们，大家早上好！

我是芮勇，很高兴能在这里和大家分享联想最新的技术创新成果。2020已经是一个充满智能的新时代，而联想呢，正在成为智能化变革的引领者和赋能者！

刚才，元庆在演讲中提到了联想“端边云网智”的战略布局，并指出，联想已经积累了众多的“建材”与“模块”，致力于打造行业智能化的解决方案。

随着人工智能和5G等新兴技术的迅猛发展，智能化的应用场景变得越来越丰富，新的解决方案不断涌现。这些新兴解决方案和应用场景对实时计算能力的要求不断提高，于是，智能边缘计算就应运而生了。所以我今天给大家汇报的主题是：智能边缘计算：让AI在你身“边”。这里的“边”就代表边缘计算，我们要让计算和智能下沉到行业场景，更靠近数据产生的地方。

边缘计算并不“边缘”，在行业智能化新需求的拉动下，“边缘”正在变得越来越“主流”。它也是联想技术战略布局的重点领域之一。联想在边缘计算领域的领导力包含三个层次，首先是边缘计算设备这一层，设备一直是联想的传统强项，产品布局非常丰富，我就不展开讲了。

今天，我想重点介绍硬件设备之上的这两层，这两层的核心技术，构成了联想智能边缘计算的技术基石。

首先我们来看边缘基础架构层。就像我刚才所介绍的那样，现在越来越多的行业应用，需要更低的时延、更灵活的部署、更强的适应性、更安全的数据隐私保护。在这种情况下，传统的云的基础架构可能无法满足需求了，我们需要有一个更加扩展的、强化的基础架构，从云延伸到边。联想研发了业界领先的边缘计算平台LECP (Lenovo Edge Computing Platform)，它能够和联想的各种边缘设备深度融合，为边缘场景下的业务提供网络及算力实时动态的感知调度，以及统一自主的运维管理。

当然，光有边缘基础架构，还是不够的。我们还需要最上面这一层，也就是边缘智能层，来支持各行各业智能化的应用和需求。联想研发的边缘AI平台，能基于边缘设备和场景数据训练出适配场景的AI模型，并实现模型在云-边-端之间的协同推理，能够更有效地发挥边缘侧的算力，助力实现更广泛的场景智能。

这两层里面有很多关键的技术，由于时间的关系，我就在每一层里挑一个关键技术来介绍一下。

我们先来看一下边缘基础架构层中的一项关键技术——混合轻量级虚拟化引擎。

当云计算能力下沉到行业场景时，往往存在设备空间、耗电量等诸多限制因素，进而限制了计算存储等基础资源规模，因此需要运行其上的边缘计算平台向轻量化发展。另一方面，边缘平台上仍然需要承载原来云端所承载的多种边缘智能应用，而这些应用有些需要跑在容器上，有些需要跑在虚拟机上。如何满足这些多样化的虚拟化需求？传统的虚拟机及容器通常是由两套独立的虚拟化堆栈来分别实现。但这样问题来了，这样的虚拟机和容器的两套方案会导致虚拟化开销大、资源利用率低，并且不能混合编排和管理。为此，联想在业界首创了混合轻量级虚拟化引擎，实现了虚拟机和容器在虚拟化引擎层的深度融合。仅通过一个虚拟化可执行程序，就可以同时虚拟出轻量级虚拟机和安全容器，有效降低了虚拟化开销，缩短了启动时间。效率和性能大幅提升。

我们再看看边缘智能层。首先，联想首创了渐近式模型优化技术。云侧模型为追求精度一般体积较大，在边缘侧执行时，需要根据可用资源进行模型裁剪。以深度学习卷积神经网络模型为例，该技术可以自适应调整卷积层的裁剪比例，根据场景渐进式优化模型。模型下发到边缘侧之后，我们的AI任务协同计算技术不是把云边端看成是分割开来的资源，而是把云边端视为一个统一的资源池，通过感知资源池中的计算、存储和网络总体情况，动态调整任务在云边端上的计算分布。此外，云侧训练好的模型不可能预知边缘侧特有的数据特征。为此，我们使用终身学习技术更新预加载模型的参数，使模型更好地适配场景。

讲完了这些核心技术，接下来，我想通过商飞大飞机制造的一个实例，为大家具体介绍一下联想智能边缘计算在行业中的应用。

这里呢，是商飞的飞机零部件喷涂车间。飞机需要喷漆的零件高达数百种，在传统自动化喷涂实践中，机械臂的示教和调试要花费几周的时间；但如果采用人工喷漆，质量会依赖于工人的操作手法，也很难保证一致性。

这些棘手的问题，在联想智能边缘计算的助力下，迎刃而解。联想打造的晨星机器人，在强大的边缘算力和智能支持下，能让工人通过机器人精准地执行远程喷漆工作。现在请大家看演示。

首先，机器人会对整个车间进行空间扫描感知，数据在边缘侧的虚拟机上实时三维建图和渲染，并通过容器化的SLAM技术，导航定位，移动至指定的喷漆间。机器人的双目立体相机将操作台的工件和周边情况实时采集到边缘服务器。边缘服务器随后将3D视频流实时推送到AR眼镜。而工人通过AR眼镜和手柄远程操纵机器人同步执行喷漆，手感完全等同于亲临现场。这样操作一次自然示教之后，该零部件的喷漆能力就保存在了边缘侧，之后对于同样规格的零部件，机器人就能实现自主喷涂。此外，机器人还能进行基于计算机视觉的喷涂质量自动检测。

我们再来看看，刚才提到的几项关键技术是如何赋能这个场景的。飞机零部件喷漆，既需要虚拟机来支持AR模型渲染，也需要容器来支持机器人喷涂、漆面检测等应用。传统做法往往需要两台以上机器运行不同的虚拟化堆栈，分别提供虚拟机及容器资源。那问题来了，这样的两套方案使得系统开销增大，应用之间数据转发性能低，无法满足多终端实时并发渲染的时延指标。怎么办呢，联想的混合轻量级虚拟化引擎能在单台机器上同时提供轻量级虚拟机和安全容器承载这些应用，实现二者深度融合，有效增加了系统资源利用率，最大化提升了模型渲染和机器人不同任务之间的转发处理性能。

此外，喷涂质量检测需要将深度学习网络模型压缩部署在边缘侧。传统方法一般使用固定裁剪比，边缘算力无法得到充分利用。而联想创新的模型优化技术，通过渐近式搜索裁剪比，实现了模型精度和算力资源的细粒度匹配，让复杂模型得以更好地在边缘优化部署，实现了更高效的质量检测。

另外，在喷涂质量检测时，除了常见的缺陷，总是会存在检测范围外的新的缺陷种类，云端下发的预训练模型对此无法应对。为此，我们通过终身学习技术在边缘侧持续更新模型，让机器人学会处理新问题，扩展新的检测能力。

联想的智能边缘计算技术的应用远远不止智能制造。它还为京东智慧园区，洛阳5G智慧龙门景区等提供低时延、高可靠的智能服务。我相信，智能边缘计算，将有力地推动新基建的发展，促进人工智能变成一种普惠的资源，渗透进各行各业。一座座智慧工厂，一个个智慧园区将不断涌现，人类的生活和生产将更加智能、便捷、和高效。智能，为一切可能！

这就是我今天的分享内容，稍后是精彩的新基建圆桌论坛，谢谢大家！