百度安全韩祖利：构建数据生命周期管理体系 应对AI安全新挑战

近几年，人工智能伴随着大数据迅速进入了你我的生活半径，然而其在带给我们大量便利的同时，也引发了众多的争议和担忧，尤其是在安全层面。

11月17日，在百度安全主办的2018天府国际网络安全高峰论坛AI安全分论坛上，百度安全产品总经理韩祖利发表主题演讲，在大数据的浪潮席卷而来时，聚焦AI时代下的安全新格局。

多重合力助力AI崛起

“前段时间我看到一个创业公司，它在帮助制造企业去做一个成品率的检测。”韩祖利以一个现实中的案例展开他的演讲，“我们都知道，生产线在运转起来之后如果停机，意味着整个损失将会是巨大的。这家公司的方案是在生产线的每一个环节设定一个信息的收集器，这个收集器可以帮助人们判断哪个环节可能存在不稳定因素，一旦出现劣品之后它可以迅速判断在哪个环节出了问题。”

“这个特别有意思，以前出现劣品，良品率下降，之前是需要大概一周的时间才能找到原因，到今天在不停机的情况下，它就可以判断哪里出了问题。”在韩祖利看来，这是人工智能落地的一个典型案例，而其背后AI时代的迅速到来，是多重因素合力的成就。

首先，是技术的革新和数据的激增，尤其是来自算法层面的突破。韩祖利介绍，由于有了大规模的、无监督、多层次的深度神经网络，“对于非结构性的数据处理，诸如图像、声音识别有了一个非常大的提升。”

基础层面的突破带来的是市场和资本的关注，事实上，AI并非是一个近几年才出现的概念，但一直以来其大多停留在了高校和大型企业的实验室里。但是，当谷歌的AlphaGo接连战胜了人类世界的顶级围棋高手时，市场意识到，AI的时代终于真正到来了——自2014年开始，仅在中国和美国，有关AI产业的企业融资规模就已经合计超过了1500亿美元。

产业的萌动和资本的追捧，也引起了国家决策层的重视。从“互联网+”到“中国制造2025”，在政府的工作报告和产业规划中，人工智能一词出现的频率正越来越高。

根据国家《新一代人工智能发展规划》的AI发展规划时间表，到2020年，我国的AI总体技术和应用将与世界先进水平同步，AI产业将成为新的重要增长点并成为改善民生的新途径。到2025年，人工智能基础理论将实现重大突破，部分技术与应用达到世界领先水平并成为我国产业升级和经济转型的重要动力。而到2030年，我国将成为世界主要的AI创新中心。

在技术、数据、市场和政策的多重驱动下，人工智能产业已然迎来了自己的快速发展期。

AI时代的安全博弈

“去年，我们还在讨论人工智能能改变什么，今年我们就已经看到人工智能进入到整个社会。AI正在不断渗透到我们整个社会中来，智能制造、智能零售、智能服务、健康医疗、智能教育、智慧城市，人工智能正在改变我们的生活。”在韩祖利看来，人工智能不仅延长了安全的防线，也重新定义了安全的边界。

“安全的核心就在对抗，对抗最根本的元素就是信息。”AI时代信息结构的复杂，已经超越人类理解的上限，当人工智能在越来越多的场景中做出决策时，我们还在使用传统安全视角做出防御。其问题在源于技术、设备和制度不完善的同时，也源于当前的AI模型和传感器比人类更容易被欺骗。

例如近期频频被提及的虹膜识别技术，尽管看似比指纹识别更具安全性，但据韩祖利介绍，在光照足够的情况下，“10米开外用单反相机就可以拍到人的虹膜，就可以低成本地复制出来，骗过市面上绝大部分虹膜识别系统。”实际上，指纹识别、人脸识别都存在着类似的问题，“生物特征是很容易被采集和复制的。”

而这也意味着，安全已经变成了一场多维度的博弈。在互联网时代，网络安全的定义主要是保证WEB互联网的安全和能有效保障中心化结构。在“安全CIA”三角闭环中，人们关注的更多在于保密性(Confidentiality)，包括有效和准确的授权、信息加密和身份认证;完整性(Integrity)，即不被破坏和修改、在无授权下不改变特征以及保证信息的正确性;可用性(Availability)，即能够满足授权用户的及时可得、保证服务可用。

但是，在AI时代，安全的边界大为扩展。在保证“安全CIA”的稳固同时，我们还需要关注隐私和可靠性。前者不仅包括数据产生过程的保护和数据的处置权、所有权，也包括对于数据流动的标准和规范;后者则要求保证数据采集的稳定性，且在处理中不被欺骗，并具备可确信的稳定数据。

“安全从原来的三要素，变成了AI时代五要素。”韩祖利表示，“之所以我们说它非常重要，是因为人工智能不但是帮我们观察一个世界，也在帮我们做一些决策。”

数据生命周期管理体系构建

“此前，我们的信息是存在数据中心的，我们只需要保护好数据中心就可以;但现在，这些信息分布在各个场所，比如在我们的家庭之中。传统的视角已经无法覆盖非中心化的数据结构，传统安全的思维和方法也无法保护AI时代的信息厚度。”

韩祖利认为，面对AI时代的安全挑战，我们应该对数据建立一套完整的“生命周期”管理体系。其中，“不仅涉及硬的方面，例如数据的采集、传输、存储、处理、交换和销毁的安全问题;也包括软的方面规划与规程、数据与系统资产、组织人员、服务规划、数据供应链和合规性的管理策略。”

今年，百度安全推出了BASS下一代AI安全技术栈，将七大技术——KARMA系统自适应热修复、MesaLink TLS下一代安全通信库、MesaLock Linux内存安全操作系统、MesaTEE下一代可信安全计算服务、OpenRASP下一代云端安全防护系统、AdvBox对抗样本工具包和HugeGraph大规模图数据库——全面开源汇成“七种武器”，全面解决云管端以及大数据和算法层面的一系列安全风险问题。

而基于包括“七种武器”在内的一系列技术能力，百度安全正在解决这一数据管理的困境。从智能终端到智能车机的安全解决方案，“我们正在帮助企业尽快完善AI时代的安全机制，让企业能够快速保护自己的安全，保护企业自己用户的隐私安全。”

从终端层面的应用、SDK及采集环节，到传输加密通道和传输内容加密，再到包含隐私风险态势感知平台的负责存储与发布的云端，百度安全的目标在于建立起一个保护数据安全和用户隐私的大数据平台。在利用数据为用户创造价值的同时，确保用户隐私的安全及应用的合规。

开放助共赢

AI时代，面对大数据浪潮着实难以逆浪而行，与其忧虑不如寻找正确的姿势，探索有效的方式，把数据系统地管起来，使其为你我的安全和便利所用。

当然，全新安全格局的构建绝不是单打独斗能够实现的。一直以来，百度安全始终倡导通过新一代技术研发与开源，实现对安全问题的快速响应、对抗，以及安全防护的层次化。联手学界、业界和监管机构一道，协作共赢，让更安全的AI驱动产业互联网的变革，打造AI时代的安全生态。