安永分析与咨询全球主管：AI道德框架首要核心是尽量避免偏向性

近年来，人工智能(AI)的应用发展飞速。根据Gartner 2019年CIO调查报告显示，过去四年中实施人工智能的企业数量增长了270%，而且在过去两年中增长了3倍，几乎所有行业的企业组织都在各种应用中采用人工智能。

与此同时，AI在道德伦理等方面成为了核心关注点，全球人工智能专家吴恩达也曾对此表示担忧：“很多企业高管并不能真正了解AI能做和不能做什么。”

到现在，国际人工智能界也在不断推动相关技术标准及社会规范的研讨和制定，如IEEE全球人工智能与伦理倡议、阿西洛马人工智能23条伦理原则等等。还有科技公司巨头也纷纷加入，比如Facebook成立了一支专注于人工智能开发伦理的特殊团队，以确保该公司所研发的人工智能算法是公平的，并且能让所有人都受益。

具体来说，AI技术给企业带来了哪些方面的变革？企业在运用AI技术的同时又该如何应对和设置相关的道德框架与标准? 安永分析与咨询全球主管Beatriz Sanz Saiz对此接受了腾讯科技的专访，做出了相关的分享和解答。

AI对企业的变革影响力有三大关键词

腾讯科技: 大数据和AI技术对企业有什么作用？大数据应用会给企业带来什么风险？

Beatriz Sanz Saiz：我们认为算力是AI的核心所在。当然我们考虑的不是AI本身，而是能将AI技术嵌入或者融合到业务的方方面面。比如说以定制化为中心、以产品为中心、以客户为中心等业务方案中，AI技术都是可以在其中起一定的作用。

AI目前还存在着一些风险，比如说涉及到了跟系统有关的信任问题，对于很多企业来说很难向客户去证明AI产生的结果。对此我认为其实人类需要的不是去监管AI，而是在此基础上有一个更强的AI。我们必须得知道AI如何会影响和改变到人类的社会竞争关系。在这里有几个关键词要分享：

第一个是数据。分析数据的AI将会是非常重要的能力。在过去的几年当中，对于各个公司来讲，数据成为了非常重要的分界线，在2022年的时候，90%的公司的战略就会直接的以数据为驱动力，而且数据将会是非常重要的资产。

第二、生产率。生产率是我们现在在进行工业革命的时候要解决的问题，我们要把人类的生产率和机器生产率要结合在一起。并且在进行规模化生产时，我们也不单单只是用通过人工的规模，在未来我们将会把它放在机器的规模上。

第三、人才。AI对人才竞争会造成颠覆性的影响。比如说物联网、AI和区块链之类的新兴技术，可以帮助传统的企业和行业进一步的革新自己，从而改变行业对人才的需求。

AI的道德伦理方面需要企业内部和产业协同

腾讯科技：AI技术只是更为智能带并不代表安全，企业又该如何让用户信任AI新技术的安全性呢？

Beatriz Sanz Saiz：目前业界都在关注AI技术安全性方面的问题，其实信任涉及到一系列的符合标准，比如包括平台系统的问题。实际上，我认为人们要更新一个认知，就是AI更多的是和自动化有关,但并不会帮助我们解决所有的问题。

保护客户以及获取数据的安全性才是至关重要的。在这里我想与各位分享和关注几个概念，就是什么叫做“开放的平台”，什么叫做“用于数据交流的平台”，以及“数据在什么程度上进行开放”。

我们在跟一些企业沟通的时候，发现很多企业是愿意开放交流的。但是这其中有一个重要的问题我们必须要理清，就是在获取了这些数据之后，我们如何保护、治理和管理这些数据。比如在安永的内部，有一些专门战略性的项目是关于数据网络的，我们需要考虑的就不仅是客户的安全，还要考虑如何保护一些云端的供应者。

另外，我建议企业要有一个专门的框架，这个框架是涉及道德和信任的，这也需要业界的合作，在几周后我们将会参加一个主题是“关于AI的管理”的全球性峰会，有很多国家的与会者都会来讨论一些文件，一起讨论未来企业的走向是怎么样的、各个国家的情况是怎么样的、核心的问题是什么。总之，我们要讨论的是AI跟道德、信任有关的内容，以及各国应该如何以更有责任感的心态去应用AI等等。

AI的道德框架首要核心要尽量避免偏向性

腾讯科技：您刚才提到了公司内部会设立一个AI在道德方面的框架和标准，这个框架具体是如何制定的？您对企业在这些方面的推进有哪些建议？

Beatriz Sanz Saiz：首先，框架是要基于技能基础上实现的。其中有些要素需要注意，比如要考虑到每一个终端的消费者，他们是怎么样运用AI的，如何以有道德的方式运用AI。我建议所有人及企业都必须了解到，为什么要谈论AI、为什么要运用AI，还有以什么样的目标为导向，去带有目的性去制定框架。

我建议企业在培训和建成一个模型的时候，要尽最大的可能的避免可能存在的偏向性。举个亚马逊的例子，亚马逊在应用AI的时候，证明他们在雇佣员工的男女性别方面有偏向性。再比如，如果是风险行业、金融市场包括一些财富管理公司，这些都跟深度学习有关，这是一个新的问题，会涉及新的模式，当然也不可避免会有一些问题的存在。但我们能做的就是继续收集和分析数据，注重数据本身的品质和质量，而且尽可能避免偏向性的存在。

另外，我们必须考虑到这些算法最终涉及的利益相关方是谁，比如说是消费者还是法规制定者，还是每个公司的员工等等。这就涉及到是否完全达成了透明度，透明度指的是我们怎么样运用这些信息的，还有其中算法的表现如何、在未来给利益相关方带来什么样的影响，以及利益相关方是哪一位或者哪一个群体等等。

一般来说，我们和一些企业沟通的时候，他们可能理解的就是数据的管理还有包括运作模型等等。现在反而我们会跟他们说建议少谈一些算法，不要一直纠结在算法或者关于AI的指数级增长等方面。我呼吁所有的企业看重的不仅是找到这些解决方案，更多的是怎么把AI治理做的更好。和两年前对比，这部分的推进和发展速度非常快，而且远远超乎一个企业的讨论范畴，它已经涉及到国家层面甚至是全球层面，波及范围非常之广。

总的来说，其实关于AI或者大数据，它只是一个参考点。我们把它引入到客户的概念中，是让他们更好的理解市场，提供另外一个角度去了解为什么数据可以这样被应用，这些是他们需要了解到和考虑到的。