傅莹:中国在AI治理问题上向国际社会释放了合作信号

2020年12月18日，清华大学人工智能国际治理研究院名誉院长傅莹在首届清华大学人工智能合作与治理国际论坛上发表以“人工智能与国际安全治理”为题的讲话。

她表示，中国在人工智能治理问题上向国际社会释放了清晰的合作信号。中国对人工智能的发展、应用乃至治理都是高度重视的，在治理和立法方面也迈出实际步伐。例如，2018年中国国家标准化委员会发布《人工智能标准化白皮书》；2019年国家新一代人工智能治理委员会发布了8条治理原则；2019年国务院颁布了《儿童个人信息网络保护规定》，加强对未成年人的信息保护；2020年经全国人大通过颁布的《民法典》中对保护个人隐私做出明确规定，要求不得泄露、出售或非法向他人提供个人信息等。傅莹，1978年进入中国外交部，2009-2013年任外交部副部长，负责过欧洲和亚洲事务。目前担任清华人工智能国际治理研究院名誉院长、清华大学战略与安全研究中心主任。傅莹近年来关注人工智能治理研究。她所在的清华大学战略与安全研究中心的人工智能治理项目小组，着眼于国际共同规则，在世界和平论坛上提出“人工智能六点原则”，探讨人工智能综合性治理的宏观框架。

以下为傅莹演讲全文：

尊敬的主持人，各位嘉宾，大家好！ 感谢主持人的介绍。上午大家谈到宏观的看法和主张。 我想呼应一下许多人谈到的，尤其是联合国副秘书长法布里齐奥·霍奇尔德、外交部国际经济司司长王小龙和科技部战略规划司司长许倞他们谈到的，关于构建人工智能国际治理体系和机制的重要性和必要性。希望能在人工智能领域建立包容性很强的国际治理委员会，通过共同探讨、研究、吸纳好的意见和建议，形成共同的国际规范，这是非常必要而且紧迫的。

下面我主要从最近中美学者“人工智能与国际安全治理”合作项目的角度，谈谈这个问题。论坛开始之前发布了我作为中方项目牵头人和美方项目牵头人John Allen介绍研究成果的文章，今晚9点在关于《人工智能与国际安全：挑战与机遇》的第三个分论坛上，中方团队的李彬老师和美方团队会作更详细的介绍，欢迎大家去听。

中国在人工智能治理问题上向国际社会释放了清晰的合作信号。

今年9月，中国国务委员兼外长王毅提出《全球数据安全倡议》，表示希望国际社会在普遍参与的基础上就人工智能的安全问题达成国际协议，支持通过双边或多边协议的形式确认倡议中的承诺。他提出有效应对数据安全风险应遵循的三项原则,包括秉持多边主义、兼顾安全发展和坚守公平正义。

确实，技术革命往往伴随不可预知的安全挑战，在这方面，国际关注的焦点之一是智能武器的道德和技术风险。清华大学战略与安全研究中心与多家国际机构围绕这个问题开展了研讨，包括与美国布鲁金斯学会的专家学者进行的三轮系列研讨，结合国际军控经验，寻找管控智能武器风险和国际安全治理的路径。

专家们梳理了智能武器可能带来的风险。一是由于人工智能技术不完善，智能武器可能导致更大的连带伤害。二是智能武器的训练需要大量数据，数据的污染和形成的偏见可能导致严重后果。三是人机协同的挑战，机器在可解释性、学习性、常识性等方面的不足有可能放大发生冲突的风险，等等。当然这些研判都是基于目前人工智能技术的状况，希望随着技术的不断完善有些问题能得以避免。

无论如何，专家们认为，既然人工智能武器化不可避免，需要寻找合适的治理路径。大家谈到，人类必须汲取历史教训，例如对核武器的治理共识就发生的太晚，导致人类曾经面临巨大威胁，互联网的治理也没有能够在早期实现。大家希望这次对人工智能，尤其是智能武器的治理，人类能走在技术变革的前面，充分认识其风险，早些达成治理共识。

专家们提出，需要采取军事克制态度，限制智能武器的损害范围，这一点也需要反映在公共教育当中。在路径方面，最重要的是如何使智能武器的发展和使用与现行国际法基本原则保持一致，包括《联合国宪章》和武装冲突法里面的相关原则，都是讨论的重要依据。有中方学者主张建构关于人工智能军事行动的国际规范，切实保证人在智能武器使用中的决定性作用等等。

诚然，这都是学术层面的探讨，参加项目的专家们都撰写了专题论文，可以提供给决策部门参考，这些路径是否可行，还需要经过大量的政策研究和论证。

这两年中美关系出现紧张状况，但是这个项目的研讨并没有受到大的影响，充分显示了两国学界的专业精神和对人类共同命运的责任感和使命感。专家们认识到，现阶段是构建人工智能国际安全规范的关键窗口期，希望两国抓住这一难得的历史性机遇，制定人工智能的国际通用规范。

中国对人工智能的发展、应用乃至治理都是高度重视的。2017-2018年间，中央政治局分别围绕大数据和人工智能进行了两次集体学习。

中国国内在人工智能的治理和立法方面也迈出实际步伐。例如，2018年中国国家标准化委员会发布《人工智能标准化白皮书》；2019年国家新一代人工智能治理委员会发布了8条治理原则；2019年国务院颁布了《儿童个人信息网络保护规定》，加强对未成年人的信息保护；2020年经全国人大通过颁布的《民法典》中对保护个人隐私做出明确规定，要求不得泄露、出售或非法向他人提供个人信息等。

总之，目前中美两国是人工智能技术研究和应用发展最快的国家，两国需要也有条件加强协调与合作。近年其他许多国家学界也表现出对人工智能应用的安全担忧，说明这是人类共同的难题，不是一国两国能够解决的。中美开展对话与合作至关重要，将能够为全球合作贡献智慧。希望和相信这不是一场“零和游戏”，人工智能最终应使得全人类受益。

谢谢大家。

傅莹论坛上还回答了记者的在线提问：“我们是否应该制定全球性的人工智能治理准则？”

她表示，当今国际社会并没有成立一个世界政府，要有一个大家一致遵守的、严格和严密的规则比较难，但是联合国在一定程度上发挥着协调国际治理的作用。刚才联合国副秘书长（法布里齐奥·霍奇尔德）在讲话中就谈到在国际治理方面加强合作和构建机制的必要性。

傅莹说，大家在讨论人工智能的国际治理时，经常引用在核武器治理方面享有国际威望和影响力的Pugwash机构（帕格沃什科学和世界事务会议）。“这个机构最初是由科学家组织起来，对后来核武器的治理给予了很多技术上的指导和政治上的影响。在生物科学等领域里，一些科研人员组成的机构也有很强的影响力。”

“所以希望在人工智能领域，能够出现被大家所接受的，由科研人员、政府和政策专业人士组成的机构，能把目前大家提出的关切和解决办法综合起来，形成对为未来治理的指导性意见。”

“在政府的作用方面，进入21世纪，各国之间的全球性合作比过去强很多，G20开会时领导人们也多次提到这方面的问题。所以我对在国家层面形成更多的共识和有约束力的指导方向也寄予期待。”