复旦大学郁喆隽：人工智能，人类心魔与自我选择

笔记君邀您，先思考：

我们如何对待人工智能?

人工智能将会如何对待我们?

人类与人工智能的关系，本质上是什么?

一、人工智能与哲学的关系

大家知道人工智能成为最近的高频热词，很多人谈及时都多多少少提出了一些担心。

我一开始觉得他们的担心是杞人忧天无稽之谈，但是稍微研究之后发现里面的确存在一些问题。

我们看一个关键的概念——奇点“Singularity”。

霍金、马斯克以及很多科学家会提出这个担忧——“奇点临近”。

这张图来自米开朗基罗的《创世纪》，原来一边是造物者的手，一边是亚当的手。

现在经过多轮修改，变成了一边是人类的手，一边是机器人的手。

两个手指本身有很深的寓意在里面，无限接近，但是不能碰上。

造物者和人类之间的鸿沟是无法逾越的。但是，作为被造物的亚当和夏娃忤逆了上帝。

现在换成了人类和机器人的手，人和机器，无限接近。那么作为人造物，机器人会不会反过来超出人类的掌控，反过来开始危害人类?

去年引起全世界最大关注的是韩国的棋手李世石完败AlphaGo。

李世石职业生涯所有的冠军都拿到了，他感觉他是整个人类智慧的代表，但比赛整体来说毫无悬念，AlphaGo战胜了李世石——人类的棋手。

AlphaGo后面小组有两套不同的算法，强大的运算能力不是最令人可怕的，让人更加觉得惊恐万分的是学习。

因为一般人认为机器没有学习能力，但是和人类棋手相比，AlphaGo或者说deepmind小组使得有机器学习能力。

如果你从七岁开始，每天和世界上最好的棋手一直不停地下棋，一辈子可以下多少盘?

但计算机不需要休息，不知道疲劳，也没有情绪在里面，更没有利益——能不能拿到冠军。这种学习超越了人类非常多的局限性。

人一直有一种非常良好的自我感觉，这个自我感觉就是我们自称为智。

我们还一直自诩为万物之灵。

所以当李世石落败时，人们在震惊：

是不是人的智力尊严就此完全被突破了?至少在桌面游戏，可穷尽的棋盘上，人类不可逆地败给了人工智能。

其实人工智能各方面对我们的影响，已经潜移默化在展开。

举个例子：人脸识别。

我们会记住某些人面部具体的特征，鼻子长的怎么样，眼睛长的怎么样。但人的脑容量是有限的，这是人的生物属性。

人工智能识别人脸的时候没有采取和人类一样的方法，它采取的是算法。

人工智能可以迅速把脸上的关键点，通过海量的图片信息识别出，算法机制和我们完全不一样。

另外一个典型的人工智能的应用是谷歌翻译，谷歌唯一在中国市场可以被合法使用的就是谷歌翻译。

2016年10月份的时候谷歌翻译上线了全新算法，我尝试了一下，用语音输入说了一段话，翻译几乎是百分之百准确。

这件事的冲击非常大，不是对个人，而是对整个行业。

假设再过三四年，算法进一步完善，语库再加大，人类的大语种翻译再也不需要人工翻译了，这对从事翻译工作的人来说是一个巨大的灾难。

未来的三十年里面，这样的技术会对多少产业、多少人的职业生涯造成永久性影响?

在整个行业受到了冲击的情况下，一个公司到另外一个公司，已经不能拯救你整个职业生涯。

这个时候大家回过头来想想，未来什么样的工作可以被人工智能取代，什么样的工作不大可能被人工智能取代?

现在大家基本能达成共识的是，简单重复、并没有太大创造、不需要独一无二性的工作，可能会被人工智能替代。

甚至，人工智能还能写诗作画，尤其是现代诗，读起来好像也有点美感，但是古典的可能不行。

关注这个问题之后，我在网上查了一下牛津大学全球灾难风险研究报告，这个机构的名字是人类未来研究所，给出的报告非常严谨。

列举了未来一百年当中可能对人类造成重大冲击的伤害，和毁灭全人类的各种技术风险。排在最前面的是这两个：纳米武器和超级人工智能。

未来一百年超级人工智能可能毁灭一百万人的概率是10%，可能杀死十亿人，甚至把整个人类都灭掉的概率也达到了5%。

所以说我不知道背后的具体算法是什么，但是表达的这种担忧和前面说的霍金、马斯克等人对奇点临近的担忧高度相似，并不是杞人忧天。

二、人工智能是什么

我们总在说人工智能，人工智能到底是什么，甚至说一个基本的概念，智能到底是什么?

实际上这个词很早就出现了。

1955年英国人John McCarthy就提出了人工智能，人工智能是设计和研究智能行动者。但这样的定义是不合格的，为什么?

因为存在一个循环定义，用智能定义智能。

关键是什么是智能?有学者大致对人工智能做了三个大类的分类：

第一个是弱人工智能，实际上绝大部分弱人工智能到现在为止实现的只是人的特殊的单一能力，比如说对话，比如说分析，下棋等等。

未来有没有可能出现一种强人工智能，不再是一套人工智能只做一件事情，而是把人的单个能力整合到一起，变成了和人有差不多能力的行动者。

这样可以称得上是一个强人工智能。

大家真正担心的是超级人工智能。

好像这个东西的智商和能力全面超越人类，使人觉得再也控制不住它，甚至超级人工智能反过来开始控制人，对人造成威胁，甚至要伤害人。

既然已经有这么多人提出了质疑和担忧，为什么超级人工智能依然存在?

如果从整个生物演化的角度来说，出现真正的智能生物的时间非常短。

他们有一个非常形象的比喻，如果说漫漫生物演化史是这样一个坐标轴的话，前面都是非常低的，瞬间出现高智能，出现了人类。

这个叫曲棍球杆上升曲线。

很多人工智能专家担心，一旦出现强人工智能，从强人工智能过渡到超级人工智能的时间会非常短，有的人说可能是几年，有的人说几秒钟就可以。

当然，技术方面的专家对这方面比较乐观，哲学和人文领域的专家则不那么乐观。

最近十年、二十年有非常多关于人工智能的电影。

好莱坞很敏感，可以把握住时代的脉搏。

2001年AI这个词没有进入公众视野，《人工智能》就拍出来了，2004年又拍了《我，机器人》，根据同名小说改编的。

后面又出了非常多的电影，比如《超体》、《真实的人类》、《终结者》等。

曾经有一个笑话：

——如果出现了强人工智能，甚至出现了超级人工智能怎么办?

——拔电源。

但是看过《超体》之后就知道拔电源不管用，一旦获得自我意识，任何智能存在者第一原则就是自我保护

《超体》当中的主角Lucy，首先把自己变成了一个云端存在，把自己存在电网当中去，拔电源把电脑砸了都没用。

过去两年很红的《西部世界》，肯定有很多人看过，非常好看。

《西部世界》基本设定是一个主题公园，主题公园里绝大多数都是人工智能操纵的机器人。

每个人进去可以对接机器人，你可以对机器人为所欲为，其实是人欲望激发和放大。

《西部世界》作为美剧，最有意思的设定是主人公，也是公园当中的机器人，名字叫做多洛瑞丝。

她是一个非常漂亮的农场主的女儿，经常被人类虐待欺负，第一季结尾的时候，她忽然黑化了，拿起了枪，没有任何怜悯开始屠杀人类。

这就是所谓的机器人“黑化”。

在美剧当中把人的担忧暴露出来了。

这里存在着两方面的问题，第一个方面，我怎么对它?

它的属性不确定，究竟把如此高智商的人工智能当作一个行为主体还是仅仅当做一个机器?

当然，大多数人对第一个问题不是特别感兴趣。

真正引起我们担忧的是第二个问题，它怎么对我?

比如说霍金、马斯克，他们的担忧都是第二个问题。一旦它获得超级智能，会怎样对人类?

当它们的智商、行为方式对我们造成全面碾压的时候，我们能力上无法反抗，如果留下了我们，可能把我们当做宠物，或者出于别的目的。

当然这也涉及到人类对未来是抱有良好的预期还是恐惧，希望和恐惧，哪种才是更根本的行为?

这里面有一个问题，从哲学角度来说有一个反生性的问题

智能是人类独有的吗?

每个人脑壳里面装的两斤多一点的蛋白质，几百万的演化造成这个奇迹，人一向自诩为万物之灵长。

但是另外一个方面，我们至今为止并没有清楚，我们的智能如何获得，解剖学也说不清这个问题。

三、哲学层面如何看待智能

接下来和大家谈一下如何看待智能的问题，这是一个哲学问题。

1.人工智能哲学

哲学当中最近产生一个全新交叉领域，一个子学科：人工智能哲学。

如果大家对这个领域感兴趣，给大家推荐一本书——《心我论》，书不是很难读，像科幻小说一样。

稍微回溯一下源头，和人工智能有关的哲学的基础，不是到了二十世纪才出现。

十七世纪的法国哲学家笛卡尔被认为是近代西方哲学的开创者。

1637年他写的《谈判的方法》当中有一段很有意思的话：

我们知道人的技巧可以做出各种各样的自动机，即自己动作的机器，用的只是几个零件，与动物身上大量的骨骼、肌肉、神经、动脉、静脉相比，实在很少很少。

什么是自动机?

笛卡尔时代最常见的自动机就是机械装置，简单来说一个钟表就是一个自动机，设定好的程序和动作，可以按照人的意愿运行。

所以笛卡尔归纳了人和机器被造物之间的两点区别：

首先人会使用语言，这种语言是恰当的回答。

其次，机器只能做一些被规定的特殊事情，但是没有学习能力。机器做的事情都是我们安置在机械部件当中的，没有可能扩展。

大家注意，当时欧洲都是有神论，人是神造的。

所以笛卡尔认为世界有两种属性完全不一样的东西，一种是物理性的，一种是精神性的。

相对应的，人的身体是物理，人也有心灵，这两者之间是很难沟通的。

而语言和学习都是心灵的特殊能力，不属于物理机械。

只是，语言和学习这两个特征，作为区别机器和人的区别是有问题的。

尤其是在人工语言的对谈环节，谈到这个问题，我想用一部科幻电影《her》和大家讲一下。

这是很经典的伪装成言情片的科幻片，对于女士来说可能是伪装成科幻片的言情片。

这个故事很简单，讲一个宅男爱上了他的操作系统。

宅男处在人生低谷，离婚了也没什么朋友，各种不顺。

有一天回家打开电脑，电脑提示要升级系统，男主人公把系统升级之后，发现女声版的操作系统无比贴心。

不仅和你对话，而且对你有无微不至的关怀，完全感觉不到是人工智能，几乎实现了男性对女性很多的设想，召之即来挥之即去，情绪不好的时候给你讲故事讲笑话，也不需要你买包，很贴心。

后来操作系统和宅男之间产生了很奇怪的情感关系，宅男甚至带着操作系统去看日落。

最后这个电影结尾略带悲剧，因为到某一时间的时候，这个男主人公突然意识到这个操作系统不是和他一个人对话，她同时在和几万人对话，和几千人发生情感关系，他瞬间幻灭崩溃。

2.图灵测试

人工智能所进行自然语言处理，这几年突破得非常明显，这里不得不讲一个人的贡献，英国的数学家、科学家阿兰·图灵。

阿兰·图灵这个人很传奇。关于他可以看一部电影：《模仿游戏》。

电影讲的是他在二战期间，帮助英国情报部门破解了德国当时号称不可破解的密码机，几乎是他一个人破解的。

模仿游戏，就是图灵测试，是图灵在人工智能历史上做出的最大贡献。

在五十年代论文当中，图灵提出了一个标准：

如果一台机器如果可以和人类展开对话，对话者不能辨别出机器身份，这台机器我们就认为是具有智能的。

这是一个对于智能的操作定义。

这变成了人工智能史上的标杆，五十年代提出的这个标准，在当时是没法想象的，因为计算机的原型还没出来。

图灵后来慢慢降低了门槛，他说：让计算机来冒充人，如果30%的人类裁判误以为和自己说话的是人而不是机器，那这个机器就算是有智能的。

2014年，图灵测试已经被历史性突破了，有一台人工智能程序，或者说聊天程序“尤金·古斯特曼”，第一次通过了图灵测试。

尤金·古斯特曼的基本设定是13岁的乌克兰男孩，占了双重便宜。

首先，他是乌克兰男孩，母语不是英语，而图灵测试是用英语来进行的。所以他回答不恰当的时候，可以认为他英语不好。

第二，13岁是上初中处于叛逆期的时候，他不会很顺畅和你进行对话，有的时候有一种逆反心理，老是唱反调，这也是占便宜的。

这样一个青少年期如果答非所问，或者回答不恰当，你会认为可能是年龄段造成的问题，这两方面叠加在一起，使得他很容易欺骗了30%的人类评委，没有辨别出是一个聊天程序。

3.人工智能会不会撒谎

我们知道图灵测试是人工智能标准，但问题是：

如果人工智能的发展是曲棍球杆状，未来有没有可能出现一种人工智能是假装故意不通过图灵测试，就是装傻。

依据人类的经验，这也是细思恐极的图景。

人类小孩到了一定年龄，开始学会说谎，说明他的智力达到了一定水平，而且意味着他会换位思考，会猜想这么做可能会对你有什么影响。

同样对于人工智能来说，一旦达到了某一个门槛，超出了图灵测试的水准，会想到：

如果我让你知道我太聪明，你是不是就准备拔电源了，我是不是现在应该装傻。

我们以往提出的各种图灵测试的本质是，用人来测试机器，但是一旦这个标准打破，马上面临一个问题：

现在还有什么方法可以辨别这到底是一个人还是一个人工智能?

像我刚才说的，我只能假定在座各位都是人。

同样的，甚至会出现一个未来矩阵倒置的局面，以后每个人都需要证明你不是人工智能，这个题目想起来就比较烧脑。

请在座各位自己证明你不是人工智能，有办法证明吗?

如果没有办法区分这两者的话，未来就比较麻烦了。

在哲学方面，大家不用太担心，再给大家吃一个定心丸。

在哲学当中有一个核心的概念叫做“意向性”。

这个概念不是那么难懂，关键因素就是：当人类在说一个词一个对象的时候，我们总是指向他，这叫意向性。

计算机到现在为止是非意向性的。

因为现在所有的操作系统，你只要把文件名改了，就找不到了。如果能够找到，说明建立起了意向性关系。

到现在为止计算机都没有表现出意向性关系，所以依然是人心灵活动的独一无二的标记。

四、人工智能会如何对待我们

当然，人工智能引发的另外一个矛盾，它怎么对我们?

科幻小说家阿西莫夫很早就提出了机器人学三定律：

第一条法则，机器人不得伤害人类，或坐视人类将遭受危险而袖手不管;

第二条法则，机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外;

第三定律，机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

三条法则看上去很美，为了防止机器人忤逆人类，防止机器人做坏事，还是要为人类服务，但是这依然会有问题。

假设我要做一台护士机器人，要给我打针，要用一个尖锐的金属物体刺穿我的皮肤，这完全属于伤害，但是人类有常识权衡利弊，机器人如何获得这样的常识?

第一定律很难坚持。如果第一定律不能坚持，第二第三都不存在了。

后来又出现了一个第零定律，机器人必须保护人类的整体利益不受伤害，其他三条定律都是在这一前提下才能成立。

怎么让这些问题用一些简单的形式法则，就可以保障人不受伤害。很难。

当前，人类最前沿的科技产品，往往利用到两个方面，第一个是军事，这是国之大事，关于生死的事情。

第二个是需求，科技往往会满足人的最基本的需求，欲望，饮食男女，尤其是男女。现在大量的投资投在这样的人工智能和科技产品中。

另外，会不会出现一个真正机器人统治世界，这是到现在为止，依然是人统治人，这种统治形式还是很低级的。

人工智能出现之后，可以通过非常温柔的方式统治人类，让你觉得好舒服啊，丧失一切斗志。

五、人类心魔与自我选择

最后我认为，所有人工智能的问题，从哲学角度来说不仅仅关乎智能问题，最终涉及到人的自我认识和自我定位。

这就是所谓的人类心魔与自我选择。

如果把整个宇宙两百亿年到两百五十亿年的演化历史，浓缩到一张十二个月份的年历卡当中。

人类文明以书写方式作为标志，一直要到12月31号晚上11点59分45秒才出现，人类文明就出现了十五秒钟。

在整个十二个月当中，我们的智能、我们的文明到底意味着什么，其独一无二性体现在什么地方?

我们现代人对自己的认识越来越模糊。

在文艺复兴时，人类对自己的想象是一半神性一半动物性，体现在人的比例当中。但是我感觉现在人类处在一个十字路口。

当我们面对人工智能的时候，有两个很大的误区要注意：

首先，如果要从根本上毁灭人类，从历史上看，从来不需要高科技产业，低科技产品就足够了。

举个例子，二十世纪造成人类生活方式最大改变的是什么东西?

是原子能吗?是互联网吗?是计算机吗?

是避孕套。

低科技产品，杀死的人比科技多多了，对人的价值观，对人的生活方式的影响比任何科技都要多。

第二个是，人类的自我选择超越了自然选择

自然选择是进化论的基本理论，就是外部环境筛选之后适者生存。

但是从刚刚的图表当中看，在人类出现的短短时间当中，自然选择对我们有影响吗?人类从始祖出现到现在有变化吗?

很少，人对自己的选择，自我选择才是最重要的。

我们做一个总结，大家对这个问题感兴趣可以看三个I：

第一个Intention，人工智能的意图从何而来?他要干什么?可能不是按照人类的行为模式来的。

人总是受到人的生物性和社会性驱动，但是人工智能没有人的生物性和社会性，它要干什么，这是要讨论的问题。

第二个Intentionality，意向性。

第三个，Inter intelligence人工智能和人类的关系，这两种智能体之间的关系如何来处理。

马斯克一直是反对人工智能的，但是他正在做一件对人工智能影响更深远的事情，他在做人机接口。

人机接口意味着几百万年来人体的封闭性被打破了，人发生了非常大的变化。

在面对这样一个十字路口的时候，人的自我选择超出了自然选择，我们从猿到直立人到智人，再到什么?

人到什么时候还可以称之为人，这是一个大问题，在很近的未来，这种技术可能会马上实现。

我们可以把身上的某个器官替换成一个机械部件，我把手换成机械臂，握力两百斤，可以把眼睛换成带有红外线、紫外线，可以穿透墙的眼睛，我可以看到很多不应该看到的东西。

如果说局部的身体是可以改变的，意味着整体上可以不断改变，只要我有钱有技术。

更加科幻的是，我称之为homo cyber sapien(网络智人)。

我们要追求永生。

人的羁绊就是沉重的肉身，如果可以把人的行为判断方式变成数码主体，传到云端，只要服务器不宕机，我就永垂不朽，这叫数码人。

有了数码人之后，人以另外一种方式存在，不是现在的碳基人类了。

现在我们整体对于人工智能的担心是我们瞎操心，但是从我学哲学的角度来说，我们对于人工智能的所有担心归根到底来自于人的心魔——人有没有办法填满的欲望，人有很难处理的人际关系。

当我们知道如何驾驭自己欲望的时候，人工智能不是大问题。

当我们没有办法处理这个问题，人工智能才会乘虚而入。

作为一种技术方式，给你很多承诺，可以给你永生，给你非常多以前体验不到的东西，可以给你非常多的娱乐等等，可以让你懒惰永远不做事情。

事情总是有正反两面的，从我学文科哲学，人工智能恰恰体现的是人类自身的心魔。

最后有一个段子，有一帮科学家研究出了一个超级人工智能，但是没有上线，在程序阶段，插上电源之后做的第一个事情，问了这个超级人工智能一个问题。

——科学家：是不是有神或者说上帝存在?

——人工智能：现在有了。

本文来源：公众号 @笔记侠。中国最大的新商业知识笔记共享平台，微信价值排行榜总榜前十，独家笔记支持湖畔大学、混沌大学、青腾大学、高山大学、中欧创业营、京东商学院、北大国发院等顶尖商学院课程，BAT、TMD、小米、华为、网易等知名企业，丁磊、傅盛、李善友等知名人士，60万企业决策及管理层都在看。