科幻作家刘慈欣： AI控制人类已悄悄开始

“现在，我们说人类被自己创造的某种力量控制了，或者统治了，比如AI。但此前没有过吗？也许在上古时代就出现过。”近日，科幻作家&IDG资本首席畅想官刘慈欣在2018IDG资本私享会上如是说。

刘慈欣指出，“《人类简史》里提出一个观点——我们驯化了野生的小麦成为农作物，还是野生的小麦驯化了我们。仔细想一想，可能后者更合乎情理。农民要照顾小麦，很辛苦，要给它浇水、除虫、耕地，辛辛苦苦就是为了让它一代代繁衍下去，而且繁衍得越多越好，某种程度上就是小麦控制了人类，但是我们意识不到这一点。你说人工智能什么时候控制人类，可能现在已经悄悄开始了。”

距离真正的人工智能还很远

真正的智能是什么呢？他解释称，大家都知道“图灵测试”，测试者与被测试者(一个人和一台机器)隔开的情况下，通过一些装置(如键盘)向被测试者随意提问。进行多次测试后，如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能。

真正的智能是什么呢？这个机器能通过图灵测试，但它假装通过不了，这才是真正的人工智能。还有比如说AlphaGo赢了柯洁，这个也不叫人工智能，它就该这样，那就是它最擅长的东西。真正的人工智能是什么，它赢不了柯洁，恼羞成怒，拿起棋盘往柯洁脑袋上砸。目前来看，人工智能走到这一步，还有很远。

AI人们对的担心“跑偏”了

刘慈欣说，现在人们对人工智能的未来最担心的，其实有点走偏了，即智能机器逐渐代替人的工作。而这提出了两个可能性：一个可能性很黑暗、很可怕——我们和机器的关系理不顺，大量的人失业找不到工作，社会越来越动荡，上世纪的卢德运动，一帮人砸毁机器，现在可能就是破坏网络、砸毁电脑。长期的动荡下去，这是一种可能性。另一种是光明的可能性——人和机器终于理顺了关系。建立了新的社会分配制度，让机器代替了大部分事务，同时给每一个人更富足、更优裕的生活。这是两种可能性，他们认为前面一种很黑暗，后面一种很光明，刘慈欣认为恰恰相反。

值得一提的是，他指出，“从目前来看，最需要人做的工作是基础科研。但有一个很令人担忧的趋势，传统的研究思路越来越多被大数据所取代，而对大数据的分析不是靠人分析，是靠机器分析，就是科研中相当一部分工作是由机器来完成的。这种情况如果发展下去十分可怕。”

人类的终极目标是什么？

他指出，大致有两个终极目标：一个是让整个人类的文明延续下去，延续到整个宇宙当中，扩展到宇宙当中。另外一个目标是，让我们每一个人过得都很幸福，充分发挥我们每个人的人生、人性，个体充分得到尊重。但是这两个目标有时候是矛盾的，所以得先搞清楚到底是哪个。

“给岁月以文明还是文明以岁月，就是涉及到终极目标不同。”他认为，是“给文明以岁月”，而不是“给岁月以文明”。我们真正给岁月以文明，真正我们文明发展起来，发展到遍布整个太阳系甚至整个银河系的时候，我们根本不会灭绝，当生存问题完全不需要考虑的时候，我们最后就可能面临大灾难，就灭绝了，什么都谈不上了。

刘慈欣说，“死”在科幻小说中和在主流文学中很不一样。科幻小说中的死，某种事物最后的灭亡包括人类最后的灭亡，不一定是悲剧的。因为这是它的必然结果，就像他以前常举的一个例子，写一篇小说，描写两个人白头到老、幸福生活了一辈子，这不是悲剧。最后加一句，他们都死了，一百岁，仍然不是悲剧，因为整个人类社会也是一样的。

如果我们真的“给岁月以文明”的话，人类文明会存在相当相当长的时间，这个时间长到我们难以想象。

我们和外星物种的差别可能很大

提到外星人，刘慈欣说，“地球上的文明离的都不远，我们都近在咫尺，可以相互融合。最重要的一点，我们都是同一个物种，能够相互交流。我们和外星物种之间的差别可能比我们跟地球上一颗小草的差别都大。”

“我常常想，我们遇见外星文明的第一个问题，可能大家根本想不到，就是如何判断我们遇到的外星文明是有智慧的？如果面对一只蚂蚁，它能看到我们是有智慧的吗？它觉得人既不会打洞，也不会保护蚁后，也不会从外面抓昆虫，每天就在一个长方形上的东西(手机)上点来点去，也没有点出什么新玩意儿，这对蚂蚁来说可能不是一个智慧的生命。”他解释道。

刘慈欣总结称，“外星人到来也是一样，我们和他们的差别比蚂蚁和我们的差别要大得多。所以真正和外星文明的接触，对人类可能是一个极其残酷的问题，它的残酷性可能我们远远想不到。不是你和他应该怎么交流，而是人类可能连这个起码的资格都没有。”