知乎“瓦力”挑战AI技术世界难题 启迪内容平台价值观

北京6月25日讯现实生活中的社交，有着人们通常会自觉遵守的文明规范，但在网络上，很多人常常忘记社交礼仪的重要性，不再讲究语言的分寸，不认同别人的发言时，就用“脑回路真奇特”、“你是村里来的没见过高楼大厦吧”这样阴阳怪气的语言攻击对方。

这些话不违反法律，但当因为文化背景、生活经历的不同导致的看法不同，通过破坏性的方式表达时，损害了网络社区文明秩序，降低公共讨论的质量和体验。如今，互联网企业也已经行动了起来，比如知乎就通过AI技术尝试处理阴阳怪气的言论，以创新思路引导文明新风。

“瓦力”，是一种价值观

根据知乎内容质量团队技术负责人刘兆来的介绍，“瓦力”是负责知乎社区治理的算法机器人之一，可以实时识别和处理不友善、答非所问和垃圾广告导流信息。这一次，“瓦力”挑战的是困扰世界情感分析领域的前沿问题：“阴阳怪气”内容识别。

所谓阴阳怪气，是用户以反讽的方式攻击他人，影响正常的讨论秩序。比如现实社会里大家正认真讨论问题，突然出现一个人讽刺大家多管闲事，气氛马上就会尴尬甚至紧张起来。“阴阳怪气”言论的判定非常依赖个人感受，每个人的情绪阈值不同，且同样的语料在不同讨论语境下也会引发不同情绪，这更为算法识别带来了极大挑战。知乎在过去7年中所累积的“举报”等带有用户筛查性质的行为语料和丰富的社区管理经验，使得知乎得以迈出关键一步：用社区最大公约数作为判定尺度。

“我们基于对于用户切实体验的累积观察，与算法团队一起，从情感倾向性、亲密关系、文本特征三方面入手，训练出能够识别阴阳怪气的算法模型。目前‘瓦力’对阴阳怪气评论文本的识别准确率，已非常接近社区最大公约数，比很多人工判断都更准。”知乎运营总监孙达云表示。知乎近期会让用户自由选择是否开启“瓦力”智能过滤，真正让阴阳怪气识别技术进入产品化尝试。

互联网创造了公共讨论的空间，但随之也带来了大量网络暴力，甚至酿成如“北京90后女孩与父母两次自杀”等人间悲剧。更可怕的是，网络暴力没有幸存者，建立良好的网络讨论环境，也是保护每个网民切身利益的举措。知乎“瓦力”从识别不友善晋级到识别阴阳怪气，这一升级，对中文乃至世界互联网的讨论环境，将起到一定的促进作用。

在人类无法兼顾的海量信息中，让 AI 算法变得更聪明，尝试识别人类语言背后的情感意义值得称赞。更为重要的，是“瓦力”传达了知乎的积极导向和价值观。客观上看，算法是“中立”的工具，不同的目标和应用可以发挥完全不同的价值，知乎的选择，是用算法打造一个友善的、大家能好好说话的网络空间。

文明，是奋斗出来的

产生于上世纪80年代的“进化心理学”认为。人类心理也符合达尔文的进化论，一切本能行为都是为了保证自身的生存、繁衍。然而我们纵观人类发展史，却会发现每一次进步都是建立人类在对本性的反抗、修正之上，正是反省自身行为、克制原始冲动的能力，让人得以脱离丛林生活的野蛮。

有历史记载的几千年来，人类早已脱离了险恶的丛林环境。即便我们的心理仍然留着先祖烙印，但在经历数次工业革命，线上还构建起庞大的数字世界时，我们已经拥有了建设新生态的能力，而不是任由原始基因惯性发展。

互联网发展到目前阶段，也需要将上网礼仪这一议题提上日程。在对公共话题的讨论中，尊重他人、友善对待不同观点，应该是网络世界的一个基本交规。

互联网行业正成为精神生活的重要场所，同样也承载社会价值重任。在追求财富的过程中，互联网企业也应更多考虑平台内容的价值观内核，以正能量取代负能量，以积极引导取代消极放纵。知乎“瓦力”，给我们带来的不只是对AI科技的赞叹，也是启迪未来的开始和表率。