从“神经网络之父”到“人工智能教父”杰弗里·辛顿的传奇人生

深度学习、人工智能已经诞生了数十年时间，但直到近几年才受到各大科技公司的重视，被认为是硅谷科技企业的未来， 人工智能领域有三大奠基人，分别是Geoffrey Hinton、Yann LeCun与Yoshua Bengio，今天为大家介绍的是深度学习的开山鼻祖Geoffrey Hinton。

Geoffrey Hinton，被称为“神经网络之父”、“深度学习鼻祖”，他曾获得爱丁堡大学人工智能的博士学位，并且为多伦多大学的特聘教授。在2012年，Hinton还获得了加拿大基廉奖(Killam Prizes，有“加拿大诺贝尔奖”之称的国家最高科学奖)。2013年，Hinton 加入谷歌并带领一个AI团队，他将神经网络带入到研究与应用的热潮，将“深度学习”从边缘课题变成了谷歌等互联网巨头仰赖的核心技术，并将HintonBack Propagation(反向传播)算法应用到神经网络与深度学习。

从Geoffrey Hinton家族开始说起

Geoffrey Hinton出生于战后英国的温布尔登，他的父亲叫Howard Everest Hinton，是个英国昆虫学家，喜欢研究甲壳虫。他的母亲Margaret是一位教师。而他们一家也都流淌着饱含聪明才智的DNA：他的叔叔是着名的经济学家Colin Clark，正是他发明了“国民生产总值”这个经济学术语;他的曾曾祖父是着名的逻辑学家George Boole，他发明的布尔代数(Boolean algebra)奠定了现代计算机科学的基础。

在过去的三十年，深度学习运动一度被认为是学术界的一个异类，但是现在， Geoff Hinton（如图1）和他的深度学习同事，包括纽约大学Yann LeCun和蒙特利尔大学的Yoshua Bengio，在互联网世界受到前所未有的关注。Hinton是加拿大多伦多大学教授和研究员，目前就职于Google，他利用深度学习技术来提高语音识别、图像标签以及无数其他的在线工具，LeCun在Facebook做类似的工作。当下人工智能在微软、IBM以及百度和许多其它公司受到极大的关注。

我非常兴奋，我们发现一种可以使神经网络变得更好的方法，尤其是这种方法能够揭示大脑是如何工作的时候——Geoff Hinton

Geoff Hinton 等人亲手缔造了深度学习的复兴

Hinton本科阶段在剑桥学习心理学，他意识到科学家们并没有真正理解大脑——不能完全掌握数十亿神经元之间的交互以及如何提升智力。这些科学家可以解释电信号沿着一个轴突连接一个神经元到另一个，但他们无法解释这些神经元是如何学习或计算的。Hinton认为这些都是大问题，答案可能最终让我们实现1950年代人工智能研究人员的梦想。

他也没有答案，但他将尽全力寻找答案，至少改进的人工神经网络可以模拟人脑的某些方面。“我非常兴奋，我们发现一种可以使神经网络变得更好的方法，尤其是这种方法能够揭示大脑是如何工作的时候，”Hinton说，洋溢着青春的热情。

这些人工神经网络可以收集信息，并且能够做出反应，它们可以理解东西看起来什么样或听起来像什么。当你将单词组合起来，它们在做决定的时候会变得更聪明，而在完成这些过程中不需要人类提供物体或对象的标签，这是传统的的机器学习工具做不到的。

随着人工智能的发展，这些神经网络将更加快速、灵活、高效，它们随着机器规模的增加而变得更加聪明，随着时间的推移将能够解决越来越多的复杂任务。

早在80年代初，当Hinton和同事开始这个想法时，那时的电脑性能还远远不能处理神经网络需要的巨大数据集，成功是有限的，随后人工智能社区背弃了他们，转而去寻找类人脑的捷径，而不是尝试模仿大脑的运作。

但仍然有一些研究人员坚定地支持Hinton的工作。根据Hinton和LeCun回忆，这极为艰难，甚至直到2004年——已经是Hinton和LeCun第一次开发“反向传播”算法神经网络20年之后了——学术界对这些毫无兴趣。

但是那一年，从加拿大先进项目研究所（CIFAR）拿到的极少量资金，并在LeCun以及 Bengio 的支持下，Hinton建立了神经计算和自适应感知项目，这个项目只邀请一些计算机科学家、生物学家、电气工程师、神经科学家、物理学家和心理学家。

通过招聘这些研究人员，Hinton旨在创建一个世界级的团队，致力于创建模拟生物智能的模拟——模拟大脑如何筛选大量的视觉、听觉以及书面线索来理解和应对它的环境。Hinton认为建立这样一个组织会刺激人工智能领域的创新，甚至改变世界，事实证明，他是对的。

Geoffrey Hinton 曾感慨自己的学术生涯就像 ANN （人工神经网络）一样起起伏伏，所幸的是，这位 Gatsby 的创立者一直没有放弃 ANN 的研究。他们为实现早期的想法，定期聚集在一起召开研讨会，构建了更强大的深度学习算法，操作更大的数据集。期间赢得全球人工智能比赛，再然后互联网的巨头开始注意到他们。

2011年，一位NCAP研究员和斯坦福的Andrew Ng在Google建立了深度学习项目，今天，公司用神经网络在Android手机和社交网络以及Google +上标记图像。去年，Hinton加入Google公司，其目的是进一步把这项工作做的更为深入。

每年不到一百万美元的CIFAR投资，Hinton和他的伙伴们带来的回报是丰厚的，这不仅发生在Google也发生在一些国家，包括加拿大。

在这个过程中，Hinton和NCAP已经改变了这个曾经抛弃他们社区的面貌， 当下大学生们从传统机器学习项目转到深度学习这种现象无处不在了 。毫无疑问，现在深度学习是主流。“我们不再是极端分子了”Hinton说，“我们现在可是炙手可热的核心技术呢。 ”

Hinton也周游世界并为深度学习积极布道，Hinton有一个习惯就是喜欢突然大喊：“我现在理解大脑是如何工作的了！”这很有感染力，他每周都会这样做，你很难模仿。

通过NCAP 和CIFAR，Hinton开办了一家暑期学校，致力于培养新一代的人工智能研究人员。有这么多的商业公司进入这一领域，这是比以往任何时候都更加重要。不仅仅是科技巨头加入这个领域，我们也看到大量的深度学习初创公司包括Ersatz,、Expect Labs以及 Declara。

“我们希望把AI和CIFAR带到一个美妙的新领域，”Hinton说，“一个还没有人或者程序到达的境界。”

和Geoff Hinton一起共同缔造深度学习复兴的大神还包括Yoshua Bengio（如图2）和 Yann LeCun（图3）教授，他们是Hinton坚定的支持者。

Yoshua Bengio（如图2）教授也是机器学习大神之一，他的研究工作主要聚焦在高级机器学习方面，致力于用其解决人工智能问题。他是少有的几个仍然全身心投入在深度学习学术界的教授之一，好多其他教授早已投身于工业界，加入了Google或Facebook公司。

Yann LeCun和Yoshua Bengio不同，他目前就职于Facebook，任Facebook人工智能研究院主任，也是人工智能尤其是深度学习领域最知名的学者之一，在多伦多大学随Hinton读博士后即加盟贝尔实验室，期间研发了卷积神经网络（Convolutional Neural Networks）与曾广泛用于手写识别和OCR的图变换网络方法。2003年加入纽约大学，从事广度与深度兼具的各类研究，涉及机器学习、计算机视觉、移动机器人和计算神经学。

毋庸置疑的是，深度学习以及整个人工智能领域已成为互联网巨头竞争的一个焦点。

深度学习领域人才极度稀缺

Montreal大学全职教授Yoshua Bengio表示：“深度学习现在炙手可热，目前的困境是缺乏专家，一个博士生大概需要五年的时间培养，但是五年前还没有博士生开始从事深度学习，这意味着现在该领域的专家特别少，可以说弥足珍贵、极度稀缺。”

据说目前深度学习领域的顶尖人才不超过50人，Andrew Ng表示深度学习领域人才匮乏的主要原因首先是数据，对于解决某些领域的问题，获取数据并非易事；其次是计算基础架构工具，包括计算机硬件和软件；最后是这个领域的工程师培养时间非常长。所以科技巨头们包括Google、Facebook、Twitter、百度等纷纷通过收购深度学习领域的初创公司来招揽人才。