当地时间10月8日,2024年诺贝尔物理学奖公布,来自美国普林斯顿大学教授约翰·霍普菲尔德(John·J·Hopfield)和加拿大伦多大学教授杰弗里·辛顿(Geoffrey·E·Hinton)荣获该奖项。
诺贝尔奖委员会描述他们获奖的理由是,“以表彰他们利用人工神经网络进行机器学习的奠基性发现和发明”。人工神经网络是指一种模仿生物神经网络的结构和功能,并套用到数学模型或计算模型中。而机器学习包括了对大量数据的分类和分析。
此次摘得科学界桂冠的两位研究人员,有一个共同点——玩跨界。
他们成功将物理学上的观念应用在神经科学、遗传学等许多重要生物学问题上,使用物理学工具构建了有助于为当今强大的机器学习奠定基础的方法。以他们的研究成果为加速器,基于人工神经网络的机器学习目前正在彻底改变科学、工程和日常生活,对人类世界影响深远。
91岁的约翰·霍普菲尔德,于1933年在美国芝加哥出生,是家里的第六个孩子。由于双亲都是物理学家,约翰·霍普菲尔德从小对物理学的认识便与众不同。他曾对媒体回忆道,“我从小就习惯把所有东西拆解开,观察它们如何运作。电视机、收音机,甚至我的自行车与模型飞机,都被我拆解过;那些被拆开的东西,如果没办法靠自己组装回去,父亲最后还会细心地把它们组装回原本的样子。”
在霍普菲尔德的人生旅途中,并没有停留在物理世界,他还不断地向外寻找“那个值得解决的问题”,先后跨足分子生物学,以及当时新兴的神经科学及人工智能(AI)研究,并在各个领域都有不容忽视的发现或研究成果,例如他对血红蛋白的别构调控、tRNA参与蛋白质合成的校正机制等的研究
在1982年,霍普菲尔德提出了Hopfield神经网络(Hopfield neural network),这是一种结合存储系统和二元系统的神经网络,它保证了向局部极小的收敛,但收敛到错误的局部极小值(local minimum),而非全局极小(global minimum)的情况也可能发生。
Hopfield神经网络也提供了模拟人类记忆的模型。它是一种递归神经网络,从输出到输入均有反馈连接,每一个神经元跟所有其他神经元相互连接,又称为全互联网络。如其输出端会反馈到其输入端,在输入的激励下,其输出会产生不断的状态变化,这个反馈过程会一直反复进行。假如Hopfield神经网络是一个收敛的稳定网络,则这个反馈与迭代的计算过程所产生的变化越来越小,一旦达到了稳定的平衡状态,Hopfield网络就会输出一个稳定的恒值。
可以说,Hopfield神经网络不但为生物的联想式记忆(associative memory)提供了简单的数学模型,也为当时几近被废弃的人工神经网络,重新燃起一丝希望,它在人工智能之机器学习、联想记忆、模式识别、优化计算、VLSI和光学设备的并行实现等方面有着广泛应用。
霍普菲尔德曾在贝尔实验室工作过。35年来,他一直与贝尔实验室保持着密切联系。贝尔实验室在1987年成功在Hopfield神经网络的基础上研制出了神经网络芯片。
身为一位物理学家,却成功跨界分子生物学、神经科学与电脑科学的霍普菲尔德,一生获奖无数,2019年他摘得了物理及技术领域桂冠——富兰克林奖。
与霍普菲尔德一同登上诺贝尔奖高台的杰弗里·辛顿,是在英国出生的加拿大计算机学家和心理学家,为多伦多大学教授。
辛顿是反向传播算法和对比散度算法的发明人之一,也是深度学习的积极推动者,被誉为“深度学习教父”。辛顿2018年因在深度学习方面的贡献被授予了数学领域的最高奖项——图灵奖。
和霍普菲尔德一样,辛顿也曾辗转多个领域,寻找自己的科学圣地。从1967年到1970年,辛顿在英国剑桥大学学习实验心理学,但其间,他因对教学内容的不满转而学习心理学和哲学,然而,他对这些学科也失去了兴趣。最终,辛顿虽然还是以实验心理学学位完成了学业,但也因失望离开了剑桥大学,成为一名木匠。
即便是在做木工活时,辛顿还是在坚持思考人类大脑的运作原理。
其实,所谓的人工智能,通常就是指使用人工神经网络的机器学习。这项技术最初就是受到大脑结构的启发。
辛顿重归大学,就是作为博士生在爱丁堡大学投入到人工神经网络研究。这门学科在当时并不受欢迎,甚至他的导师也总想说服他放弃这一研究。而他坚信,神经系统对于解释和复制智能是充分和必要的。
在1978年,辛顿终于坚持研究备受冷落的神经网络而获得了博士学位。在人工神经网络中,大脑的神经元由具有不同值的节点表示。这些节点通过连接相互影响,这些连接可以比作触突,并且可以变强或变弱。网络经过训练,例如通过在同时具有高值的节点之间发展更强的连接。
辛顿以Hopfield网络作为基础,1985年与一位科学家合作开发出一种不同的方法——玻尔兹曼机器,这是随机神经网络和循环神经网络的一种,以学习识别给定类型数据中的特征元素。玻尔兹曼机器可用于对图像进行分类或创建其训练的模式类型的新示例。辛顿以这项工作为基础,帮助启动了当前机器学习的爆炸性发展。
辛顿在2012年以4400万美元的价格,将自己的初创公司和员工出售给了谷歌(Google),他还担任谷歌的副总裁和工程研究员,直到2023年4月他宣布从谷歌辞职,理由是希望能够“自由地畅谈AI的风险”。
辛顿坚信大脑绝对不是通过人类编写的“智能程序”来工作的。例如,你可以尝试给小孩子编个程序,让他照此步骤一步一步地从语法开始学习语言,但这并不会真正起作用,孩子们会从经验中学习而不会按照你给他编的程序来做。
两位获奖者的工作让业界受益匪浅,如诺贝尔物理学委员会主席Ellen Moon所说:“我们在广泛的领域使用人工神经网络,例如开发具有特定表面特性的新材料。”
1901年至2023年间,诺贝尔物理学奖向225名诺贝尔奖获得者颁发了117次。John Bardeen是唯一在1956年和1972年两次获得该奖的获奖者。如果再加上霍普菲尔德和辛顿,这意味着至今共有227人获得了诺贝尔物理学奖。