10月8日,2024年物理学奖颁给91岁高龄的约翰·霍普菲尔德和77岁的杰弗里·辛顿——两个研究机器学习、掀开当前人工智能革命的大师与“教父”。
看似与传统物理学研究不搭边,但仔细查看他们的研究会发现:霍普菲尔德运用物理学原子自旋原理,发明了一种得以保存记忆的神经网络。后人以他的名字命名为Hopfield神经网络。辛顿以Hopfield 网络为基础,开发了一种新的神经网络:玻尔兹曼机。灵感同样来源于奥地利物理学家玻尔兹曼百年前提出的理论。
科学的突破与发现并非一蹴而就。人工智能在过往30多年发展起起伏伏,信念不断被推倒又重建。以辛顿为代表的AI 学者,用他们的人生证明:有时候,成功来源于最大程度地坚持自我。
77岁的辛顿身体不好。从2005年开始,腰背部出现问题,很难坐立,不敢搭乘飞机出行,遇上商务宴席,他也不能坐在椅子上,而是选择双腿跪在地上,经常招来服务员奇怪的眼光。
身体失去控制总是让人心生绝望,但在辛顿的人生里,他从来都是与缺乏确定性、无法受控的事情相伴。
1947年,辛顿出生在英国一个科学家和教授世家。在十几岁时,辛顿遇上了促使他思考一生的命题。那是高中时期,一位朋友问他:“你知道吗,大脑的记忆并不是储存在某个特定的地方,而是分布在整个大脑,在整个神经网络里传播,就像全息图一样工作。”他从此开始对人脑机制产生了浓厚兴趣。
大学期间,因为这个问题,辛顿曾学过多个专业,先是数、理、化,大二时又学了哲学、建筑学,后来又攻读了心理学。四年大学让他发现,这些学科都无法解答人脑神经元如何连接并工作的奥秘。最终,毕业后的辛顿选择当一名木匠。
只是,这位天真的知识分子发现,他不适合用此谋生。这段日子里,一到周末,他就到图书馆自学大脑工作原理。1972年,他再度“转行”,凭借发表论文,他到爱丁堡大学就读人工智能学的博士。
不巧的是,此时正值人工智能的寒冬。在当时的人工智能界,人们开始广泛地怀疑运用模拟人脑的神经网络进行机器学习。最著名的论断来自当时的“人工智能之父”马文·明斯基,连辛顿的博士导师都被明斯基的理论说服了。他开始劝说自己的学生,换一个有前途的方向吧,别做神经网络了。辛顿回忆,博士期间,他的研究方向始终与导师期望的背道而驰。辛顿说,他认可明斯基指出的神经网络的缺陷,但与多数人的选择不同,他想继续往“有缺陷的方向”前进,完善前人指出的漏洞。
辛顿回忆,他从小在宗教学校上学,却是全班唯一不信仰宗教的人。“每个人都可能是错的,你需要坚持自己的主张,直到实现它或者彻底否定它。做科学就需要这样的精神。”
固执的辛顿在1978年顺利博士毕业。当时的学者也没预料到,他的坚持从此掀开了人工智能深度学习革命,并让21世纪的各大巨头争相进行科技军备竞赛。
博士毕业后,孤独的辛顿漂至了美国,总算在加州大学圣迭戈分校找到了一些志同道合的人士。他们相信用计算机多层神经网络可以模拟人类大脑的演算方式,并拥有推理能力。
1982年,加州理工学院教授霍普菲尔德率先开发了一种神经网络,用于模拟大脑如何相互作用并产生稳定记忆。
人脑的运作好比需要集体演奏的交响曲,只有当神经元共同作用时,它们才能产生新的、强大的特性。“如果你只关注网络中的每一个独立神经元,是很难察觉这些特性的。”拥有物理学背景的霍普菲尔德,开始想到原子自旋而产生的特性。这一特性使每个原子都成为一个微小的磁铁。相邻原子的自旋会相互影响,自旋方向一致的区域得以形成。
运用自旋特性,霍普菲尔德成功构建了有节点和连接的神经网络,并以能量函数作为表达,大致实现原理类似于人类的联想记忆。更年轻的辛顿也深受影响和鼓舞。
1986年,辛顿与两名学者共同发表了一篇题为“通过反向传播误差来学习”的论文,成为当代机器深度学习的奠基之作。反向传播成功解决了多层神经网络的训练问题,证明了神经网络绝非只停留在想象里的空中楼阁。
同一时期,辛顿与同事们发明了玻尔兹曼机。这个新神经网络汲取了统计物理学的原理,也是当今短视频等平台算法令人无法自拔的基本原理:算法可以分析和找到大数据之间的联系,计算不同类别的人最大概率会喜欢和讨厌的内容,并根据每次的点击情况,实时进行概率计算和内容推送。
1986年,经过训练的玻尔兹曼机能够识别出它未曾见过的信息中的熟悉特征。这也就意味着,计算机拥有了自我学习的能力,这正是神经网络的拥趸多年来所期许的。
然而,进入20世纪90年代,人工智能发展再度进入瓶颈期。各种基于统计的机器学习方法兴起,研究神经网络的人越来越少,辛顿成了少数几个仍在坚持的人。
后来人们才发现,当时的停滞并不代表辛顿提出的理论和设想是错误的,而是受限于当时计算机技术处理计算的能力。
这样的停滞伴随着辛顿接下来的20 余年科研历程,神经网络始终不受主流学界认可。为了拿到教研经费,他曾在伦敦大学学院、多伦多大学等地工作。
2006年以前,辛顿即使已经在英国、加拿大是院士级别的人物,但他的发现只在学界有名气,从未得到现实的广泛应用。然而他始终坚信神经网络将引起人工智能革命。据称,为了给自己打气,辛顿还养成了一种自我激励的方法,每周发泄般大吼一次:“我发现大脑是怎样工作的啦!”
2006年,深度学习革命终于在全球打响。这个新时代的序幕依然是由辛顿和学生拉开的。2012 年,在华裔科学家李飞飞举办的ImageNet 图像识别竞赛中,辛顿和学生伊利亚( 前OpenAI首席科学家)、亚历克斯组成团队,设计了名为“AlexNet”的卷积深度网络程序,取得了颠覆性的胜利。
后来的故事更为人所知。2012年一举成名后,辛顿收到了来自百度、谷歌、微软等巨头千万美元年薪的橄榄枝,他最终加入谷歌继续AI 研究。
如今,大模型、AIGC 等多个应用迎来大爆发,辛顿等到了盼望已久的深度神经网络引发的人工智能浪潮,这是属于他引领的时代。
他却自述过往,认为他的人生与AI浪潮一样,徘徊在反反复复的起伏里。“我经常会告诉大家,我弄清大脑的工作机制了,可过段时间,我又失望地发现之前的结论是错误的。但事情就应该是这样发展的。正如英国诗人威廉·布莱克的两句诗,‘将快乐和忧伤编织,披在我神圣的心上’。”
他近年因为大模型的热潮早已荣誉加身,人们喊他“教父”,对他进行膜拜。看上去辛顿没有什么烦恼可言了,但他表现得越来越忧心忡忡,担心AI 有一天会掌控人类社会。
2024年,他在诺贝尔奖颁奖的现场连线时说:“我感到愧疚和后悔。”“后悔有两种。一种是因为你做了一些明知不该做的事情而感到内疚;另一种是你做了一些在同样情况下会再次做的事情,但最终结果可能并不好。我的遗憾是第二种。我担心这种做法的后果是,比我们更聪明的系统最终会掌控一切。”
(摘自“南风窗”微信公众号)