人工智能会给人类带来灾难？

《十堂极简人工智能课》

作者：[英]彼得·J.本特利

译者：许东华

出版社：译林出版社

出版时间：2023年5月

页数：204

定价：49元

并非所有人都对通用人工智能的益处持乐观态度。一些未来学家、哲学家和科幻小说家对这种技术最终可能导致的结果做出过可怕的预测。他们声称，一旦人工智能聪明到可以开始自我设计，就会出现失控的反馈回路。突然之间，聪明的人工智能就可以制造出比它更聪明的人工智能，如此周而复始。这一论点通常以摩尔定律为依据，该定律指出，芯片中的晶体管数量大约每两年翻一番（其推论是，处理器的速度将每18个月翻一番）。这些人认为，随着计算机的速度呈指数级增长，超级聪明的人工智能肯定要成为一种不可避免的现象。我们总有一天会达到一个“技术奇点”，当人工智能的增长再也无法控制时，它可能会给人类带来灾难。

这种想法在电影和科幻小说中非常令人着迷，但在现实世界中应该谨慎对待。人工智能技术的发展得益于计算能力的增长，以及新近出现的大量数据集可以用来训练机器学习算法。但人工智能的进步总是源于算法的发展，而非处理器的加速。每种算法都提供了令人兴奋的新可能性，但没有一种算法可以解决所有问题。新的问题需要新的算法来解决（就像我们执行的各种不同任务会利用大脑的不同区域一样），创新的步伐受限于我们创造新算法的能力，以及我们理解智能本质的能力。

如果我们有一条捷径，能让计算机自行完成设计，那该有多好。但是哪怕有遗传编程等方法，我们还是很难让计算机自行设计出更好的算法（如果没有人指挥它们这么做，它们为什么要去做呢）。今天，我们有数以千计的人类科学家使用最新的计算机，试图制造新的人工智能。如果我们自己都难以创造出新型智能，那些远不如我们聪明的人工智能又怎么能做得更好呢？

我们甚至不能指望指数级增长能带来什么好处。事实证明，虽然可能存在指数级增长，但它几乎肯定对我们不利。每当我们试图让人工智能变得更聪明一丁点，其能力就会以指数级扩展，而它失败的机会也呈指数级增长，因此我们为确保设计无误而做的测试和实验就必须比以前多得多。总而言之，到目前为止的人工智能研究的证据表明，越复杂的能力意味着越缓慢、越困难的进步。物理学告诉我们，越接近光速，我们就需要越多的能量来加速。随着智力的提高，类似的情况似乎也会出现：提高智力的能力变得越来越困难。地球上很少有生物拥有像我们一样复杂的大脑，它经过35亿年的进化测试才创造出如今存在于世的几种设计，这可能并不是巧合。

我们可以放心，未来不会有奇点，也不会有失控的人工智能。我们专注而勤奋的计算机科学家和工程师将继续他们的研究，慢慢发明新的算法，提供有用的人工智能工具，让我们的生活更加安全和方便。我们有可能永远实现不了像人脑一样先进的人工智能。就算能做到，也可能需要假以地质学尺度的时间。

我们所知的大多数人工智能的研究和产品都与超级智能或通用人工智能无关。它们都致力于为具体问题寻找专门的解决方案。新的聊天机器人会接管客服中心的普通查询；新的无人驾驶算法会协助我们在高速公路上开车，或帮我们停车；先进的工业机器人将令枯燥的生产过程进一步自动化；故障检测系统会确保我们的工厂生产出合格的产品；可穿戴智能设备会更早地检测出健康状况的异常；社交机器人会为老年人或弱势群体提供慰藉和照顾；互联网机器人能回答我们的语言提问；防诈骗检测系统会监测我们的交易，并在我们的银行或身份信息可能被盗时提醒我们。无论哪一类人工智能，都是设计出来帮助我们的专门技术。将来还会有令人震惊的新人工智能出现。它们将成为我们社会的一部分，甚至通过可穿戴计算系统和智能假肢而成为我们的一部分。

在美剧《爱，死亡和机器人》中，人类最终死亡，而机器人存活了下来。

可惜的是，并不是每个人都喜欢这种未来前景。有些人预测可能会有数百万个工作岗位因人工智能和机器人而流失。工厂机器人会取代工人吗？聊天机器人会取代在客服中心工作的接线员吗？对于这些问题和其他类似的问题，答案很可能是肯定的。但这一事态进展与人类技术史一样古老。我们每采用一项新发明，都会改变人们的生活方式和工作方式。旧的专门手艺会过时，同时新的专业知识会出现。今天铁匠很少，但工人很多。明天可能工人会减少，但会有许多机器人管理员和维护工程师。如今的技术变化很快，所以我们的社会也在快速变化，而新的机会也同样会飞速产生。无人驾驶汽车将需要一套新的道路基础设施和新的销售和维护方式。游戏行业正在蓬勃发展，需要从计算机模拟专家到作家、演员的各种人才。数据存储和分析（事实上是所有与数据有关的业务）正在蓬勃发展，每天都能发明出新的工作岗位。社交媒体会成为新的广告渠道，创造出新的工作和职业。由人工智能和可穿戴设备驱动的新式互动娱乐正在到来。每一种新技术都需要新的工作人员去创造它、设置它、测试它、监管它、使用它、修复它。今天的工作已经今非昔比了。这就是人类的进步，而不单是人工智能或机器人的进步。

归根结底，也许是因为我们对自身的兴趣，人工智能和机器人总是让我们着迷，也会在某些情况下让我們感到不适。在我们发明的各种技术中，人工智能的独特之处在于，开发它的过程能教会我们关于大脑和身体如何运作的深刻道理。为了成功构建出我们的人造子女，我们必须仔细检视我们自身和我们的行为方式。我们将学到，人与人之间的互动如何能帮助个人成长和团结协作。我们将明白情绪和自我意识的作用，以及我们如何做出决定的方方面面。我们将学到我们在现实世界中的行为如何影响我们自己和他人。我们将学习什么是道德，了解道德以及对生命的尊重应该如何嵌入我们所做的一切。我们将明白我们与环境密切相关：环境会改变我们，正如我们也会改变环境一样。人工智能是一趟持续的发现之旅。这条漫长而艰难的道路也许能教会我们成为更好的人。

（责编：栗月静）