外刊导读

《纽约客》杂志2018年5月14日号

1似人非人，你怕不怕

这篇《纽约客》的长文再次探究人工智能对人类社会的潜在影响和深远意义，它引述了大量科技界人士的研究和观点，颇具深度，同时结合科幻小说和影视作品来解读人工智能，不乏趣味，又充满着浪漫的人文气息。

一直以来，许多科学家和有识之士，包括盖茨、马斯克和霍金等，不断发出警告称，一旦人工智能进化到所谓的通用型即AGI的阶段，它的智能程度远超人类，世界末日就可能随之而来。当人工智能进化到创造它的人类难以理解的阶段，它好像具有了直觉和创造力，这时人类有种背后发凉的感觉，它可能是人类最后的发明。

本文指出，AGI离我们还有一段距离，专家们在最新调查中预计它们到来的时间点是2047年，它将为人类解决一大堆难题，但也会带来种种风险。像所有技术一样，一旦人类失去对它的控制，就可能带来灾难，比如，火，电力，汽车，核电站，当然，也包括人工智能。奇怪的是，科幻小说的作者们并没有预见到AGI会给人类带来灭顶之灾，人类似乎并不担心这个问题。有些人认为，人类的智力与人工智能各有所长，可以是互补的，人类在AI的协助下，不会失去工作，只会更好地发挥所长。另一方面，机器也会渴望更像是人类，至少在影视作品中是这样，它们会有人类那样的意识，让人类难以分辨。

本文提到，AGI系统要想达成我们指定的目标就需要掌控全局，因此，它的真正危险，也许不是来源于恶意或者它出现自我意识，而恰恰是它的自主，这时人类的处境就好比是小孩子玩炸弹，失去了控制它的能力。那么，该怎么办呢？是给AGI注入价值观，还是尊重AGI，让它自己来解决这个难题。本文认为，这个问题的回答很可能与人类如何看待自己有关。因此，思考人工智能，可以帮助我们更好地认识人性，不管是好的还是不好的方面。

《大西洋月刊》2018年6月号

2人工智能，是福还是祸

近来，人工智能的热度持续攀升，领头羊谷歌公司继阿法狗在围棋上将人类挑下马之后，又推出人工智能个人助理，它可以替我们打电话订餐厅，预约理发服务，虽没有阿法狗那么轰动，但还是狠狠地刷了一次屏，因为它竟然骗过了接电话的服务员。就在这个当口，美国德高望重的基辛格博士在《大西洋月刊》上发表了这篇文章，他特别指出，因为互联网，特别是人工智能的影响，人类的历史正在走向一个重大的转折点，我们必须为此做好准备。

基辛格表示，他本人并非技术专家，但作为一名历史学家和一名有实战经验的政治家，在听取了许多技术专家的介绍，他意识到，互联网特别是人工智能的技术进步正在深刻改变着现代人类社会的历史进程，由启蒙运动引领的理性时代的当代世界秩序正处于变动之中，未来的世界将依赖数据和算法所驱动的机器。数据即意义，人们不再自省，几乎不过问历史或哲学，只要数据和算法即时有用，真理变成相对的，我们更关注信息，而不是智慧。

基辛格警告说，人工智能与之前的自动化不同，自动化只是手段，而人工智能与目的有关，它会建立起自己的目标，特别是目前想要实现的可执行多种领域任务的通用型人工智能。人工智能利用数据，对人类未来作出判断，其结果有着内在的不确定性和模糊性。这样就产生了一个悖论：世界变得更透明，但它也变得越来越神秘莫测。基辛格总结了三个方面的隐忧：第一，人工智能可能会得出人类不愿意看到的结果；第二，人工智能在达成既定目标中，可能会改变人类的思想进程和人类的价值观；第三，人工智能或许可达成既定目标，但是不能解释出其结果背后的道理来。

基辛格認为，人工智能的决策和行动，有一天会超出人类的解读能力，就像阿法狗下出的每一步棋，我们不仅关心输赢，我们还关心背后的思考和意义。开发设计人工智能的科学家和工程师们追求的是科技和商业的极致，他们并没有从人文传统的视角看这个问题。因此，人工智能对人类的认知本质构成威胁，假如我们不趁早准备应对，未来人类可能会面临存在性危机。基辛格相当肯定地指出，假如政府不尽快行动起来，人工智能可能会终结人类的历史。你说，基辛格是不是有点杞人忧天呢？

《科学美国人》同站2018年5月15日

3自知之明不常有

这篇《科学美国人》的文章很有意思，它总结了关于人们并不了解自己的十件事，引用许多研究说明了我们很可能并不像我们认为的那样理解自己。也许你会不以为然，还有谁比我自己更了解我？

好吧，下面我们把这十件事逐一做个简单的介绍。第一，你眼中的自己是扭曲的，我们往往认识不到自己的偏见；第二，你完全不明白自己的动机，人们的潜意识藏得很深；第三，外在表现说明了你的许多，因此，我们最亲近的人往往看我们更准确，特别是那些突出反映在行为当中的性格特征；第四，离自己远一点看自己更清楚，我们通过独处或冥想，让潜意识与目标趋于一致，可提升幸福感；第五，我们经常高估自己，人们越无能，就越难意识到自己的无能，这就是Dunning Kruger效应；第六，看不起自己的人更经常有挫败感，这与前一条并不矛盾，二者都很常见；第七，你自欺欺人却不自知；第八，“真我”体现了你相对稳定的道德观；第九，没有安全感的人往往行为更端正，心理学家Drazen Prelec提出了给自己发信号的理论，即我做一件事更多是做给自己看的，而不是证明给别人看的，比如，为什么有人宁愿花几十万买真劳力士，而不是花几千弄一条真假难辨的仿冒品，就可以用这个理论来解释；第十，你认为自己可以改变，你就可以做到更好，这就是Carol Dweck著名的成长心态。

本文最后指出，获取对自我的认识比人们想象的更难。当代心理学从根本上质疑我们可以客观地、确定地了解自己，可以明确的是，自我并不是一个物品，而是对变化中的环境不断适应的一个过程。

（本栏目撰文 刘虎）