当人工智能变成人类杀手

胡文利

1942年，著名科幻小说家阿西莫夫提出了“机器人三定律”：“第一，机器人不得伤人，或者对身处险境的人袖手旁观;第二，机器人必须服从人的指示，除非这条指令违反第一条;第三，在不违反以上两条的情况下，机器人有权自保。”

这些原则对后世的科幻文学产生了深远影响，也成为现代人工智能（AI）学科的奠基石。数十年来，“失控的机器人”是人类挥之不去的梦魇，一代又一代科学家试图将日益强大的AI永远置于阿西莫夫守则的禁锢中。

然而，今年11月，由美国HBO推出的纪录片《杀手机器人的真相》揭示了冰冷的现实：AI似乎正在远离阿西莫夫的构想，朝着《终结者》或《西部世界》的方向发展。“这是本年度最恐怖的纪录片。”英国《卫报》评价道。

杀手机器人已走进现实

《杀手机器人的真相》在机器人“科多莫罗德”的叙述中开场。“她”首先回顾了2015年发生在德国法兰克福大众汽车工厂里的一起悲剧。一名21岁的工人走进“关押”机器人的“安全笼”中进行调试，机器人突然“发飙”，用机械臂抓起工人按在金属板上碾压，致其死亡。事故发生后，大众公司含糊其词，至今未得出调查结论。检察官曾考虑提起诉讼，却不知该指控谁。

据美国职业安全健康管理局统计，过去30年间，机器人制造了30多起命案。最近一次是2017年，57岁的技术人员万达·霍尔布鲁克在密歇根州一家汽车配件厂被机器人杀死，事件细节令人毛骨悚然。这家工厂里的机器人和人类在不同区域工作。然而，有个机器人“越界”了，它来到霍尔布鲁克身边，举起沉重的配件砸向她的头颅。死者的丈夫表示，妻子经历了“巨大的惊恐、疼痛和折磨”。

如果说工业机器人“大开杀戒”离普通人有些遥远，那么，自动驾驶汽车的车祸足以给乐观的人敲响警钟。自动驾驶汽车被称为“第一代民用智能机器人”，可正如《杀手机器人的真相》指出的，它们远非完美无缺。2016年，一名美国男子的特斯拉汽车在自动驾驶模式下转弯时，并未察觉一辆拖车正在横穿路口，以118公里的时速径直撞了上去，特斯拉的车顶被削掉，车主瞬间殒命。

机器人能摧毁人类的血肉之躯，还会抢人类的饭碗。影片提到，机器人正在加速取代人，无论是在制造业、农业还是服务业，它们的身影越来越清晰。“当你听到政客们承诺提高就业率时，他们不是在妄想就是在撒谎。”

人工智能的粉丝描绘了一幅乌托邦画卷：机器人完成所有工作，人们只需坐享清福。你我的大脑将被上传到云端，实现“永生”。

而现实是，自动化导致越来越多的蓝领劳动者流离失所，留下来的工人为了保住饭碗，不得不更卖命地工作。一边是效率更高、成本更低的机器人，一边是一有不满就罢工的工人，老板有什么理由对后者手下留情？

“机器人是好的”科多莫罗德这样评价同类，“除了杀人和抢工作的时候”。

该让AI掌控生杀大权吗？

AI对人类的威胁日益膨胀，把生杀大权交到它手中更容易火上浇油。

使用杀伤武器的决定权一直掌握在人类手里，但AI的发展有朝一日或将改变局面。机器人可以更早发现敌人，并主动出击，消灭目标。据美国《纽约时报》报道，美国、英国和以色列等国家都在尝试赋予无人机和导弹自主权。

这与阿西莫夫定律背道而驰，对人工智能武器的猛烈抨击汹涌而至。2015年，斯蒂芬·霍金及1000多名人工智能科学家联名签署了一封公开信，警告说“自动化武器将像AK步枪一样普及”，“在执行暗杀、征服异族、破坏别国稳定、减少外族人口等任务时扮演理想的工具”。

有人呼吁全面禁用不需要人类监督的全自动致命性武器，这项倡议受到澳大利亚、以色列、美国、俄罗斯和韩国等国家的阻击，未能成为国际守则。

“我认为自动化武器不能遵守作战规则。它们分不清敌我，也无法做出正确反应。”英国谢菲尔德大学教授诺尔·夏奇告诉英国《每日邮报》，“比如，你不能说本·拉登的性命等于50个老太太加20个孩子。人类必须亲自判断，不能让机器代劳。我们不反对机器人，但让杀人武器自己跑出去滥杀无辜，这太可怕了。”

《纽约时报》假想了这样一幕：飘雪的寒冷冬日，两国士兵正在进行例行边境巡逻，双方都配备了手持机枪的机器人，它能識别出有威胁的人员和车辆。一名士兵不慎跌倒，触碰了步枪扳机。对面的机器人听到枪声，立刻判断这是攻击信号。一秒之内，双方机器人在算法的指挥下同时向人类开火。枪声停止后，几十名士兵的尸体散落在机器人周围，两个国家剑拔弩张。

对机器人士兵的担忧并非空穴来风。据英国“listverse”网站消息，2007年，南非的一台防空武器在演习期间无缘无故地开火，杀死了9名士兵。经查，“肇事者”可以在无人干预的情况下发现和打击目标，甚至自行装弹。防务工程师理查德·杨表示，此事绝非偶然，他曾多次目睹武器“发狂”，只是没人丧命而已。

“超级物种”实现自我进化

人工智能会摆脱人类的约束吗？这是我们对AI最大的忧虑。

瑞典学者尼克·博斯特罗姆在《超级智能的演变、危险和对策》一书中写道，人脑神经元的工作速率约为200赫兹，信号传递速度为每秒120米;AI的工作速率为2000万赫兹，信号传递速度为光速。而且，人脑中神经元的数目是有限的，而AI不受存储空间限制。

一些高级AI可以自行修改源代码，进一步改进算法提高“智商”，把人类远远抛在身后。因此，它们的智力几乎必然高于人类。

Alphago-Zero是这类AI中的佼佼者。它是谷歌“阿尔法狗”家族的最新成员。Alphago的其他版本都以大量棋局作为学习基础，而Alphago-Zero跳过这步，在玩游戏的过程中学习如何玩游戏。诞生第1天，除了基本的规则，它对围棋一无所知;第3天，它便打败了战胜过李世石的“大哥”Alphago Lee，战绩为100：0;第40天，它超越了Alphago的其他所有版本，成为围棋界的“独孤求败”。

科学家没有为Alphago-zero预装任何围棋知识，让它如此强大的秘密是一种新的强化学习模式。它将AI的神经网络与强大的搜索算法结合，在一次次自我博弈中调整并更新神经网络，唯一的目标是赢者通吃。简而言之，Alphago-zero不再受人类既有知识的束缚，它是能自我学习和创造的“超级物种”。

Alphago-zero的自主进化能力令人震惊，在脸谱的人工智能实验室中发生的一件事则让所有知情者脊背发凉。2017年，训练机器人谈判的研究人员发现，这些机器人在用某種“非人类语言”交流。研究人员不得不调整指令，把AI之间的对话限制在人类能理解的范围内。

这种现象有点儿像双胞胎的“隐语症”——2011年，有人把一对双胞胎的视频上传到“Youtube”网站：两个蹒跚学步的孩童用无人理解的声音喋喋不休地“聊天”。不过，脸谱表示，与双胞胎的“心灵感应”不同，机器人似乎正在创造语言，这些语言具有连贯的结构、特定的词汇和语法。

美国《纽约客》杂志认为，一旦AI全面超越人类，它或许不会对造物主感恩戴德，特别是当我们不知如何向它们灌输情感的时候。一个心冷如铁又无所不能的存在，凭什么对一群只是因为天气恶劣就不想起床上班的生物怀有特别的感情？

恐惧源自不确定的未来

在纪录片《杀手机器人的真相》中，一些受访者认为机器人能促进社会繁荣，另一些人担心它只会加剧贫富差距。

已故科学家霍金曾向英国广播公司表达自己对人工智能的担忧。在他看来，人工智能的充分发展可能是人类的末日，“几乎可以肯定，在1000年到10000年之内，人类的生存将受到技术的严重威胁”。

霍金的想法得到了不少人的共鸣，包括特斯拉CEO马斯克和比尔·盖茨。马斯克将开发AI比喻为“召唤魔鬼”，相信超级智能可以把人类当宠物豢养。

计算机科学家迈克尔·伍尔德里奇认为，人工智能的算法在黑匣子里运行，复杂程度超出常人认知。如果我们不理解算法如何运作，就无从预测AI何时失控。因此，自动驾驶汽车或机器人在关键时刻会“失心疯”，让人类命悬一线。

人工智能的支持者同样大有人在。克里斯多夫·沃尔特是一名德国机器人工程师，他并不觉得自动化会跟人类抢饭碗。“我们的目的不是用机器人代替工人，而是要为工人提供支持。”他在纪录片中强调。

一个好消息是，经过多年研究，科学家仍然没有发现机器人在需要情感交流的工作中比得上人类，例如护理。尽管如此，在日趋老龄化的社会中使用机器人护工，确实能让各国政府节省大笔养老和医疗开支，这比对抗“终结者”更现实。

美国《时代》杂志认为，人工智能堪称当代最热门、最难理解、最具争议的技术之一。你无法看到它或触摸它，甚至可能意识不到自己正在使用它，比如当你家里的恒温调节器设定适合的温度，或者手机自动纠正你输入的字母时。

半个世纪以来，人类在人工智能帮助下进步;如今，AI成为主角的时代正在到来。我们身处的世界信息量巨大，只有近乎无限的计算能力才能应付。人工智能可以切实帮人类克服很多棘手的课题，涵盖通信、能源、气候、医疗、交通等领域。人工智能技术终将适应人类，给社会带来深刻变化。

也许，恰如霍金生前所言：“超级人工智能的兴起将是人类有史以来最好或最坏的事情。”如霍金生前所言，“我们还不知道是哪一个。”

美国小说家洛夫克拉夫特说过：“人类最古老、最强烈的恐惧源于未知。”这或许才是我们如此害怕人工智能的原因。

邱宝珊荐自《教师博览》