是人工智能还是人类公敌

陈墨

在2015年举行的伦敦“谷歌时代精神”大会上，斯蒂芬·霍金描述了人类的命运：“在未来100年内，结合人工智能的计算机将会变得比人类更聪明。”

出席美国脱口秀节目时，斯蒂芬·霍金还讲了一个“恐怖”故事。

“世上真的有上帝吗？”科学家用颤抖的声音问道。“现在有了。”世界上最聪明的人工智能电脑回答。话毕，一道电光闪过它的电源插头——人们再也关不掉它了。

主持人约翰·奥利弗听得瞪大了眼睛。和地球上大多数人一样，他也相信，当人类真要与人工智能作战时，切断它们的电源就足以制敌了。

2016年年初，斯蒂芬·霍金在一封提倡控制人工智能发展的公开信上签下自己的名字。在那封公开信上，微软创始人比尔·盖茨、特斯拉汽车公司与美国太空探索技术公司CEO伊隆·马斯克的名字也赫然在列。

人类一手创造并用“智慧”武装了敌人

几位人类科技界“顶梁柱”担心的“人机大战”，很可能已经悄悄冒出硝烟的味道。在上传至YouTube的一段视频中，一只名为Spot的机器狗协调地运动着白色的四肢，像真正的狗一样行走。为了证明它的坚固，有人冲出来，对准它的腹部结结实实地踢了一脚。机器狗一个趔趄，一边发出急促的吱吱声，一边紧踏几步保持平衡。

这段“虐狗”视频引发了热议。有网友评论：“这就是世界结束的方式。不是大爆炸，而是在被你踢了之后，机器狗转身扑向你。”

在现实世界里，人类也正处在人工智能的包围中：拿起手机，可与虚拟助手Siri对话；想要出门，可乘无人驾驶汽车兜风；走进医院，超级电脑沃森医生正在“坐诊”。

战争可能在某一天悄悄打Ⅱ向。电脑擅自替你做出抛售股票的决定，或者无人驾驶汽车突然决定在高速路上歇脚。之后的情况将超出“故障”的范畴，演变成灾难。

在忧心忡忡的科学家们看来，这将是一场前所未有的战争。人类一手创造了自己的敌人，并用自己最强大的武器——智慧，为它武装。

斯蒂芬·霍金说：“我认为我们无法再在这个脆弱的星球上生活1000年。”他认为，受困于缓慢的进化速度，人类无力与飞速发展的人工智能抗衡，最终，“人工智能的全面发展将导致人类的灭绝”。他甚至主张人类去其他星球“殖民”，以保证种群的延续。

百度公司首席科学家吴恩达则认为，现在为人工智能的负面影响担忧，就像担心火星上人口过剩一样遥不可及。

伊隆·马斯克却无法对此视而不见。这位亿万富翁已经开始“站岗放哨”。他为一家名为“Deep Mind”的人工智能公司注入资金，只是为了“盯着这种技术的走向”。

人工智能拥有成为“终结者”的潜力

一位高级认知机器人学研究者正面临着颇为纠结的教育问题。与不知怎样向孩子解释“小孩从哪儿来”的父母不同，他在思考要不要告诉孩子，他们可能不会有机会拥有自己的孩子，因为人工智能统治的时代已经近在咫尺了。

“人工智能真正严重的危险将在五年、最多十年后便会出现。”伊隆·马斯克2014年11月在群组博客Edge的讨论中写道。或许是太过惊悚，消息刚发出便被删除。

不过，人们还是可以确定，至少在一段时间内，人工智能将是照顾老人的护工，看护孩子的保姆，打理家务的管家，甚至与人心灵相通的朋友。通过解码面部肌肉运动，人工智能机器人将得以理解人的感情和思维，如同科幻电影里的“大白”一般，时刻准备送上治愈的拥抱。

乐观的哲学家格雷·斯科特描绘了一幅美好的图景：到2018年，自动化将遍及世界，机器将承包无聊或危险的工作，辅助人类做有趣的事情。在不远的未来，机器更将满足人类的生活所需，让二极管去算账，让女会计成为诗人。

然而，这些美妙的念头无法令他回避人工智能拥有成为“终结者”的潜力，即便在它們完全服从命令的时候。

“在追击人群中的一个目标时，它会知道等目标离开人群后再开火吗？”格雷·斯科特问道。这是科学家们共同承认的一个困境：如何为道德编码？当人工智能被用于军事，这变得尤为重要。

哈佛大学法学院曾呼吁“通过国际法令，禁止开发、生产、使用自主式武器”。起草报告的邦妮·多赫蒂义正辞严地表示：“没有道德和人性的机器不应拥有杀戮的权力！”

在好莱坞电影《复仇者联盟：奥创纪元》中，人工智能奥创以“杀戮”的方式，忠实地履行着创造者维护和平的意愿，在它看来，这手段最为有效。

在现实中，科学家也担心，会不会有一天，“抗癌斗士”纳米机器人仔细思考后发现，比起杀死癌细胞，清除基因上易患病的人更方便。

“把能量释放出来容易，想确保安全却很难。”伊隆·马斯克认为，人工智能研究的重点首先应该放在安全上。如果开发时间因此延长，恰恰是正确的路径。“我们不能一头扎向自己不懂的东西。”他说。

人工智能将是人类历史上最大的成功。也可能是最后一个

哲学家格雷·斯科特指出，机器的反应取决于人类对它们的设定，降低机器的自尊水平或许能够避免冲突。他对人类充满信心，他相信，人类已经用技术和法律规范约束了核弹，也必定有能力管理人工智能。

然而，在斯蒂芬·霍金口中，人工智能无疑是前所未有的劲敌，“比金融家更聪明，比研究者更富创造力，比领导更具操控力”。毕竟，它正在让人类失业。

你如果从事的是程序性的工作，在人工智能面前，便有失业的危险。目前，人工智能还没有太大竞争优势的只剩下一些内容为非程序性工作的职业，比如教师，比如需要具体评估每颗牙怎么补的牙医。未来比较好的选择是挑选和人工智能密切合作的工作。

在电影《超验骇客》中，被暗杀的科学家威尔在妻子的帮助下，成功将自我意志转入超级电脑之中，从此成了无所不在的“超验骇客”。他能从土壤中造出太阳能板，能让残疾人长出新肢，能全天候通过一切终端出现……

曾主张修改人类基因与机器抗衡的斯蒂芬·霍金对此大为兴奋。他力挺把人的大脑与计算机直接相连的“人脑控制技术”，由此打破人类智能与人工智能间的藩篱，人与机器最终得以合二为一。自此，人工智能将对人类智能作出贡献，而非威胁。

到那时，人类千百年来苦苦追求的长生不老也可能因此实现：肉体死去，精神却在人工智能系统中获得无限的权利和自由。

“人工智能将是人类历史上最大的成功，”早已瘫痪的科学家斯蒂芬·霍金在机器的辅助下写道，“不幸的是，也可能是最后一个。”