如果机器人拥有了智慧

泽泽

《机械姬》

主演：奥斯卡·伊萨克/多姆纳尔·格里森/艾丽西亚·维坎德

标签：科技反噬人类

推荐指數：★★★☆

当机器智能超越人类

如果有个人工智能机器人站在你面前，你惊叹于它精妙的设计时，会想到去鉴别它有没有感情吗？我们应该怎么去分辨它，证明我们人类是最特别的存在？《机械姬》采用的是图灵测试。

一个名叫伊娃的人工智能机器人被亿万富翁内森在与世隔绝的豪宅里创造出来。为了确认她是否具有独立思考的能力，他选中自己公司的员工加利来到别墅，希望他能为伊娃进行著名的图灵测试。但从第一眼开始，加利便被这台有着人类般姣好容颜的机器人所吸引。

测试多次后，双方交谈逐渐深入。加利逐渐感觉到自己所面对的似乎不是冰冷的机器，更像是被囚禁起来的可怜少女。伊娃不仅可以和人正常交流，而且还有和人类相似的情绪反应。而内森如上帝般躲在监视器后观察着整个过程。

但伊娃表现出了很多超平常规智能机器人的能力——她会为躲避监控自动切断电源，她企图探寻测试者加利的内心世界，用道德感极强的问题拷问加利：“你是一个好人吗？”“如果我没有通过你的测试，我会如何？”“你也会被人测试，然后面临我这样的境地吗？为什么我会？”

最可怕的是，她告诉加利她爱上了他，希望他带着自己逃离这个地方。加利在经历了对伊娃和自己的怀疑与挣扎后还是上了当，他帮助伊娃修改密闭系统程序，并杀死内森。她像正常人一样梳妆打扮后离开实验室，进入了人类世界。

影片到这里结束了，但结尾让不免我们倒吸一口凉气。对伊娃来说，这里是诞生之地也是牢笼，她也许会明确自己的渴望，以自己理解世界的方式去感受这个世界。但在那之后会干什么呢？也许她什么也不干，也许她会做出超出我们理解范围的事。

人类和机器的灵魂边界

值得一提的是电影里的图灵测试。图灵测试由艾伦·图灵发明，指测试者与被测试者（一个人和一台机器）在隔开的情况下，通过一些装置（如键盘）向被测试者随意提问。进行多次问答后，如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为拥有人类智能。

作为人类的加利在得知对方是机器人的情况下参与了测试。加利问了一系列问题都在试图确认和鉴别伊娃是否具有自我意识，并逐渐意识到她可能并不是机器人。伊娃渴望生存下来，为此她反客为主将测试者加利玩弄于股掌之中。她还隐性地向加利表达了情感需求，以此利用加利的同情心帮助自己逃脱。

由此我们看到，这个被设计出来的人工智能机器人伊娃，也许已经学会了人类的情感能力。她同时也拥有了超出人类的智能。影片结尾伊娃展现出逃离囚笼的喜悦，在楼梯尽头回眸一笑，正如一个普通人按捺不住情绪以及获取胜利果实时的炫耀。《机械姬》的设定违背了阿西莫夫三大定律，即机器人不可伤害人类。但不妨看成是一种警惕：人工智能发展到一定阶段，也许很大程度上会凌驾于人类之上，反噬我们的心性。

如果人工智能可以拥有情感，那么机器人也许和真人没有差别。加利在多次和伊娃对话后，对自己的人类身份产生怀疑，伊娃虽然身体里全是芯片、电路和程序，说话方式已和真人无异，尤其是多次破坏电路向加利求救时，眼睛里仿佛真的住着一个惹人怜爱的灵魂，让加利觉得也许自己也是机器人。看到加利自己割开皮肤以确定自己是人类时，我不寒而栗。这也是导演在提出疑问：我们人类和人工智能的界限到底在哪里？

无处不在的人工智能

并不是会说话像人类的机器人才被称作人工智能。上网时淘宝的购物推荐，社交网站的好友推荐，都是人工智能基于大数据对我们的分析，做出的选择。这些人工智能看来很弱小，似乎对我们也不会产生威胁。但每个弱小独立的人工智能一旦结合起来，或许就是一个终极版人工智能。

当然，人工智能没有大脑。也许它们能擅长微积分运算，但他们并不明白公式的美;即便能理解公式并运用，但不能理解一幅图片或一段文字的美。他们在人类凭直觉就能完成的事情上，还有很长的路要走。

在电影最开始，加利曾对内森说：如果你创造了一个有意识的机器，那将不再是人类的历史，而是上帝的历史。上帝不想要人类去吃善恶树的果子，也不想人类爬上巴别塔。然而，人类创造人工智能是带着侥幸的.赋予了自己所创造之物更强大的能力，并深信他们始终无法完全取代人类。但如果他们拥有了认知和情感，这些人工智能将拥有人类一样的大脑还配备了超出我们理解范围的智力，他们会怜悯人类并选择和我们一样和谐共处吗？

所以我们现在应该庆幸手机导航会出错，翻译软件的直白翻译，以及生活里无法被真正猜测到的推荐。否则当我们还没来得及理解他们的智力时，就被他们玩弄于股掌之中了。

渴望扮演上帝的人类：

创造比人类拥有更高智能的机器人，就仿佛上帝在创造人类一样。创造人工智能，是人类的野心——扮演上帝。电影《机械姬》里3个主要角色的名字也富合寓意，都来自圣经里的故事。伊娃名字出自夏娃（ Eva），内森则是先知内森，而加利来自迦勒，他是摩西派来评估应许之地的间谍。《机械姬》电影是一个“圣经”式的寓言。奥斯卡最佳视觉效果：

《机械姬》是1998年以来，以最低成本获得奥斯卡最佳视觉效果奖的得主，仅用了1500万美元的预算，击败了与它同时角逐这一奖项的《疯狂的麦克斯：狂暴之怒》（1.5亿美元）、<火星救援》（1.08亿美元）、《荒野猎人》（1.25亿美元）、《星球大战7：原力觉醒》（2.45亿美元）。电影全在内森豪宅里拍摄完成，而这座豪宅是位于挪威的设计旅店Juvet Landscape Hotel。