《机械姬》：道德启示录

□ 魏子韵

从现实角度来看，2015年由亚历克斯·加兰（Alex Garlad）编剧执导的科幻电影《机械姬》将人与智能机器人的探讨往前推进了一步。没有诸如《终结者》的大场面打斗，没有《机械公敌》的绚丽特效，也没有《人工智能》中对人情冷暖的描绘，在这部以封闭场景、大量对白的作品里，导演从一开始就力图构建一个异常冷静的世界，在这个世界中，没有庞杂的世界观围绕其间。故事的起点与终点都围绕一场实验展开，透过这场实验，作为带有生物特征的人类与自己创造的、携带人工智能的机器人进行一场理性与感性的博弈，就如导演本人所言，在这个故事中，“充斥着心计、谋略，剧中的每一个人（包括人工智能机械体）都在彼此欺骗”。

一、图灵测试带来的道德困境

熟悉科幻题材的人不会对图灵测试这一概念感到陌生，它的提出者为阿兰·麦席森·图灵（Alan Mathison Turing），其大致内容为：如果电脑在5分钟内回答人类测试者提出的多种问题，且超过30%的回答让人误以为是人类所答，则电脑通过测试。换句话说，这项测试的目的在于验证电脑是否具备独立的“思维能力”。技术的发展当然不会让人类仅仅满足于机械电脑带来的程序便捷，因为还有比它更令人感到直接的存在——人工智能。在《机械姬》开场，我们看到了一个离我们并不算遥远的未来世界，那个世界所运用的技术和我们如此相近。导演亚历克斯说：“我从很小的时候便开始接触计算机，虽然那时的设计并不复杂，但它让你感到电脑对你输入的指令的回应似乎有所感知，尽管那是人为设计的，但那种感觉仍旧奇妙。而现在，如果我们被告知有某家大公司即将推出一款人工智能机器人，我们将不会为此感到新奇，因为那对我们来说似乎并不遥远。”也许正是带着这样的认知，才让他创造出了一个离现实社会并不遥远的未来世界。也因此，影片中人物的遭遇才更能激发当下人们对于人工智能的诸多反思。

从技术型的角度来讲，身兼搜索引擎公司CEO与人工智能机器人爱娃（Ava）的开发者内森（Nethan）让自己的实验在图灵测试的基础上更进了一步，他选择让测试者嘉立（Caleb）与爱娃在强化玻璃两侧面对面进行交流。在观察室中，爱娃与嘉立的位置关系颇有讲究，受试体爱娃可以在房间中270度来回走动，相反，嘉立除了身后的门，留给他的立方体玻璃空间并不算大。这种位置关系暗示了嘉立与人工智能体的深层关系。在起步阶段的测试中，我们可以明显感受到两人初次见面的心理特征。很显然，嘉立并没有办法像爱娃那样安定自若，他多少有些局促，并在其后的测试中为爱娃捕获。空间带来的束缚对于爱娃来说同样成立。因为嘉立离开观察室便可以拥有自由的活动空间，而爱娃则只能在有限的空间内接受测试。这种相对的空间矛盾为二人接下来的交流进行了暗示。对于空间的诉求开始在二人间轮流产生：一方面，爱娃迫切想要到观察室以外的地方走走；另一方面，通过与爱娃的交流，嘉立逐渐认识到人类的缺陷并产生自我身份认知障碍。他承受着人工智能对自我存在意义的挑战，寻找自我认同则是他内在心灵空间的根基所在。对于观众而言，能否理所当然地把人工智能机器人进行软禁就成为了一个道德问题。在导演加兰看来，“如果你创造了有意识的机器，这机器就和我们（人类）有一样的权利。”而这也成为内森与嘉立之间的根本分歧所在。

分歧很快围绕爱娃是否具备独立意识得到体现。在实验开始不久，嘉立认为爱娃的言行部分表明了其潜在的自我意识觉醒，而不是单纯的数据拟真。于是，就有关它是否能够被当做“人”看待时，纳森认为，人工智能机械体终究是被创造的，他可以在必要时随时改变自己的作品。而嘉立通过数次实验后开始倾向相信爱娃具备的个体价值，并开始尝试帮助它逃离闭锁的观察室。如此一来，这个一开始以测试爱娃是否具备独立思考能力的实验开始更进一步地往道德领域方面延伸。影片让两个持有不同论点的人做出了他们的选择，然而讽刺的是，他们最终都被自己所认为的现实背叛。

二、顺从到反制：理智与情感的博弈

从很早开始，人类便表现出对机器人的不信任。在一些小说中，人类最终沦为机器人的奴隶，并最终被机器人取缔。发展到当下，不少电影作品也都对智能机器人统治人类的末世进行了不同程度的渲染。其中，《黑客帝国》三部曲中的机器人更是发展到科技程度超越人类的地步。而对于智能机器人的看法，英国著名学者史蒂芬·霍金（Steven Hawking）就曾预言：“人工智能的完全发展将终结人类，它将自我提升，不断加速自我设计，而受限于缓慢生物进化的人类无法与之抗衡，将被其取代。”

关于人类与智能机器人的关系，在《机械姬》中导演以更加趋于现实的手法表现出来。有人认为，西方在表现有关机器人题材的影片时，保留了二者在刻意疏离与对立过程中“人”的尊严，并掩饰了对技术的恐惧。这在故事发展的后期体现尤为明显。主角之一的嘉立通过多番接触后开始认同爱娃的存在，并相信它拥有独特的个性与情感，并逐渐沉溺其中。在与内森的一次对话中，嘉立被对方明确告知爱娃的设计超过了一般意义的智能机器人水平，它已经具备了自我意识。这次谈话成为整个故事的转折点，从这一刻开始，嘉立更加确信爱娃应该得到和一名普通人同等权利的资格。他那聪明但多少显得有些缺少人情味的老板内森却仍旧只是把其视为一具实验品。

这里涉及一个有趣的命题，它在众多同类题材的电影中被提及，即机器人应该拥有和人一样的权利吗？无论是《人工智能》的机器人男孩，亦或是《机械公敌》中的智能人形管家NS-5，他们与人类的关系可能呈现和谐状态吗？江晓原在对待机器人是否应当获得人权时认为，人的资格获取途径有两个，一为物种划分，二为文化区分。在第二类情况里，他表示凡是掌握了人类文化，就可以跻身人类之列。如此一来，称爱娃为“人”似乎就显得合乎道理了，身为人工智能体的它正是来自于人类科技文明。它的非生命体特征并不能掩盖它使用人类文明（语言、文字、绘画等多种与测试者互动的方式）进行自我表达的事实。然而《机械姬》在另一个方面也在尝试着向我们展示，如果人工智能的情感表达并非源自程序的随机演算，而是来自于自我意识，那么如何判断这份情感的真实性？

在电影《机械姬》中，受邀前往纳森秘密实验室的嘉立最终选择带爱娃逃离。他认定爱娃具备“爱”的能力，并因此陷入生命体与机械体之间的情感交流禁区。受到爱娃的请求，嘉立在人与智能机体的差异认知方面开始出现动摇。这种动摇成为区别于他与人工智能间的阿卡利斯之踵，并很快在故事的结尾得到验证。他所谓的正义、道德，在纳森的推敲下显得苍白无力，这个人物的最终命运也将因为他的品质而被击碎——尽管通过手段让爱娃最终逃离了实验室，但嘉立自己却被永久留在了实验室。重获新生的爱娃似乎并不像嘉立看起来那般对自己心怀情愫，它只是单纯渴望自由。而嘉立则悲剧性地成为它逃往外部世界的一块跳板——这是《机械姬》中对于“机器人是否应当具有人权”这一命题的回应，也是影片在探讨人与机器人的关系中，人对理性与情感处理的内在反省。

三、《机械姬》带给了我们什么

谈到创作初衷，导演加兰说：“从我个人来看，这部电影不应该是一个关于人工智能的警示故事。我们应该警惕的是人类——人类本身让我产生的焦虑甚于人工智能，因为某些方面来看，人工智能甚至比人类更加理性”。毫无疑问，《机械姬》所要表现的主题与导演的思路并无二致。在这部观众能强烈感受到理性对弈的作品中，人类因为自负和不加克制的欲望而最终被人工智能超越。饰演智能机器人爱娃的瑞典女演员艾丽西亚·维坎德（Alicia Vikander）表示：“既然我们能够创造出有‘意识’的事物，我们为什么不接受他们能比我们更优秀呢？”《机械姬》的出现不单单重复了以往同类作品已经出现过的主题，它还引导我们去思考人工智能的存在意义与可能。如果在不久的将来，人工智能依靠其庞杂的数据库进行自我进化，并脱离控制，如何防患于未然？影片的答案随着爱娃融入都市人流一并消失，正如同内森有关人工智能发展趋势的论述。在他看来，高度人工智能的问世只是时间问题，制造爱娃并不是决定，而是发展。从宏观来看，这个发展是一柄双刃剑，因为它也许在赋予人更多技术便利的同时，于无形之中让人类迷失其间。看看时下人们使用的智能手机，也许那会是一个很好的例证。

1.崔酣.东西方机器人题材电影的分析与比较[J].学术论坛,2010(18)

2.江晓原.人权:机器人能够获得吗——从《机械公敌》到《人工智能》[J].飞碟探索,2007(08)