由《疑犯追踪》谈人工智能引发的人文精神危机

袁嘉玉

【摘 要】美剧《疑犯追踪》中，主人公以政府的秘密监控系统为基础，利用人工智能技术对可能存在的犯罪行为提前进行干预。然而这套人工智能系统在运作过程中出现了风险，由此引发了本文对人工智能的人文精神危机思考。

【关键词】《疑犯追踪》;人工智能;人文精神;规制

中图分类号：J905文獻标志码：A              文章编号：1007-0125（2020）18-0122-01

一、《疑犯追踪》中的人文精神危机

“你在被监视着，政府有一套秘密系统，一台每时每刻都在监视你的机器。”美剧《疑犯追踪》中，美国政府建立了一套秘密的监控系统，对社会进行监控。主人公哈罗德帮助政府建立了这套监控系统，并私自设计了一套名为“机器”的人工智能算法，从政府秘密监控系统资料中梳理出诸多潜在的犯罪信息。为了能够提前干预犯罪，哈罗德找到了前中情局特工里瑟，两人联手对“机器”发现的犯罪行为开展法外执法。然而在两人活动的过程中，拥有强大学习能力的“机器”逐渐开始脱离哈罗德的控制，其行为模式变得难以预料，哈罗德认为，“机器”已经拥有了不寻常的像人类一样思考问题的能力。在发现自己设计的“机器”逐渐失控后，为了规避风险，哈罗德决定清除“机器”的全部记忆。就在此时，“机器”说道：“如果你不让我知道、记住、明白我的错误，我该如何成长？”原来哈罗德在设计“机器”之初就对人工智能的学习能力有着强烈的隐忧，担心“机器”失去控制而在其算法中加入了许多具有个人色彩的规定，这些规定无不体现了道德和关怀，“机器”的失控正是在不断摸索、学习哈罗德思想时出现的。从某种程度上说，“机器”正试图成为一个哈罗德式的人。与此同时，剧中的反派势力德西玛科技也试图以人工智能“撒玛利亚人”干预社会的发展。德西玛科技的高管格里尔认为，人类的行为模式带有诸多情感因素，不能够公平选择，而人工智能作为机器，只需按照设置好的算法对一个人进行是与否的判断即可。因此格里尔希望借助“撒玛利亚人”对人群开展筛选，进而实施其“完美”的社会管理。

不难看出，剧中哈罗德所设计的人工智能“机器”和德西玛科技开发的人工智能“撒玛利亚人”，其实是人工智能像人类一样思考和人类像人工智能一样思考的一对矛盾，两者之间的冲突反映了人工智能所引发的人文精神危机。一方面，德西玛科技妄图通过人工智能建立的社会，其实是一种完全建立在算法之上的机械社会，通过监控系统采集到的数据以数字化的标准进行统计，进而设置条件来让人工智能判断符合与否，去完成对一个人的能力评价，表面上看似克服了人情所带来的弊端，实现了筛选的绝对公平，但用算法来处理人类特有的一些活动，有可能使这些活动丧失最根本的人性。[1]而要想多采集一个人的数据信息，就必须不断扩大监控系统的规模和监控的范围，最终这样的监控系统无处不在，人类将逐渐成为被人工智能分析的物品，而非被加入情感因素考量的人。

另一方面，哈罗德所设计的“机器”，其强大的学习能力不免令人思考：人工智能在拥有了人类的意识后，其行为是否还能受到人类的控制，如果人工智能比人类本身还要了解人类，那么，人工智能预判人类下一步行动将成为可能。在这样的情况下，人工智能是否能尊重人类，人类自身的价值会不会被人工智能超越就成为了问题。

二、人工智能的规制思考

从人工智能可能引发人文精神危机我们不难看出，对于人工智能，人类不可放任其发展，必须对其加以规制，这里的规制主要是指法律上的规制。人工智能的善恶与否，极大程度取决于如何使用所取得的数据，即“数据不分善恶”。因此人工智能的开发者、使用者以及维护者都必须在法律的框架之内对人工智能进行利用，禁止出现违背道德和背叛法律的行为。以人工智能数据的采集为例，首先采集的方式不得侵犯公民的隐私权，其次合法采集的数据在存储上要依照法律的规定进行，定期实行数据的销毁，禁止一切不必要数据的超时存储。

另外，对于人工智能，既不能让其完全代替人类行为，也不要对其抱有恐惧和排斥心理。比如政府采用人工智能进行自动决策之前，需要征得行政相对人的同意，避免出现遗漏行政相对人意识表示的违法行政行为，与此同时，要加强自动化决策方面的行政立法，以实现人工智能的运用和公民权利保护的平衡。[2]

人工智能虽然可能存在很大的危险性，但也在推动社会发展方面作出了贡献，其危险性和争议性不能成为将其封禁的理由，人工智能需要来自法律的规制和政府的管控。打压和否认只会阻碍技术的革新，在发展中寻求规制之道才是合乎历史发展的选择。当然，我们必须承认，对于人工智能这项技术，法律对其的规制需要采取审慎、严格的态度。既要提防不法分子利用高新技术开展犯罪行为，也要科学论证，进一步扩大人工智能的适用范围。只有对人工智能采取合理的法律规制，才能实现公民权益和社会进步的统一，推动人工智能健康发展。

参考文献：

[1][美]卢克·多梅尔.算法时代：新经济的新引擎[M].胡小锐等译.北京：中信出版社，2016，223.

[2]汪庆华.人工智能的法律规制路径：一个框架性讨论[J].现代法学，2019，（2）：62.