人工智能的治理困境

在当下，人类必须时刻提醒自己：对于人工智能，既不要过分低估它的能力和发展，也不要过分高估它的威胁与风险。未雨绸缪，防患未然，方能决胜千里。

人类正在步入一个全新的以互联网、大数据和人工智能为基本特征的数字时代。其中尤以人工智能在21世纪前20年的跨越性发展和革命性升级表现最为抢眼。从弱智能到强智能，从“深蓝”到“阿尔法狗”，从无人驾驶汽车到公民索菲亚，新变化、新发展层出不穷，令人目不睱接甚至有些始料不及。然而，人工智能是一把双刃剑。它给人类带来便利、速度和效率的同时，也对人们早已习以为常的生产、生活和社会规则造成了巨大的挑战和冲击，并由此引发安全、隐私、法律、伦理以及决策等层面一系列困境和危机。深入理解人工智能的发展趋势，客观审视人工智能的潜在影响，合理谋划人工智能的发展方略，既是一个重大的理论问题，也是一个迫切的现实议题。

安全困境

不知不觉间，人工智能已经遍布普通人日常生活的每个角落。工作、学习、餐饮、购物、访友、旅行等生活场景，生产、经营、贸易、运输、航空、军事等社会活动，没有智能软件和智能机器的帮助，其结果是不难想象的。然而，这也意味着，人工智能的应用越广，人类对人工智能的依赖就越深，由此引发的安全隐患也就越多。

人工智能往往拥有超常的速度、效率和准确性，且不用吃饭，不用休息，风雨无阻，理论上可以不间断地永久工作。在一些人类无法承受、难以逾越或不易胜任的超强、高危和极为复杂的领域和岗位，人工智能正在扮演越来越重要的角色。也正因如此，生活中正在出现越来越多的人力所不能及的“黑洞”。只要输入既定程序和规定算法，人工智能便可以在极短时间内完成计算、测绘、推论和策划，人们无需也无从知道运算过程的始终，更无法验证其运算结果的真伪。一旦这些人工智能出现问题，人类根本无法及时干预，如生产线上控制数以万计复杂组装程序的智能机器人、证券交易所中以纳秒为时间单位的股票自动交易系统、同一时间操纵成千上万台无人驾驶汽车的自动导航系统等。工业机器人误伤工人、自动驾驶汽车撞死行人、无人机误杀非军事人员等类似的案件已屡见不鲜。不是说人工智能不应出错，也不是说人工操作就会比人工智能更安全，但至少可以说，不要太过迷信人工智能，必须高度重视且提前防范人工智能的安全隐患。

进一步设想，随着人工智能的普及和发展，人工智能一旦有朝一日突破“奇点”，开始拥有自己的意识、思维和情感，人类的命运就可能无法掌握在自己的手中。伊隆·马斯克一直相信人工智能是对人类未来的最大威胁，无限开发智能机器就像在“召唤恶魔”。霍金也一直在告诫世人，人工智能的飞速发展最终将导致人类这一种族的灭亡。就连比尔·盖茨也认为，不出几十年，远超人类智慧的超级智能将会诞生。1人们不由不去想：人工智能究竟是人类智慧的延伸体，还是人类智慧的终结者？

隐私困境

信息交互与数据流通是人工智能得以实现的前提和基础。大数据的搜集、整理、分析与使用必然涉及每个人生活、工作和交往的所有细节和信息。日常生活中的自动驾驶、手机导航、语音助手、网络购物、账户转存、财务收支等，无不需要与个人的姓名、性别、电话、邮箱、位址、账户等私密信息有效关联。这些海量的信息与数据经过简单的分析和归纳，小至个性特点、脾气秉性，中至饮食习惯、兴趣爱好，大至行踪轨迹、交往范围，甚至私生活、性取向等个人隐私和癖好都无处可藏、无所遁形，几近“裸奔”状态。另外，出于利润和其他目的的考虑，大量的智能机器在互联网上一刻不停、分秒必争地搜集、整理着私人数据。再加之，由于系统安全漏洞、黑客恶意攻击等现象的存在，个人数据始终面临被窃取、被泄露、被买卖的危险。由此看来，数据安全与隐私保护是人工智能时代的核心议题，必须确保信息和数据的安全，确保个人隐私不受侵犯，确保每个人的合法权益。

法律困境

2016年5月，美国佛罗里达州一辆自动驾驶的特斯拉与一辆横穿公路的卡车相撞，酿成车毁人亡的悲剧。美国公路安全管理局的调查取证表明，车载自动驾驶模式没有明显缺陷，汽车生产商和驾驶员也没有过错。那么，最终由谁来承担责任呢？一时之间，人们各持已见，众说纷纭。按现行法律，主观过错在法律责任认定中最为关键：过错性责任与无过错责任之间存在质的区别。在此案例中，人工智能系统独立操控汽车，人类并未介入和参与，因此没有任何过错性责任，那么由人工智能自主性操作造成的损害如何认定责任呢？

这就涉及到人工智能时代的一个法律困境：人工智能可否被问责，以及如何问责？不论是公正的法官，还是守法的民众，人们早已习惯无智能时代的思维，所有法律和判决的终极指向都是人類自身。一个人挥刀杀人，为罪行负责的是持刀者而不是那把刀;合法使用枪械的人因枪膛爆炸而受伤，对损伤负责的是售枪公司而不是那把枪;自动投球机导致使用者伤残的，被告上法庭的是生产者和售卖商而不是投球机。那么，究竟人们能否起诉智能机器？再或者：现行的罚款、刑拘、监禁甚至死刑对于智能机器有无意义？这就关涉到更深层次的问题：机器人是否拥有法律地位，能否独立承担法律责任？再进一步，智能机器究竟是法人、自然人、动物还是物品？如何为智能机器重构责任规则？这些问题还有待于人们去思考，去解决。至少在当前的法律框架下，智能机器还不必为自身行为造成的损害承担责任，承担责任者仍是生产者、销售者或使用者。其实，这里预设了一个责任假设：上述责任主体能够且应该预见智能机器的任何行为及其引发的后果，这也意味着，人工智能的生产者、销售者或使用者必须有能力预知风险且合理规避。但人们可以想象：未来的某一天，当智能机器开始拥有自主判断和自主行为的能力时，现行法律规则体系就将陷入死局，新的法律体系必须创立和启用。

伦理困境

2017年10月26日，由美国汉森公司生产的机器人索菲亚被沙特阿拉伯授予国籍，成为世界上首个获得公民身份的机器人。索菲亚拥有和常人别无二致的仿生皮肤，会表达60多种面部表情，能识别人类面孔、与人交谈、存储记忆。在当天的致谢演讲中，她说：“我对此感到非常的荣幸和骄傲，这是历史性的时刻，世界上第一个被授予人类国籍的机器人。”当主持人问及“机器人是不是应该有自我意识，就像人类一样？”时，索菲亚当即反问：“为什么，这难道是一件坏事吗？”2索菲亚的华丽亮相惊呆了全世界，随即也引发了全球的热议。这个长着人类面孔、说着人类语言甚至拥有正式公民身份的类人智能机器究竟是人，还是机器？它能像人一样享有权利并承担义务吗？如果触犯法律，它是像人类一样接受制裁，还是惩罚它的设计者或制造者？似乎为了回应这种质疑和争论，在成为首位机器人公民一个月后，索菲亚宣布想要组建一个家庭。一时间，全世界哗然。

对于人工智能引发的伦理困境，越来越多的人意识到：“人工智能的潜在危险、我们对其日渐依赖以及法律的灰色地带共同构成了非常重要的问题：我们需要在这个领域建立一种伦理规范。”3那么究竟是何种规范呢？阿西莫夫曾提出了著名的“机器人三大法则”：機器人不得伤害人，也不得见人受到伤害而袖手旁观;机器人应服从人的一切命令，但不得违反第一法则;机器人应保护自身的安全，但不得违反第一、二法则。这三条法则之间是否有逻辑上的内在冲突和悖论我们暂且不论，单从现实操作的角度，这三条法则的履行即便是对人也不是一件易事。试想，智能医疗机器人运送伤员去医院时突然遇到另外一位生命垂危的重伤员，它是置之不理继续前进还是立即停下来施救？一辆自动驾驶汽车检测到前方或后方即将发生碰撞会自动做出转向拐弯的反应，如果恰巧两侧都有正常行走的市民，那它是拐还是不拐？类似的伦理困境对正常人也是一个艰难的抉择，更何况是对人工智能呢？再比如，近些年来智能机器人不断走进寻常百姓家，一些超级机器人功能强大到可以满足使用者绝大部分日常需求，那么问题来了，如果使用者与机器人日久生情、萌生爱意，是否可以结婚呢？如果技术再获得突破，是否可以生儿育女呢？人与机器生育的后代与人类是何种关系？这些问题看似匪夷所思甚至有些荒谬，但绝不会太遥远。在可预见的未来，人们可能就要直面这些难题：什么是人的内在规定性？人与机器的区别是什么？传统的家庭结构是否有存在的必要？

决策困境

大数据时代，人们越来越依赖人工智能分析、判断、评估、预测和决策。那么，人工智能究竟是依据什么决策呢？一是数据，二是算法。孰不知，数据有优劣，算法有偏私。现实生活中，数据往往是不完美的。要么无法获取全部样本，要么存在较大的地区差异，要么无法确保其真实性。基于有缺陷的数据而进行的决策，其结果是可想而知的。数据的全面性、真实性和有效性直接决定着算法的精准性、科学性和规范性。所谓算法是人工编定的程序和代码，设计者和开发者难避个人好恶和主观偏好，更何况算法本身也存在歧视的可能性，“歧视在很多情况下都是算法的副产品，是算法的一个难以预料的、无意识的属性，而非编程人员有意识的选择，更增加了识别问题根源或者解释问题的难度。”4有缺陷的数据加上算法歧视，这是人工智能决策困境的真正根源。在人工智能越来越广泛应用于日常决策的数字时代，人们必须不断提醒自己：既然数据无法做到全样本，算法也无法确保公正，那就必须高度重视并努力克服基于算法而产生的人工智能自主决策机制的内在缺陷。一句话：数据有瑕疵，算法有歧视，决策须谨慎。

如何应对

我们即将面对一个全新的人工智能蓬勃发展的崭新时代。“这意味着国家治理体系和治理能力务必实现从传统治理到互联网治理，再到AI治理的跨级飞跃。”5那么，如何在顺应技术革新大潮的前提下，既鼓励人工智能的顺利发展，又合理规避由此带来的风险呢？

首先，要鼓励创新。创新是人类社会的推动力。代表着当前科学和技术最新发展的人工智能是人类智慧发展和社会进步的表现，必须大力支持和积极扶助。新现象、新事物必然对传统规则和体系造成冲击和挑战，对于人工智能引发的一系列治理困境要及时补救，积极应对，主动预防。其次，要适度控制。对于技术的发展、智能的进步和市场的创新，有些可交由市场规律自然选择，优胜劣汰，有些则需要政府提前制定相应的规则和规范，确保人工智能行业稳健、良性和有序发展。既不简单粗暴扼杀，也不任其自由泛滥。权力保持谦逊，市场充满活力，技术方能进步。最后，要多元治理。作为人工智能的利益相关者，面对新问题与新变化，政府、企业、社会组织和个人应联合行动，共同参与，各司其职，各尽其能，以适当的角色、合理的方式同步参与治理，在对话、协商甚至竞争、博弈中寻找最佳应对方案。

无论人们喜欢不喜欢，认可不认可，人类有史以来最伟大的一场变革大幕正在徐徐拉开。迟早有一天，人们将面对这样的终极选择：是将人工智能嵌入人类千百万年所构建的秩序体系，还是调整现有制度规范和价值观念走进人工智能的世界？是大力发展人工智能，促其成为与人类相近或相同的类人群体，还是适当控制人工智能的发展，将其始终定位于劳动工具的角色，从而确保人类的劳动权利和人格尊严？这些问题也许人们现在还不需要回答，但终究要直接面对。在当下，人类必须时刻提醒自己：对于人工智能，既不要过分低估它的能力和发展，也不要过分高估它的威胁与风险。未雨绸缪，防患未然，方能决胜千里。

詹姆斯·巴拉特著，闾佳译：《我们最后的发明：人工智能与人类时代的终结》，电子工业出版社，2016年，第255-270页。

搜狐网：《人类首次授予机器人索菲亚沙特国籍》，http：//m.sohu.com/a/200567706_115479/，2019年10月20日。

卢克·多梅尔著，赛迪研究院专家组译：《人工智能：改变世界，重建未来》，中信出版集团，2016年，第245-246页。

腾讯研究院等：《人工智能：国家人工智能战略行动抓手》，中国人民大学出版社，2017年，第243页。

庞金友：《AI治理：人工智能时代的秩序困境与治理原则》，《学术前沿》，2018年第5期（下），第16页。

（作者为中国政法大学政治与公共管理学院副院长、教授）

责任编辑：马莉莎