警惕AII“操纵”社会治理

高奇琦

美国总统特朗普上台执政已有一年多时间，但与美国大选有关的各类传闻或“丑闻”仍不绝于耳。

特别检察官罗伯特·米勒对13名俄罗斯人和3个俄罗斯实体涉嫌干扰2016年美国大选的起诉书提到，俄罗斯人利用假身份在社交媒体开设大量账户散播假新闻，仅在脸书上发布的消息就多达8万条，覆盖1.26亿美国人。

有分析人士指出，要做到如此大范围的信息覆盖，仅凭人力恐难以完成，其情形可能是，AI账户伪装成普通用户出现在推特、脸书等社交平台上，通过程序设定散布片面的或错误的政治信息，从而达到诋毁政治对手、影响公众舆论的目的。据称，在2016年美国大选中，一些AI账户甚至潜入到主要竞争对手的支持者队伍中，影响选民的政治情绪。

实际上，欧洲的选战、公投和公共舆情也曾受到AI干扰。在2015年英国脱欧公投前，支持脱欧的政治人物、时任英国独立党领导人奈杰尔·法拉奇就曾雇用剑桥分析公司（已申请破产）相助；2017年5月初，在法国总统大选的关键时点，现任法国总统马克龙竞选团队的大量内部电子邮件被泄露到推特和脸书上，其中包含了一些捏造的马克龙财务交易状况信息。

大数据安全

大数据分析技术也被认为为特朗普胜选发挥了重要作用。

多家美欧媒体报道，剑桥分析公司借由一款个性测试应用程序获取大约8700万脸书用户的个人信息，助力美国总统特朗普2016年竞选。

据悉，借助通过“不恰当方式”获取的用户个人信息，剑桥分析公司帮助特朗普团队定位选民爱好，进行心理测评和数据分析，并在此基础上精准投放广告，为每个选民推送为其“量身定制”的信息，实现从多个角度“美化”特朗普、“丑化”其竞争对手的目的，比如故意向高收入人群传播“希拉里有意在上任之后调高对富人的税收”等观点。

“大数据安全是全球的挑战，要站在历史和网络空间的维度来看待。”在2018中国国际大数据产业博览会上，中国国家密码管理局副局长徐汉良说，大数据安全事件危害巨大，不仅涉及大量公民隐私，而且能左右舆论导向，甚至影响政治进程。

“算法黑箱”

在现实政治生活中，AI技术对欧美政治决策和选举实践的影响正在不断扩大，但目前AI技术还处于数据驱动的弱人工智能阶段，几乎完全以统计学或盲模型的方式运行，缺乏对结果的解释性。其对各国政治发展的影响还需密切观察。

首先，AI技術存在“算法黑箱”的问题，即一般情况下，算法能被看到、理解的，只有输入和输出两个环节，其信息处理过程是一个无法看清的“黑箱”。算法黑箱的存在，使人工智能在政治领域的行为缺乏有效解释力。图灵奖得主、贝叶斯网络之父朱迪亚·珀尔认为，纵使机器可以在不断学习之后得出相对优化的结果，但由于算法黑箱的存在，科学家也无法对其结果作出令人信服的解释。

而政治是人的艺术，政治决策往往没有绝对的对与错，“对错”背后的依据通常是这个决策的解释能否被大部分人接受，而当前的人工智能恰恰缺乏这种能力。以美苏冷战时期发生的古巴导弹危机为例，如果单纯按照算法作决策，后果可能不堪设想。

其次，“算法黑箱”可能导致“算法操纵”，破坏选民的政治情感中立性。

随着人工智能时代的到来，信息爆炸和信息堆积成为人们的普遍困扰之一。个性化的内容推荐越发受到青睐，而这种推荐的背后是算法在发挥作用。同时，信用评估、风险评估等各种评估信息越来越多，这使得人们的决策越来越受制于算法。

而算法和代码的设计都依赖编程人员的判断与选择，因此极容易被利益集团操纵。算法推荐的阅读内容容易使选民获得的政治信息更加片面，影响其政治情感的中立性，导致其选择很可能会被“无形操纵”，从而形成“算法操纵”。

“算法操纵”还存在加剧一种新的社会不平等的风险，即民众在数字信息领域的“贫富差距”不断拉大，进而演变为政治上的新霸权。美国著名未来学家阿尔文·托夫勒在其1990年出版的《权力的转移》一书中说，在人工智能时代，全球性大公司对信息的垄断，将削弱国家的政治聚合力和国家中心意识，最终可能导致少数“技术超人”和企业精英操控全球经济和政治，普通人不仅成为失业者，甚至沦为失权者。

《终极算法》作者、人工智能领域学者、华盛顿大学教授佩德罗·多明戈斯认为，目前想要借助AI技术作出“合理合法”的政治决策，还有相当长的一段路要走。

技术前景仍可期

虽然算法对政治领域的挑战显而易见，但简单地将失败的政治行为归咎于人工智能是武断的，因为技术本身是无害的，关键在人如何使用技术。政治上的失败大多与别有用心的利益集团或个人密切相关，因此，修正人们对AI技术的态度，可能是规避算法风险的有效途径之一。

眼下，人类正致力于创造人工智能大脑，推动机器人多维度学习，尤其是提高机器人的情感水平。当机器主体具有超强能力、自主性及情感时，人工智能的“工具论”将不攻自破。届时，人类对数据操纵的态度可能发生转变，尊重数据或将变成主流趋势，人工智能在政治领域的应用或将得到有效的规范。

（摘自《环球》）