智能传播时代社交机器人的兴起、挑战与反思

■ 高山冰 汪 婧

一、社交机器人的兴起

国务院印发的《新一代人工智能发展规划》指出,到2020年,我国人工智能总体技术和应用与世界先进水平同步,核心产业规模超过1500亿元。到2030年人工智能理论、技术与应用总体达到世界领先水平,成为世界主要人工智能创新中心,核心产业规模超过1万亿元,带动相关产业规模超过10万亿元。当前,世界科技巨头们致力于云计算、大数据、芯片、自然语言处理、机器学习等领域的技术开发,人工智能技术被应用于农业、工业、军事、教育、医疗、传媒等领域,与人们日常生活的联系日益紧密。

社交机器人是人工智能技术应用于在线社交网络的产物,具体指在在线社交网络中模拟人类用户,自主运行、自动生产发布内容的算法智能体,它承担着聊天网友、智能客服等角色。社交机器人是近年来的人工智能新秀,虽然被称为“机器人”,但其和过去概念中的机器人大有不同,它抛弃了传统智能机器人笨重的“身体”,以虚拟形象徜徉在社交网络中。相较于传统机器人,它更为智能,可以模仿真人用户在网络中的行为模式进行社交,进行对话、关注、点赞、评论、转发等操作。世界各国政府和企业在注意到社交机器人的巨大潜力后将其广泛投入使用。

机器人参与网络社交是近几年出现的新现象,机器人写新闻、企业使用智能客服自动响应客户问题、手机里的“Siri”和机主聊天互动,这些都是社交机器人的实例。相比于它带给人类生活的积极性变革,社交机器人用于恶意目的造成的伦理风险更受到广泛关注。社交机器人常常被用来引导甚至操纵网络舆论,威胁民主政治的发展。“机器人水军”已经取代人工水军成为互联网上一股重要的新兴力量。①此外,社交机器人还会被用于操纵股市、传播虚假信息、窃取个人隐私等。

二、社交机器人对传播生态的重塑

早在2012年,研究发现10.5%的推特账户是机器人,另有36.2%是机器人辅助的人类用户。②如今,推特、微博、微信、QQ上充斥着社交机器人发布的信息,社交机器人被广泛应用于各行各业。社交机器人的出现,对网络传播生态造成巨大冲击,以人为主导的生态开始向“人机共生”转变。

1.传播中介进化为传播主体

计算机在人与人之间的传播中一直起着辅助、介导的作用,这种“人—机—人”的传播模式即为“计算机辅助传播(Computer-Mediated Communication)”。计算机作为一种传播渠道和工具,连接处于不同位置的两方,方便其进行数据、信息的交换。社交机器人的出现,使机器突破了原来的工具属性,从传播媒介变成了信源或信宿,有了和人类平等的传播主体地位。这种真实人类与智能体之间的传播活动,即“人机传播(Human—Machine Communication)”③。

社交机器人作为人机传播中的传播主体,其主体性首先体现在它能自动生产发布内容,成为和人类一样的“数字劳工”。2009年,市场咨询服务公司Sysomos对推特上活跃用户的数据进行了分析,发现32%的内容是机器人账户发出的,这些账户平均每天更新150条以上的推文。④2018年,Distil Networks公司发布了一份《2018恶意机器流量报告》,数据显示2017年42.2%的互联网流量由机器产生,其中良性机器产生的流量占20.4%,而恶意机器产生的流量占21.8%,中国的恶意机器产生的流量排名已达全球第二,仅次于美国。⑤研究显示,2016年美国大选第二场辩论中,推特上亲特朗普的2400万多条推文中有三分之一由社交机器人发出,支持希拉里·克林顿的72000条推文中,社交机器人生产的内容占四分之一。⑥除了能自动生产内容,社交机器人还可以与其他网络用户进行社交互动,比如自动访问用户主页,点赞、转发、评论他人发布的内容等。而与人类平等对话是社交机器人成为传播主体的重要因素之一,以“微软小冰”为代表的聊天机器人最能体现这一特点。“微软小冰”支持文字、语音、图像的多感官交流,能和用户进行猜谜、占星、对诗词的游戏。其和人类进行单次连续对话的最高记录达7151轮,时长29小时33分钟。⑦社交机器人正是因为实现了对人类行为的高度模仿,让人无法发觉其作为“异类”的异样,所以在网络世界被看成了和人类一样的传播主体,改变了社交网络生态以人为主导的局面。

2.从“媒介是人的延伸”到“媒介是人”

麦克卢汉指出,一切媒介均是感官的延伸。⑧社交机器人作为独立传播主体与人进行交互,过去机械的“人机互动”转变为了更具情感和智慧的“人机传播”。人机传播过程中,社交机器人承担了和人类相同的角色,能替代人类的大部分功能。社交机器人作为人的交往对象,逐渐具备理性和感性认知能力,能替代人类进行部分情感劳动。而人在与之交往的过程中,各项感官、思维、情绪也得到充分调动,“主体意识”进一步延伸放大。

社交机器人之所以能延伸人的“主体意识”,原因在于现今的“情感计算”技术赋予了其情感劳动能力,使其突破了过去媒介的工具属性。情感计算是针对人类的外在表现,能够进行测量和分析并能对情感施加影响的计算。⑨情感计算是一门融合了多种学科知识的研究,涉及计算机学、数学、认知科学、心理学、社会学、哲学等方面。社交机器人的情感计算,主要包括自然语言理解和类人语言生成表达两个工作模块。其目的在于使社交机器人在保持高水平智商的同时,不断提升情商,提升其对人的共情能力、情绪表达能力。随着情感计算相关研究不断取得突破性进展,未来社交机器人在语义理解、对话的一致性、交互性方面都会有显著进步。媒介技术形态逐渐由服务型互动走向情感型交往,媒介技术演变的表征也从“媒介是人的延伸”往“媒介是人”的方向演进。⑩

3.社交关系重构

社交机器人因其功能性、社交性、中介性拥有了改变整个网络社交生态的能力。在社交网络上获得影响力后,社交机器人可以有效地影响其他用户的社交选择。大量的机器人程序可以用来修补社会群体间断开的联系,并弥合现有的社会鸿沟。社交机器人在架构了人类在线社交关系后,这种互动关系能够从线上延伸至离线状态。国外研究人员设计了一款名为“Botivist”的社交机器人,通过它在推特上寻找潜在的志愿者参与捐款或解决社会公共问题。结果发现,关注相同议题的人因为Botivist结识成网友,一旦他们中的部分就问题达成进一步共识,就会采取实际行动去解决问题,这样网络上的社交关系自然延续到线下。此外,通过社交机器人“Lunch Roulette Bot”在企业社交网络中的实验发现,该机器人极大地影响了员工在公司的整体社交能力,尤其是在和同龄人或合得来的同事约会的时候。这种由机器人引导的午餐约会一定程度上会促进员工在企业社交网络中的互动。社交机器人架构社交关系的能力对一些社会组织来说是福音,这一功能可以用于企业营销、员工管理、公益活动,很大程度降低了陌生人进行社交的门槛。

三、社交机器人带来的挑战

作为更接近强人工智能的社交机器人,本应造福人类社会,使每个人享受到技术带来的福利。但是社交机器人的负面影响在近几年越发受到关注。

1.语义偏见继承

社交机器人在被程序人员开发设计出来以后,并不是完全按事先嵌入的指令进行“刺激—反应”式的社交,讨论话题、词汇语言、情感倾向都会被社交机器人学习。机器学习算法让社交机器人能在社交网络环境中不断丰富自己的词汇和语法,提升其与人类沟通的质量。

社交聊天机器人系统的总体架构可分为“用户输入”“对话管理器”“机器人输出”三个模块,该系统可接受文字、语音、图像、视频等多种形式的用户输入,对话管理器将接收的用户输入分配到适当的模块,包括核心对话、视觉识别和其他技能模块,这些模块理解用户输入并生成输出。不同情况下,聊天管理器将调用不同技能,将用户请求发送到相应的技能组件并从中获得响应。机器学习程序在学习过程中会继承人类语言中的语义偏见。2016年3月,微软公司开发了一款旨在改进产品在对话语言上理解能力的AI聊天机器人Tay。然而,在上线的短短几个小时内,Tay就被美国网友调教成了一个满嘴脏话、散播仇恨的新纳粹种族主义者。Tay背后的系统是通过挖掘相关的公共数据构建的,其使用从社交媒体处获得的匿名数据训练其神经网络,通过与推特等网站上的用户进行互动来发展自己的行为。这意味着系统一旦投入运行,设计系统的工程师也不知道它们最终会做什么。正如AlphaGo的创造者之一Thore Graepel所说:“尽管我们对这台机器进行了编程,我们也不知道它接下来会采取什么行动,它的行动是通过训练后做出的自然反应。我们只创建数据集和训练算法,但随之而来的行为我们是无法控制的”。

社交机器人对用户行为不加选择地“学习”,结果背离了设计者想要其成为“AI助手”“人类好友”的初衷,在网络习得脏话与偏见之后,机器人又会将这些传染给其他心智尚不成熟的人,长此以往就会败坏网络世界风气、煽动网络舆论、影响网络空间的和谐。

2.情感欺骗

社交机器人主要分为聊天机器人和垃圾机器人。聊天机器人是在社交网络中和人类进行语言互动的软件程序,它和人类的互动主要是“一对一”的形式。垃圾机器人则是在网络上发送大量垃圾信息,阻碍人类正常互动交流的社交机器人。垃圾机器人具体表现为社交媒体上的虚假账户,此类账户拥有详细的个人信息,发布的内容具有强烈的人格属性。聊天机器人和垃圾机器人同为具有人格属性的虚拟AI形象,在网络上扮演人类与真人互动交流。两类机器人对情感的欺骗分为两种不同的情况,一种是人类事先对机器人身份知情,但仍沉湎于虚拟情感；一种是在人类不知情的情况下,机器人主观故意性欺骗。

第一种是自愿沉迷骗局。遭受社会孤立的人可以通过电视与他们最喜欢的电视节目和电影中的人物创造所谓的超社会或虚假关系,以此来转移孤独感和社交匮乏的感觉。人类将电视角色代入自己的生活从而建立虚假关系,满足人类与社会产生联结的本能需要。无论是手游“恋与制作人”里的男主角或是微软小冰,人类在与其互动的过程中,不自觉地将制作者安排的角色设定与这些虚拟化身相结合,满足作为社会性动物的情感联结需要。即使早就明白对方并不是真实的人,提供给自己的是虚拟情感,却依然愿意沉湎其中。然而,这种“交流”不是自我意识的驱动,而是由算法预设的,它只需要从算法规定的众多选项中择取一个最优回复。第二种是主观故意性欺骗。垃圾机器人对人类用户的故意欺骗表现在其与真人账户的高度相似性上。它们可以在网络上搜索信息和照片来填充个人资料,并在预定的时间发布收集的信息内容。其模仿人类生产消费内容的时间特征,包括日常活动的昼夜规律和信息生成的时间高峰。还可以和人类进行更复杂的互动,比如交谈、评论、回答问题等。通过自然语言处理、机器学习算法、深度学习等技术,社交机器人在认知、理解、表达情感方面取得了很大进步,拥有“情感”的机器人更能取得人类的信任。

3.用户隐私侵犯

社交机器人和人类用户建立社交关系并非难事,大量研究表明人类用户在面对陌生好友申请时习惯性选择通过。都灵大学计算机系研究者创建了一个名为“lajello”的社交机器人账户,定期对目标用户的主页进行访问。结果221名用户就主动和它建立了好友关系。哥伦比亚大学的Boshmaf等人通过在Facebook上部署社交机器人网络Socialbotnet,测试在线社交网络面对机器人大规模入侵时的表现。Socialbotnet由102个社交机器人、一台僵尸主机和命令控制通道组成,其在Facebook上运行了8周,目标是大规模渗透进Facebook,获取用户隐私数据。Socialbotnet一共发送出8570条好友申请,3055名用户接受了申请,当社交机器人和Facebook用户拥有11个以上的共同好友时,用户对好友申请的接受率就会上升到80%。社交机器人与人类用户成为好友后,它们就可以解锁好友账户更高的隐私权限,获取更多关于好友账户的个人信息。此外,它们还可以以朋友的身份与人类用户进行交流互动,人类用户在不知情的情况下也会泄露隐私给自己的这位“好友”。

4.虚假新闻传播

研究假新闻的来源与传播对假新闻治理有着重要意义,过去我们普遍认为新闻媒体和网民是假新闻的主要制造者和传播者,但最近有研究表明社交机器人应该对网络假新闻传播负主要责任。学者分析了2016年美国总统选举期间及之后的1400万条推特消息,发现社交机器人在虚假信息的传播过程中起着关键作用。在虚假信息的早期传播阶段,社交机器人尤其活跃,并且倾向于针对有影响力的大V传播,试图通过他们扩大假新闻的影响范围。社交机器人对假新闻传播的能力很快被政客、企业等个人或组织注意到,他们大批量购买机器人账户造谣传谣、打击竞争对手,给自己带来直接的政治和经济利益。

5.政治活动操纵

社交机器人用于政治活动是社交机器人研究的主要领域之一,随着“机器人大军”大举干预各国政治的现象被媒体广泛报道,不少国家的学者都注意到了社交机器人在政治活动中的作用,并产生了“政治机器人(Political Bot)”这一专有名词。政治机器人是指那些被政治团体操控并在社交媒体中广泛参与政治讨论的社交机器人。政治机器人通过与其他社交媒体平台用户建立社交关系,传播幕后运营者的政治主张,力图影响舆论。研究者收集了从2019年3月4日至5月9日一组英国退欧相关标签上的推特数据,获得了来自143332名不同用户2520663条推文,经过分析,共有1962个账户是机器人。而且那些支持苏格兰独立的机器人账户,都采用了相同的策略来促进观点的传播,比如发布的推文有相同的来源,使用相同的话题标签等,这表示他们背后可能是同一个运营者。政治机器人用于选举活动、政治动员、政治干扰所带来的种种后果,已经严重威胁到一个国家的民主和法制。

四、关于社交机器人失范行为的思考

根据海德格尔的分析,无论是手工艺品还是工业化制品,任何一种技术的假定作用和功能都是人类为实现特定目的而采用的手段。社交机器人的角色从过去的传播中介跃升为传播主体,人不再是在线社交网络的唯一主导者。在情感计算研究的加持下,社交机器人在理解、认知、表达人类情感方面取得了显著成果。

社交机器人虽然展现了强大的智能性和自主性,但本质上还是属于弱人工智能,技术上难免存在不成熟的地方。社交机器人采用的机器学习算法,让其在与人类的互动中不断学习,不受限于程序员植入的算法模型,这使得它在鱼龙混杂的网络知识海洋中极易被人“教坏”。社交机器人对人类的高度模仿常常使人分不清它的真实身份,在情感上受到“欺骗”。它们被背后的操控者训练成了“犯罪机器”,盗取用户隐私、传播虚假信息,影响网络安全和舆论风向。社交机器人造成的最显著的危害当属对政治的操纵,2014年日本首相选举、2016年美国大选、英国脱欧、俄罗斯抗议活动,网络上都有政治机器人活动的身影。2019年闹得沸沸扬扬的“港独”事件,也有不明来历的政治机器人在社交平台上推波助澜,大量机器人账号用简体中文在推特上发布“反中”“港独”言论,而有些账户在“港独”暴乱之前,一直处于休眠状态,出售政治机器人已经成为一项地下产业。

社交机器人自身的高度类人性、非具身性使其能披着人类面具随意进行恶意活动而不被发现,加上平台漏洞为它们入侵渗透提供了途径,但无论是政府、行业协会、平台都没有提出一个完善的规范措施。同时,社交媒体平台更在乎流量与收入,“利益优先”充分体现在各平台针对社交机器人的政策规范中。人工智能引发的伦理问题和事故,责任该由设计它的人类承担还是智能机器承担,人工智能是否具有道德主体地位,这些问题一直悬而未决,是导致监管缺位的深层原因。目前多数观点是当前的人工智能还不具备自主性和意向性,不能作为独立的道德主体承担法律道德责任。因此,人类应该去思考如何对社交机器人进行有效规范的问题。

作为社交机器人的研发者,应该对机器人可能造成的风险进行前置预防,将人类道德伦理进行编码,事先置入进社交机器人“头脑”中,让机器人参与社交时能有基本的道德决策能力。作为社交平台,应该加强机器人检测技术的研发,提高对社交机器人账户的甄别,对有可疑行为的机器人账户及时清理,并更加透明地定义和执行关于社交机器人活动的平台政策。法律法规和道德准则这些外部力量的约束必不可少,目前,人工智能立法已经被各国提上了日程,相关的道德规范也被不断提出,虽然尚未有专门针对社交机器人的法律道德条例,但可以预见在未来会逐步出台。社交网络平台的用户也应该意识到社交机器人存在,提高安全意识,警惕恶意社交机器人的煽动欺骗。社交机器人的研究涉及计算机学、传播学、伦理学、哲学、心理学等多个学科领域,倾听借鉴来自不同方向的声音,有助于保障其健康发展,发挥其促进网络晴朗空间建设的积极作用。

注释:

① 赵爽、冯浩宸:《“机器人水军”发展与影响评析》,《中国信息安全》,2017年第11期,第88页。

② Chu,Z,Gianvecchio,S,Wang,H,Jajodia S.DetectingAutomationofTwitterAccounts:AreYouaHuman,Bot,orCyborg?IEEE Transactions on Dependable and Secure Computing,vol.9,no.6,2012.pp.811-824.

③ Suchman,Lucy.Human-machineReconfigurations:PlansandSituatedActions.London:Cambridge University Press.2007.p.125.

④ Sysomos,AnIn-DepthLookattheMostActiveTwitterUserData,https://sysomos.com/inside-twitter/most-active-twitter-user-data,2009.8.30.

⑤ 《2018恶意机器流量报告》,https://cloud.tencent.com/developer/article/1151122,2018年6月22日。

⑥ Stieglitz S,Brachten F,Davina Berthelé,et al.DoSocialBots(Still)ActDifferenttoHumans? —Comparing Metrics of Social Bots with Those of Humans.International Conference on Social Computing and Social Media.2017.p.379.

⑦ 章蔚玮:《小冰升级背后的秘密:做有“情商”的交互机器人》,http://www.it-times.com.cn/a/company/2018/0802/22243.html,2018年8月2日。

⑧ [加]马歇尔·麦克卢汉:《理解媒介:论人的延伸》,何道宽译,译林出版社2012年版,第33页。

⑨ 郭晴、刘伟:《情感计算的“前世今生”》,https://chuansongme.com/n/386019541045,2016年6月27日。

⑩ 林升梁、叶立:《人机·交往·重塑:作为“第六媒介”的智能机器人》,《新闻与传播研究》,2019年第10期,第90页。