“社交机器人”入侵

杜鸣皓｜新经济改革观察主创

“社交机器人”入侵

杜鸣皓｜新经济改革观察主创

2016年美国总统大选搅动了全世界的神经，而“社交机器人”则搅动了美国人的神经。

美国人民无法确切的知道，有多少“社交机器人”在推特、facebook上发布了支持特朗普的言论

“水军”一直作为互联网的“暗箱”而长期存在，但相比过去在天涯、猫扑上发帖的“五毛党”，虚拟世界中的“社交机器人”是一批更加运作有序并神出鬼没的“水军”队伍。

面对“社交机器人”的入侵，曾经在论坛、社交网络上呼风唤雨“水军”，可能会成为下一批面临“失业”的互联网工作者，他们的工作将会被人工智能取代。

但这并不是我们的担心所在。我们关心的是，如果有人通过操纵“社交机器人”来渗透进入人们的真实社交，并试图影响人们的投票、左右人们的观点、窃取人们的隐私的话，这将会是一个非常危险的事情。

“机器水军”的前世今生

“太阳底下没有新鲜事。”邓普顿曾这样说。

虚拟世界中新兴的“机器水军”，在网络社交的BBS时代就已经有了它们的影子，只不过这些机器水军是经过“网络进化”和“技术迭代”的产物，它们的前世今生都没有逃离我们熟悉的网络世界。

论坛上的“五毛”们

现代公认网络社交的兴起源自于BBS，即类似猫扑、天涯、西祠胡同等网络论坛，以及更一步的MSN、腾讯QQ等IM工具。人们通过这些BBS工具实现了虚拟世界“弱关系”的维护，甚至还部分完成了对现实世界人们之间“强关系”替代。

在虚拟世界中，人们一直苦于无法准确的判断对方的“社交身份”，以及他们发表言论的目的。原因在于，BBS中活跃着大量的“五毛党”，也就是通常人们所说的“水军”，这是一批有组织、有纪律，目的明确、表现活跃的“社交对象”。

“水军”之所以被称做“五毛”，是因为他们靠在论坛上注水发帖来获取报酬，平均每发一贴的报酬大概为人民币五角钱。天涯、猫扑等论坛极盛之时，有大批的网络营销公司在网络上招募兼职来充当“水军”，其中很多是熟悉电脑操作的在校大学生以及公司白领，网络营销公司会给“水军”布置发帖任务。比如，每部电视剧、电影上映之后，都会有人雇佣水军在网上发帖进行诱导性的评论，让该电视剧、电影迅速成为热门话题；当然，也有竞争对手雇佣水军发布抹黑、攻击性质的评论。

实际上，“水军”只是前台小卒、被人操纵的木偶，他们的背后是大量专业的“网络推手”。网络推手们负责策划各种或虚假、或另类、或夸张的吸人眼球的言论，然后交由“水军们”在网上发帖炒作。

2010年底，国务院新闻办主任王晨在回应“网络水军”问题时说，“中央领导人很关注网络水军问题。网络水军危害社会、影响正常的网络秩序，需要治理。”这也是我国官方首次对“网络水军”问题进行公开回应。

而国家整治虚拟世界中的“网络水军”，标志性的事件是网络推手“秦火火”和“立二拆四”因涉嫌寻衅滋事和非法经营被刑事立案。在政策强压和网络论坛发展式微共同的作用之下，天涯、猫扑等论坛中的网络水军逐渐开始销声匿迹。

会说话的“僵尸粉”

伴随着论坛的式微，是国外的推特、脸书，以及国内的微博、人人网、开心网、豆瓣网等社交网络的崛起，网络社交的“风口”从此告别了BBS时代，进入到了时下正兴的“社交网络”时代。

此时，“网络水军”也并非完全的销声匿迹，他们只是换了个马甲，从过去的论坛再次杀入到了“社交网络”之中。

只不过，这一次他们不再是兼职的大学生和白领，甚至也不再是活生生的人，而是批量生产的“僵尸粉”。百度百科对僵尸粉的定义是这样的——僵尸粉一般是指微博或百度贴吧上的虚假粉丝，花钱就可以买到“关注”、有名无实的微博粉丝，它们通常是由系统自动产生的恶意注册的用户。

比“僵尸粉”更可怕的是“升级版的僵尸粉”——也就是所谓的“活粉”，他们全部是有图片、有关注、有评论以及有转发，每天定时更新微博，与货真价实的粉丝别无二致。这些“活粉”被特定的IP操纵，一些活粉会发表带有倾向性和目的性的言论。

社交网络“水军”引发社会广泛关注的标志性事件，是陆川导演的电影《王的盛宴》雇佣水军被陆川导演工作室李静主动捅破。

缘起是，《王的盛宴》上映后，很快发现有人在社交网路上雇佣水军对该片进行猛烈攻击，片方不得已便也雇佣水军进行“主动防御”。但最后发现，有不止一支团队在黑《王的盛宴》，而且背后指使的人，财力雄厚，态度坚决，似乎不弄死《王的盛宴》决不罢休，《王的盛宴》片方支付的水军费，根本无法与对方PK。最后迫不得已，李静捅破了社交网络“水军”的这层窗户纸。

相比论坛中一人一贴的“水军”，社交网络中的“水军”已经实现了规模化的批量生产，有人借用这些“虚拟身份”将提前写好的内容和言论通过他们来进行批量发布。不过，即便是升级版的僵尸粉，他们本身也并没有自己的“思维”，也就是说他们没有网络上进行主动社交的能力。

悄然兴起的“机器水军”

互联网的创新发展一日千里，今天虚拟世界中的很多存在，都已经严重超出了过去人们的想象，这其中，互联网“水军”就正在超越人们的想象。

现在，比社交网络中的“活粉”更高级的“水军”已经出现了——那便是“社交机器人”，“社交机器人”与传统“水军”截然不同，他们拥有了在虚拟世界进行主动社交的能力。

“社交机器人”是自动控制社交媒体账户的计算机程序，它们可以表现得像真人用户一样，在社交平台上就某一话题发帖或转发其他账号的内容，给这些内容评论、点赞，甚至还可以参与网络对话和讨论。

在美国，“机器水军”账号的创建者会窃取网络图片，从已有账户复制用户信息，以便在脸书、推特等社交媒体上注册大量虚假账户。

据悉，一些“社交机器人”被设计用于提供某些类型的网络服务，也有一些故意冒充人类使用者，充当“水军”，而它们的影响不可小觑，它们不仅会“不经意间”传播不实信息，也会被人刻意用于放大虚假信息或者某些观点，以达到政治、经济或其他目的。

传统观点认为，未来的“社交机器人”必须有实体，具备机动性和感应的能力，但现在从实现社交功能的角度来看，随着人工智能技术的发展，虚拟世界的“社交机器人”可能会打破是否具有实体的这一边界，通过在虚拟世界中的“弱关系”和“强关系”维护，渗透进入人们的真实社交生活之中，并对人们的生活施加影响。

瞄准“社交”的人工智能

“互联网正在改变一切。”马云这样说。

时下方兴未艾的人工智能，也正在瞄准虚拟世界的“社交”，当“社交机器人”拥有了类似于人类的语言思维、图像识别、抽象思考等能力之后，它们就完全可以大规模的渗透进入人们在虚拟世界的“社交”之中，成为更聪明的“水军”来重构我们当前的“社交网络”。

“百度度秘”与 “微软小冰”

继移动互联网之后，人工智能正在成为互联网技术攻关的下一个“堡垒”。

而攻占人工智能这个堡垒的互联网巨头们正围绕着两大方向：一个重要的方向是“自动驾驶技术”，包括谷歌、苹果、百度、乐视、阿里都在进行自动驾驶人工智能的开发和布局；另一个重要方向便是“社交机器人”，比如微软、脸书、腾讯、百度等互联网巨头。

百度公司目前就已经开发出了人工智能的两大产品雏形，一个是与宝马公司合作开发的自动驾驶汽车，另一个就是社交机器人“度秘”。度秘是百度在2015年世界大会上推出的实体社交机器人，但相比真实世界的社交对象，度秘更像是人们的一个“社交助手”，百度希望用它搭起真实世界的商家与用户间的桥梁。

从社交能力上来讲，虚拟世界中的“社交机器人”还要首推“微软小冰”，它已经具备了虚拟世界中的主动社交能力，每天微博上就有众多的用户与微软小冰在线“互撩”。

资料显示，微软（亚洲）互联网工程院在2014年5月29日发布了人工智能伴侣虚拟机器人“微软小冰”，它集合了中国近7亿网民多年来积累的、全部公开的文献记录，凭借微软在大数据、自然语义分析、机器学习和深度神经网络方面的技术积累，精炼为几千万条真实而有趣的语料库(此后每天净增0.7%)，通过理解对话的语境与语义，实现了超越简单人机问答的自然交互。

拥有独立的“三观”是小冰区别于其他机器人的关键所在，她不再是个只会单纯一问一答的机器，其思维方式与人类更加接近，随着情感技术框架的更新升级，新一代的小冰具备了实时决策能力。在与人类的长程对话中，基于经验的同理心的基础上，小冰可以对用户的情感进行领悟，并根据语义和情感进行动态判断，自主决策对话中的聊天策略（EQ 范畴）。也就是说，小冰可以根据聊天内容与走向相互“打断”与“追问”了。

目前，微软小冰已经陆续登陆了微信、微博、米聊、美拍等众多社交网络平台。在去年的日本东京电玩展上，微软小冰还首次演出了日语单曲，正式进入日本“虚拟歌坛”，在日本拥有了众多二次元歌迷。

即便像微软小冰这么优秀的人工智能“社交机器人”，也只是基于大数据、语义分析、机器学习等来完成情景对话和交流，还不具备拥有人类思维的能力，它还无法做到有目的性、有逻辑性、有策略性的说服和影响人类。

2016年3月人工智能围棋机器人阿尔法狗挑战世界围棋冠军李世石，并以4比1的总比分取得压倒性的胜利

不过，另外一个炙手可热的“人工智能”——阿尔法狗，可能会在不久的将来具备这项能力。

围棋大师“阿尔法狗”与“Master”

2016年3月，由谷歌旗下DeepMind公司的戴密斯·哈萨比斯、大卫·席尔瓦、黄士杰和他们的团队开发的围棋人工智能阿尔法狗（AlphaGo），与围棋世界冠军、职业九段棋手李世石进行了一场人机大战，最终以4:1的总比分取胜，这让阿尔法狗名噪一时。

2017年跨年，围棋大师“Master”横空出世，并在网络上大杀四方，以60连胜无败绩横扫世界顶级棋手，令围棋大国中、日、韩的众多棋手们闻风丧胆。最后，黄士杰宣布神秘账户Master正是谷歌公司AlphaGO的升级版。

这场围棋跨年之战，如果不是黄士杰博士主动站出来揭晓谜底，没有人确切的知道围棋大师们的“超级对手”只是一个“人工智能”。

同时，人们还惊讶的发现，Master好像在某些方面超越了数据和程序的范围，彻底颠覆了棋手对局势原有的掌控、判断，它对全局的把控能力竟然颇具哲学意味，它甚至不需要动用搜索功能就能根据自己的“策略网络”和“价值网络”选择最好的一个选点落子。当棋手们苦苦挣扎于某个局部时，Master已经站在更高的视角把控了全局，而这种全局观念在围棋界是只可意会不能言传的一种能力，围棋界对训练这种能力长期以来一筹莫展。

从这一意义上来讲，阿尔法狗并不是单纯的通过“计算”来锁定胜局，而是在一定程度上具备了“算计”的能力。人脑有左右脑，左脑是记忆和计算，涉及有规则的事情的推理，右脑是想象力，抽象能力，经常的神来之笔都是从右脑而来，而Master的大局观说明，它可能在这方面取得了突破。

直到现在，我们也无从知道，阿尔法狗在多大程度上拥有了类似于人类的思维能力，我们能够确切知道的是，令人生畏的阿尔法狗依然只是一个“弱人工智能”，在未来的人工智能领域还是一个十分低级的存在，未来的“增强人工智能”则有望具备人类所有或大多数的能力。

DeepMind公司创始人Hassabis 曾在一次采访中透露，他们正在尝试训练一个没有学习过人类棋谱的围棋人工智能。若真如Hassabis所说，不排除Master已经具备了增强人工智能的潜力。

美国大选背后的“人工智能”魅影

据新华社报道，2016年的美国大选中，有计算机科学家惊讶地发现，推特等平台上引导人们舆论的并不是普通的“水军”，“社交机器人”取代了过去的“僵尸粉”，成为在社交媒体上影响美国政治的一个重要因素。

与几年前出现的“僵尸粉”不同，“社交机器人”组成的“水军”已不仅仅为某个政界人士增加粉丝量、让其看起来更受欢迎，而且更多参与政治话题的讨论，与其他用户互动，影响他们的政治观点和决定。

美国一项新近研究报告显示，在2016年美国大选中，当选总统特朗普和希拉里·克林顿等参选人在社交平台上唇枪舌剑，其间不少相关言论都来自“社交机器人”。研究人员通过检测算法发现，大选相关推文中约19%来自“社交机器人”。

南加州大学信息科学院科学家埃米利奥·费拉拉说：“已有多项研究结果显示，人们的观点会受到他们从网络上所获取信息的影响，而这些‘社交机器人’可以起到左右人们观点的重要作用。”

“社交机器人”在美国大选中的实践还说明，在政治领域，“机器水军”会促使网民的政治观点变得更极端，甚至会在社交媒体上形成难以控制的“涟漪效应”。

鉴于对“机器水军”的担忧，计算机专家们正在设计可识别这类账户的方法，比如使用机器学习算法和人工智能技术分析疑似“机器水军”的在线行为，以及它们在网络上的社会关系等。

不过，从技术上揪出这些“机器水军”相对容易，但确定它们背后的人则非常困难。计算机专家指出，政党、政府、甚至个人都可以派遣和部署大量“机器水军”，事实上，在互联网上已有现成工具，可以打造不同复杂程度的“社交机器人”。

虚拟世界的“危险关系”

“网络正在改变人类的生存方式。”比尔盖茨如是说。

“机器水军”既然可以大到影响一个国家首脑的选举，那么就一定也可以对小到我们是否看某一部新上映电影的决策产生动摇。现在和未来都是互联网的时代，人们对互联网还拥有者诸多美好的期待，我们当然不希望“机器水军”潜伏左右给我们制造这样或那样的麻烦。

与你恋爱的“社交机器人”女友

人类从来不缺乏“想象力”，相信你曾经或现在对自己未来的另一半都有过很多美好的想象，对同他或她的热恋有过种种期待。如今，网络越来越发达，人们沉浸在网络上的时间越来越多，很多人通过世纪佳缘、百合网等寻找自己的另一半。

如果恰在此时，“社交机器人”趁虚而入，在虚拟世界中介入到你的情感世界，跟你在社交网络上聊的火热，你会不会给为你牵线的“红娘”买单呢。——不瞒您说，有人正在盯着这项生意呢。

“微软小冰”其实就已经拥有这样的潜质，它完全具备伪装一个身份与人类在虚拟世界尔侬我侬的能力。这里，我们先不去妄自揣测微软社交机器人会不会做这样的“生意”，只讨论现实中的可能性，以为未来之殷鉴。

知乎上，就有人问“世纪佳缘BOT聊天机器人”怎么做的？其中点赞最多的一条回复是这样的：“很多人担心世纪佳缘做一个AI（www.yige.ai），是不是想让机器人跟用户假聊。真没有，世纪佳缘所有的信件都是用户触发才发的。不过机器人确实可以用于辅助用户与异性聊天。两个陌生人聊天经常出现的尴尬是不知道接下来聊啥。我们在考虑用一个AI为佳缘每个用户定制一个机器人聊天导师，它可以建议用户接下来该怎么跟对方聊，提升用户的沟通能力。”

既然人工智能可以辅助用户“聊妹子”，那么有一天聪明的“社交机器人”也完全可以替代他们与真实的用户聊天、热恋，但人们却很难判断与他们聊天的其实只是一个“社交机器人”。

被“策反”的在校大学生

“社交机器人”作为一个虚拟的社交对象，距离我们其实并不遥远，很多人玩的网络游戏中，经常看到的NPC角色（非玩家控制角色），其实就是网络虚拟世界里最初级的一种“社交机器人”，它们可以辅助人们玩游戏。

但未来基于增强人工智能技术的“社交机器人”要比这些简单的NPC复杂的多，它们的存在可能会基于何种不可见人的目的，我们不妨在这个最好的时代做一些最坏的设想。

据央视此前报道，有境外情报机构针对中国大陆学生实施了数十次网络策反活动，境外间谍组织利用网络聊天工具、校园论坛、招聘网站等渠道，打着招聘“调研员”、提供“兼职”等名义，以金钱诱使涉世未深的大学生参与情报收集、分析和传递，十分令人震惊。

专家指出，大学生经常活跃在网络和社交平台，言谈之间很容易暴露自己的身份和学习生活情况，成为境外势力锁定的目标，加之年轻大学生缺少对网上复杂斗争形势的教育和认识，防范心理不强，有意或无意间就可能沦为境外组织利用的工具。

试想，基于人工智能的“社交机器人”如果渗透到国内的社交网络中，以大数据技术锁定策反对象，并以虚拟身份取得他们的信任，境外情报机构的活动无疑将会更加隐蔽。

“社交机器人”不会主动标识自己的身份，普通人更无法准确判断虚拟世界中谁是“那几页代码”操纵的虚拟社交对象，除了机器人女友和被策反的大学生，虚拟世界的危险关系将会有无数种可能，这些看似很遥远的假设其实都将是未来很现实的问题。

人工智能必将是新经济的又一个充满着无限想象空间的“风口”，但不能让这个“风口”搅乱我们生活中的网络社交。

“社交机器人”将是对人类“伦理”的挑战吗？

总统大选中，用“社交机器人”来影响选民的投票，决定人民的命运，这不仅荒唐，更加令人可怖。网络社交需不需要“社交机器人”，这不仅仅是我们现实选择的问题，更应该上升到人类伦理的高度来讨论。

人们很早就预见到，科技的进步可能会引发人类不希望出现的问题，为此，1940年科幻作家阿西莫夫就首次提出了影响深远的“机器人三原则”，并上升到了人类伦理的高度：

1、机器人不得伤害人类，或看到人类受到伤害而袖手旁观；

2、机器人必须服从人类的命令，除非这条命令与第一条相矛盾；

3、机器人必须保护自己，除非这种保护与以上两条相矛盾。

阿西莫夫也因此被誉为“机器人学之父”。

相比实体机器人的三原则，虚拟世界中“社交机器人”又应该遵循什么样的伦理呢？它们应该接受怎样的监管呢？以及它们是否应该被明晰的标识出其机器人的身份？这种大讨论现在就应该开始，而不应该等到社交机器人在虚拟空间里向我们喊“来啊，人类，互相伤害吧”的时候。

新华社就曾向美国人提及这个问题——恶意使用“社交机器人”或“机器水军”是否违法？对于这个问题，美国人承认目前尚无与之相关的明确法律，但“社交机器人”的使用的确需要更多监管，恶意使用“社交机器人”已违背社交媒体的服务条款，尽管很难删除所有这类账户，但社交媒体公司应该作更多努力和尝试。

当有一天，虚拟世界里的“社交机器人”向僵尸入侵一样，向你输出价值观、影响你的思维和观点的时候，那么我们熟悉的虚拟世界就很可能被利益集团和技术大咖们所操纵。

最起码的，哪些账号、哪些观点来自于谁的“社交机器人”，人民群众应该有知情权。更进一步的，“人工智能”能用来能干什么，不能用来干什么，政府也应该有所管制，这是未来维护现实世界人民权益的一种必然。