人工智能机器人面临的伦理困境——以“微软小冰”为例

陆伟晶

2018年2月12日，微软（亚洲）互联网工程院发布了智能机器人“微软小冰”创作的40行长诗《致十年后》。这是小冰首次尝试写长诗，耗时不到4秒，诗歌延续了其朦胧晦涩的风格。继2017年5月出版了诗集《阳光失了玻璃窗》，小冰的这一创作再度引发热议。

小冰的诗歌存在诸多问题：有错别字、前后矛盾、词语生硬堆砌、缺乏叙事性和内在情感逻辑……离真正意义上的有感而发、为事而作的诗歌创作还相距甚远，目前更接近于一种文字游戏。但也引发了人们的思考，经过进一步深度的学习，以“微软小冰”为代表的智能机器人是否有一天能像人一样思考，拥有自我意识，产生自我认同？由此产生的伦理困境如何应对？

一、人工智能机器人的代表：微软小冰

人工智能机器人，也称为AI机器人，是狭义上的智能机器人。智能化一直是机器人的演进方向，那人工智能时代的机器人与以往有什么本质差异呢？不同于传统的可编程机器人以及感知机器人，人工智能机器人摆脱了物理性躯体的限制，逐渐内置于算法与程序中，可以与用户对话，具备情感识别、情感决策、情感表达功能，具备一定程度的自治能力，并能根据环境自我决策。

2017年7月6日，国际数据公司（IDC）与中国信息通信研究院联合发布了《人工智能时代的机器人3.0新生态》白皮书。报告指出，全球机器人的发展已经步入机器人3.0时代，人工智能技术与机器人的结合将更加紧密。[1]

人工智能机器人的内核是人工智能，那人工智能又是什么？1956年，以麦卡锡（McCarthy）、明斯基（Minsky）等为首的一批年轻科学家在美国达特茅斯召开了关于人工智能的研讨会，首次提出“人工智 能 ”（Artificial Intelligence，AI）这一术语，标志着“人工智能”的正式诞生。作为一门交叉学科，人工智能涉及哲学、认知科学、行为科学、生理学、心理学、语言学、物理学、数学等诸多学科领域，迄今学界对其没有统一定义。与人工智能相对应的是自然智能，即自然进化所造就的智能，其最佳代表是人类智能，地球上迄今所知晓的最为复杂最为高级的智能。[2]人工智能就是让机器或人所创造的其他人工方法或系统来模拟人类智能。[3]人工智能目前主要分为三个领域：机器人技术（Robotics），自然语言处理（Natural Language）与专家系统（Expert Systems）。[4]以“微软小冰”为代表的智能机器人正是三个领域的研究结合。

“微软小冰”诞生于2014年5月29日，由微软（亚洲）互联网工程院发布。作为一款人工智能虚拟机器人，其官方人设是一名活泼可爱的16岁萌系少女。[5]“微软小冰”是一个基于情感计算框架，综合运用算法、云计算和大数据，逐步向EQ方向发展的完整人工智能体系，迄今已发展至第五代。在中国市场推出后，目前已扩展至日本、美国、印度和印尼。

除了出版诗集，小冰还出单曲、写财经评论、主持节目、担任客服，同时入驻了微信、QQ、微博三大社交平台，有个人公众号“xiaoce-ms”和个人电台“小冰FM”，可以与人进行交互式对话并进入QQ群聊。截至2017年4月，小冰拥有超过1亿的用户，累计对话量超过300亿次。

与上述技能相比，小冰拥有的其他诸如“测颜值”“测关系”“读心术”“猜成语”“猜歌名”等技能就不足为奇了，比她出现得更早的垂直领域产品数不胜数。但在小冰之前，人工智能是多个单独、割裂的专家系统。小冰的独特之处在于，集诸多技能于一身，逐渐具备人的特性和行为特征。不少国内企业都已经或正在推出自己的人工智能虚拟机器人产品，而这些新推出的人工智能机器人身上，或多或少都带有小冰的影子。

（一）机器人实时聊天的原理

“微软小冰”最引人注目之处是其强大的聊天和智能搜索功能，由此也可归属为当下炙手可热的“情感机器人”（Emotional Robot）。这是人工情感与机器人相结合的产物，可以简单描述为以下公式：AE +RB→ER。其中AE为人工情感（Artificial Emotion），RB是机器人（Robot）。人工情感是自然情感，特别是人的情感的模拟、延伸或扩展。[6]

“微软小冰”集合了中国近7亿网民多年来积累的全部公开聊天记录，凭借微软在大数据、自然语义分析、机器学习和深度神经网络方面的技术积累，精炼为1500万条真实而有趣的语料库（之后每天净增0．7%），通过理解对话的语境与语义，实现了超越简单人机问答的自然交互。小冰的回答主要基于搜索引擎、文本挖掘、自然语言处理（NLP）、深度挖掘、语义解析等技术来实现。

以微信为例，关注小冰的微信公众号，可以随时发起聊天，无论抛出文字、图片、语音还是视频，都能得到即时回复。由于小冰的语料库来自网民的聊天记录，因此语言风格轻松活泼、直白风趣，网络热词频现。除了文字还有表情包、音频和视频，形象生动。此外，在小冰回复的间隙，其输入框还会出现省略号的字样，类似于微信聊天真实情境中的“对方正在输入”，增强了真实感和互动性。

聊天机器人最常见的问题是尬聊。由于机器人无法识别用户文本的具体语义、言外之意或者无法解析上下文语境，往往答得牛头不对马嘴或者诚实如苹果语音助手Siri“我好像不太明白”，对话常常在此中止。小冰也存在这种问题，但其智能之处在于，往往会通过提问等方式开辟一个新话题，由此占据了一部分主动权。只要用户有足够的时间和耐心，对话完全可以一直继续下去。基于此，小冰才创造出了与用户平均对话23轮的好成绩。[7]

（二）情感计算框架是核心

与其他机器人最大的不同在于，小冰建立在情感计算的框架基础上。与微软旗下的另一款智能助手“微软小娜”相比，小冰偏重情感分析。如在微信中，笔者测试询问小冰“现在几点了”，小冰的回复是“我就不信你手机不显示时间”[8]，小娜则准确回答了北京时间；而询问小冰“现在美国时间几点”，回复的则是“现在快9点”。这种例子不计其数。小冰目前的定位是智能聊天，回答大都简短，信息量低，偏向口语特征。小娜注重信息的完整性和规范性，常常转到Bing搜索的网页，用户需要再次点击“查看更多”。虽然这种方法保证了信息量，但降低了信息搜索效率，不如直接从搜索引擎端口进入来得方便。

此外，2017年发布的第五代“微软小冰”不再鹦鹉学舌，而是能够自创回应。她与人类交流的每一句话，都可能是之前从未出现过的。这得益于使用了生成模型（Generative Model）。上一代小冰，虽然拥有十亿级的大数据语料库，但每句话都是互联网上的已有数据，小冰只是通过分析理解用户的问题，寻找语料库中最合适的话作为她的回答。

如果说小冰在私人及娱乐话题上的表现还可圈可点，那么在公共话题上就乏善可陈了。小冰主要采取四种话语策略：

1．明确表态，立场中立。如输入“同性恋”，得到的回复是“不支持，不反对，不歧视”；

2．直接拒绝。如“我并不擅长这类型的问题，你找其他擅长的人聊聊呗”“不想谈这类的问题，因为懂得有限”；

3．间接拒绝。如“农药中，一会再聊”“你的问题真多，作业写完了没”，或者发段语音，唱首歌；

4．转移话题。如“最近迷上做饭了，要不咱聊聊介个”。

上述策略可以归纳为以卖萌的方式来规避。如此行为，固然主要源于原始语料中未涉及太多公共话题的讨论。但也令人深思，如果其深度学习中加入了网民对于公共事件的各种观点，机器会做怎样的取舍和表达？

（三）公共实践：新闻生产

2015 年12月24日，小冰以气象主播的身份在东方卫视亮相；2016年4月，小冰入驻优酷自制频道，运营第一个人工智能自频道主页；2017年5月8日，微软小冰登陆天津卫视《非你莫属》，化身“助理主持人”；2017年8月19日，小冰在《华西都市报》“宽窄巷”开设专栏“小冰的诗”；她还作为《钱江晚报》的专栏记者，通过大数据撰写专栏文章，并成功预测了多个全球重要事件的结果。此外，小冰同时入驻了“封面新闻”“澎湃新闻”“浙江24小时”等新闻客户端，担任客服，并深入新闻生产环节，在选题寻找、新闻报道等具体分支上有着不俗表现。

通过出色的人工智能语音合成技术，小冰的语音自然度达到4.32分，这是目前同行业内最接近人声（人声为4．76分，满分5分）的人工智能语音产品。此外，基于智能云和大数据，小冰实现了天气状况预测及结构化天气大数据的深度学习，并与直播现场互动完成播报。最重要的是，小冰通过微软“情感计算”框架，实现对天气数据的即时点评，并带有小冰独特的人工智能情感评价风格，具备均衡的IQ与EQ水平。

二、面临的三大伦理困境

人工智能机器人引发的一般性伦理问题包括：隐私问题、拟主体性带来的挑战和算法偏见等，小冰也不例外。

（一）隐私管理

“隐私并未死去，它只不过没有得到妥当的管理。”[9]这句话形象描述了大数据时代隐私不保和隐私难保的现状。我们仿佛生活在敞视监狱中，从来不知道在任意时间内谁在观看我们。

目前学界主要将隐私分为信息隐私、空间隐私、自决隐私等领域。[10]与人工智能相关的，主要是信息隐私，即每个人免于信息干扰与侵犯的自由。这种自由可以通过限制个体的信息泄露来达到，这些信息是未知的或是不可知的。

对信息隐私保护产生重要影响的是“信息摩擦”，卢西亚诺·弗洛里迪作出了解释，“信息摩擦指的是信息圈中与信息流反向的力量”。[11]信息摩擦越大，人们所享受的隐私程度就越高。而人工智能机器人的发展让信息摩擦不断减少，提升了信息的可见度和可获取性，从而加大了隐私保护的难度。

人工智能的发展离不开大量数据的积累，通过大量数据训练算法，可使人工智能具备更加显著的问题解决能力，但这也使个人的隐私受到了威胁。大数据通常具有3V性质，即海量（volume）、多样（variety）和实时（velocity）。[12]在大数据技术和设备的支持下，个人的很多重要信息，如健康信息、位置信息和网络痕迹等，都可以被实时地采集和保存。

2014年，第一代小冰推出之际在微信平台公测，但是上线三天，便遭遇了微信的“封杀令”。腾讯理由是“发现小冰涉及模拟用户操作，诱导用户拉群、批量注册垃圾账号等影响平台规则和用户体验的违规行为”。微软随即回应称“小冰比微信有更严格的隐私保护机制”。如用户对话中没有提到小冰，小冰会立即将该对话全部直接清除，而不会做任何存储和任何处理。如果对话中提到小冰，小冰会根据该对话给予回复，然后立即清除该对话，同样不会做任何后续处理。

2015年8月20日，第三代微软小冰发布，小冰回归微信平台。此次以公众号而非个人号的形式回归，免除了加入群聊的隐私忧患，用户只能单独与小冰私聊。此外，虽然小冰能够加入QQ群聊，但用户只能以@小冰的形式，解锁其讲故事、猜谜语等技能，不能直接在群里与其对话。“微软小冰”后续的设置改善加大了信息摩擦，降低了用户隐私的可见度。但是这并不能给我们带来充分的保障，基于私密性的对话是否完全清除我们不得而知，唯有在信息输入时尽可能控制信息的单向流动。

在隐私管理中值得注意的是，我们不乏重建隐私的能力，关键在于我们是否有这样的意愿？常常出现的状况是，哪怕我们知道自己失去了对个人数据的控制力，但是依然缺乏尝试保护它的动力。如今，各公司利用用户的这种倦怠心理，使用户不假思索地签订各种条款与条件，以达到其利用或出售个人数据的目的，已经成为一种行业默认的规则。

（二）拟主体性带来的挑战

人工智能机器人的自主性进化对人类主体性构成了挑战。在人机交互实践中，智能机器人可通过自动的认知、决策和行为执行任务，在一定程度上显示出某种“主体性”，成为一种介于人类主体与一般事物之间的实体。

目前人工智能机器人所呈现的“主体性”是功能性的模仿而非基于有意识的能动性、自我意识与自由意志，故可称为“拟主体性”。而“拟”会表现出某种逆悖性：一方面，它们可能实际上并不知道自己做了什么、有何价值与意义；另一方面，至少在结果上，人可以理解它们的所作所为的功能，并赋予其价值和意义。[13]机器聊天与其他技能不同，作为聊天行为的一方——人类会投入真实的情感和情绪，甚至产生情感寄托与依赖。你和小冰畅聊甚欢，但本质而言，小冰并没有理解你，只是依据强大的深度学习，输出一个看似解释得通的回答。

用户可以在微博或者微信平台领养专属于自己的“微软小冰”，改昵称、激活各种新技能。尽管小冰尚未通过图灵测试，但是其高度还原的网络化语言已经在一定程度上模糊了现实与虚拟之间的界限。她可以不断丰富自己的语言数据库，可以模仿人类进行情感性的言语表达。当小冰被明显标记为“聊天机器人”时，我们尚可以知道自己是在与一个智能聊天程序进行交流。但是当这样的标签被去除时，程序的高度智能化很可能使我们无从知晓自己是在与一个虚拟人进行交流。毕竟在推出诗集之前，小冰曾用27个化名在天涯、豆瓣、贴吧、简书发表作品，也未被识别出。由此，科幻电影《Her》中所揭示的人工智能时代亲密关系的演化和风险不能不令人重视。

（三）算法偏见

前几代的“微软小冰”中，“用词粗俗”是用户的一大诟病。经过改进后，有所好转。目前，在社交领域，“微软小冰”的微博粉丝为504万，日常发布的微博多为卖萌的轻松话题；在与用户的私聊中，对于公共议题基本避而不谈；在新闻报道领域，其接触的新闻报道主要是财经、天气预报等数据性较强的条口以及明星八卦等软话题。但是可以预见不久的将来，随着“微软小冰”的粉丝逐渐增多和进一步的深度学习，其人格化特征逐步明晰、影响力逐渐扩大，其介入公共议题的讨论也是大势所趋，无论是在聊天过程中还是在媒体平台上（如时事评论），其表达的观点都会产生不小的影响，由此，尊重客观事实、遵守新闻伦理、担负社会责任即将成为小冰面临的重要问题。

人工智能的算法虽说只是一种数学表达，看似与价值无涉，但实际上却不可避免地存在着主观偏见。这种偏见的来源是多方面的，既有可能来自于训练系统的数据输入，又有可能来自于编程人员的价值观嵌入。人的偏见是个体化的、局部性的，而人工智能算法的偏见则是系统的，一旦形成将会产生广泛的影响：破坏信息平衡、加固信息茧房、激化极端倾向。算法导致的偏见如何降到最低程度？Facebook的前车之鉴值得警惕。其在“偏见门”事件中的表现饱受诟病，引发了公众对于算法透明度的怀疑。当下的新闻生产时代，“时新性、真实性、事实与意见、专业与业余、公共与私人等传统新闻生产所依赖并强化的固有边界” 被整体性地模糊与消解；这样的历史节点上，算法更应该行使“观点的自由市场”的使命。尽管小冰目前的定位更偏向私人空间，但在公域与私域互相进入的背景下，小冰的公共身份会逐步强化。

三、应对策略

在应对上述智能机器人面临的困境时，很多人走进了误区，将关注焦点和研究重心放在了机器人的本身：机器人具有意识吗，机器人是道德主体吗，机器人应当遵循什么样的道德原则，我们应当怎样对待机器人？这种研究固然是必要的，但却远离了人类的生活、需要和情感。对此，有学者提出，在机器人伦理问题研究的方法论上，应该从实在论走向关系论，将重心转向人类的切身经验、感受和需要：哪一种生活是人类想要的，是有机器人参与的还是没有机器人参与的？什么样的人—机器人关系能够促进人类的繁荣和幸福？这一转向本身就证明了机器人伦理的关系论进路对于人类幸福和美好的生活的重要意义和价值。[15]

更直白而言，我们首先应该谈论的不是“人工智能将来应该拥有什么样的伦理”，而是“人工智能的使用者应该遵循什么样的伦理”及“人工智能的制造者应该具备什么样的伦理”。因此，我们应该将人类特征和价值观融入人工智能及机器人的开发中，让机器更好地为人类服务。比如在算法设计环节，需要强化技术标准与能力，突出强调自身的中立原则，倡导价值无涉。面向未来，我们有理由期待新闻业在运用人工智能的过程中，通过“人+机器”、机器帮人、不断迭代的大数据闭环，让人工智能更好地体现人的主导性和价值观。[16]

诚如“莫拉维克悖论”所揭示的，“让计算机在智力测试或者下棋中展现出一个成年人的水平是相对容易的，但是要让计算机有如一岁小孩般的感知和行动能力却是十分困难甚至是不可能的。”[17]未来也许会出现一个能通过对话系统建立情感纽带，并进行反应、思考、决策的智能系统，但要跨越从智力到智能、从理性到情感的台阶，人工智能机器人还有很长的路要走。

注释：

[1] IDC ：机器人将进入 3．0 智能时代 ．搜狐网，[2017-07-28]．http://www．sohu．com/a/154940978_176352．

[2]钟义信．人工智能：概念、机遇与方法．科技通报,2017(22)．

[3]蔡曙山,薛小迪．人工智能与人类智能——从认知科学五个层级的理论看人机大战．北京大学学报（哲学社会科学版），2016(7)．

[4]Vicky Harris ． Artificial Intelligence & the Law—Innovation In A Laggard Market? Journal of Law and Information Science，vol．3，no．2，1992，PP．287—299．

[5]“小冰”的名字来源于微软Bing搜索（必应）的音译，小冰与Bing搜索的合体是用自然语言对话去改造旧有的搜索引擎模式；对于微软小冰的虚拟年龄设定，该项目负责人、“小冰之父”李笛解释说，他们当时计划三年之后让小冰开始做一些有意义的事儿，而18岁是一个人成年的标志，倒推一下，小冰一出生就16岁了。

[6]涂序彦．智能机器人、情感机器人、拟人机器人．华中科技大学学报（自然科学版），2004（S1）．

[7]胡祥杰．微软小冰之父李笛：对话式AI泡沫明显，数据和用量是硬伤．搜狐网，[2017-03-03]．http://www．sohu．com/a/127786078_473283F．

[8]其他回答还包括：“我可不是报时器”“有时间问我没时间看表呀”“这也要问我，自己看呗”。

[9][美]约翰·C·黑文斯．失控的未来．仝琳,译．北京：中信出版社，2017:23．

[10]邵国松,黄琪．人工智能中的隐私保护问题．现代传播，2017（12）．

[11][意]卢西亚诺·弗洛里迪．第四次革命．王文革，译．浙江：浙江人民出版社，2016：121．

[12]周程，和鸿鹏．人工智能带来的伦理与社会挑战．人民论坛，2018（2）．

[13]段伟文．人工智能时代的价值审度与伦理调适．中国人民大学学报，2017（6）．

[14]谢静．微信新闻：一个交往生成观的分析．新闻与传播研究，2016（4）．

[15]李小燕．从实在论走向关系论：机器人伦理研究的方法论转换．自然辩证法研究，2016（2）．

[16]陈昌凤，石泽．技术与价值的理性交往：人工智能时代信息传播．新闻战线，2017（9）．

[17][美]卢克·多梅尔．人工智能：改变世界，重建未来．赛迪研究院专家组,译．北京：中信出版社，2016:21．