智能音箱的使用风险及其社会治理启示

王秀丽， 罗龙翔， 王 兵

(1. 北京大学 新媒体研究院， 北京 100871； 2. 清华大学 新闻与传播学院， 北京 100084)

人工智能(Artificial Intelligence，AI)具备主导技术发展和推动社会形态转变的基本潜质[1]，并成为政府治理变革的深刻动因[2]。如今，数字化、网络化和智能化进程加速融合，标志着人类社会已全面进入数字时代，这为现有的社会治理方式带来诸多挑战。

对技术及其产生的社会问题进行治理是现代国家权力实践的重要表现，而现代国家是在街头、窗口、办公室等具体的生活场景中而非抽象层面开展技术治理活动[3]。这就要求研究者回归日常生活图景，去了解人工智能产品或机器所带来的实际问题，从更具细节性的角度去把握数字化时代的社会治理。

在诸多有代表性的人工智能技术产品中，智能音箱(Smart Speaker)已广泛进入人们的日常生活[4]。智能音箱可以满足用户对音乐播放、语音搜索和在线购物等多样化的使用需求，许多用户也对智能音箱有较高的使用频率[5]。这为研究者深入日常生活的具体场景探索人工智能产品使用风险及其社会治理提供了良好契机。笔者以此为切入口，旨在探索用户在智能音箱使用过程中面临的风险，并对人工智能时代的社会治理问题进行探讨。

一、文献回顾与研究问题

从研究主旨出发，下文对人工智能产品的使用、风险、治理等方面进行文献回顾，并提出研究问题。

(一)人工智能产品使用相关研究

国内外有关人工智能产品使用的相关研究，可以从客观经验主义、诠释经验主义和哲学思辨三个研究范式进行概括[6]。

在客观经验主义范式下，许多学者遵循人机交互(Human-Computer Interaction，HCI)的路径并聚焦于技术层面，主要探讨如何使用户与包括智能音箱在内的各类人工智能产品在交互时更具友好性(User-friendly)[7]。

在诠释经验主义范式下，国内外研究者主要关注技术产品融入日常生活后的政治或文化意义。在较有代表性的文献中，英国学者Silverstone和Hirsch[8]阐明了用户“驯化”(Domestication)电子媒介的方法及其文化意义；澳大利亚学者McQuire[9]则关注摄影、电影和数字媒介等技术在当代城市空间动态生产中的作用，以及都市如何在这种作用下变为一种“媒介—建筑复合体”(Media-Architecture Complex)；中国研究者也发现智能音箱在用户日常生活中多扮演“黄昏和入夜时分的客厅音乐播放器”角色[5]以及智能音箱使用行为如何“挪移”(Dislocate)用户“在家”的地方性体验[10]。

哲学思辨角度下的人工智能产品使用包括许多本体论(Ontological)、认识论(Epistemological)和方法论(Methodological)[5]等层面的议题[6]。其中，国内外学者争论较多的话题包括机器对社会道德带来的挑战、人与机器(人)间的情感和人与机器(人)间的“主体边界”等“机器人伦理学”(Roboethics)问题[11-12]。

(二)人工智能技术及其风险治理

自1811年3月“卢德运动”(Luddite Movement)爆发以来，人类对机器风险问题的讨论已有200多年 历史。若将1956年群星闪耀的“达特茅斯会议”视作现代意义上人工智能相关问题讨论的开端，各界对人工智能风险问题的思考也已不计其数。在从弱人工智能(Weak AI)向超人工智能(Super AI)发展的光谱上，人工智能技术会带来技术开发、技术应用、技术伦理等不同面向上的风险。其中，学界讨论较多的话题包括算法歧视、隐私威胁、失业风险、社会安全和技术伦理等问题[13]。

探讨技术带来的风险符合现代国家治理的自然逻辑，国内外已有不少学者从信息科学、传播学、法学、社会学、管理学和哲学等不同学科出发，为治理这些技术风险建言献策。例如，从信息科学和技术伦理的角度出发，技术开发者可以通过优化算法“打标签”的功能来避免对特定主体“算法身份”的刻板印象和歧视[14-15]。又如，从传播学和法学的角度来看，研究者们需在辨析隐私概念[16]的基础上，明确人工智能或媒介技术隐私侵犯的不同表现形式[17]，并探讨如何规避技术带来的隐私威胁。再如，在社会学和管理学的视阈下，现代国家可通过推动产学研一体化发展、营造良好人才环境和开展前瞻性培训等方式[18]，来应对劳动力市场已经出现的就业极化(Job Polarization)现象[19-20]。总体来看，这些文献对人工智能技术风险的不同侧面都有所关注，对数字化时代政府的社会治理革新也具有较高的参考价值。

(三)智能音箱的使用及风险研究

目前，国内外聚焦智能音箱使用的文献主要包括三个方面：用户的采纳意愿研究、使用行为研究以及笔者重点关注的伦理和风险研究。

在用户采纳意愿和使用行为方面，已有不少学者基于技术接受模型(Technology Acceptance Model，TAM)，探讨感知易用性、感知有用性和感知风险等因素对用户智能音箱的接纳与使用的影响[21]。

更具体地，在智能音箱的使用风险方面，既有研究总结出包括声控安全性问题、监听、信息泄露以及儿童使用安全等在内的诸多问题[22-23]。其中，由于智能音箱会记录人们的对话并传向云端，第三方服务商也可以轻而易举地与智能音箱进行连接，用户可能在不知情的情况下泄漏自己的数据并被非法使用[24]，隐私风险被认为是智能音箱使用过程中最主要的风险[25]，也是影响用户使用智能音箱的重要因素[26]。同时，现有研究也表明，不同用户对人工智能技术的了解程度不同，且大多数用户对智能音箱获取及存储信息的机制不甚清楚[27]，因此，许多用户在日常使用中无法准确感知和评估智能音箱可能会带来的风险[28]。

综合来看，国内外与笔者研究关联性较强的成果不仅数量繁多，而且触角甚广。这些成果虽然对于技术发展背景下的社会治理变革颇具启发，但也普遍存在一些不足：首先，在研究视角上，现有研究多采纳宏观视角来分析人工智能技术与社会变迁等问题，对技术在日常生活中的微观影响关注不足。其次，在研究方法上，相关文献多站在“外部”立场，或采用量化数据验证变量间关系，或采用纯理论的方式来总结得失，对用户使用智能产品时的自觉性体验的探讨不够深入。最后，在研究背景上，现有研究中从中国语境出发，关注智能音箱使用及其风险的经验研究较少。

因此，笔者从微观的用户视角出发，关注“隐匿在日常生活中的人与技术互动的精妙细节”[5]，来探讨人工智能技术进入复杂社会实践领域时如何找到“自身的生命”[29]，进而基于这些规律来回应研究主旨。具体来说，笔者基于对以下两个研究问题的讨论来探究人工智能时代的社会治理：

问题1：用户在使用智能音箱时的风险感知是怎样的？

问题2：用户采取了哪些措施来规避或应对这些风险？

二、研究方法

笔者采用半结构式深度访谈法收集数据，并对资料进行质化的主题分析(Thematic Analysis)。以北京大学社会化媒体研究中心的“人机传播系列研究”项目为依托，研究人员于2019年11月—2020年9月，综合面对面、电话、微信语音等方式，分别对42名 智能音箱用户进行了平均时长约40分钟的访谈。虽然深度访谈法并不是研究风险问题的最佳选择，但考虑笔者是从微观视角出发探讨用户的风险感知及其相应的治理措施，深度访谈能够通过与用户的直接互动了解其对风险的感知和态度及其背后的深层动因，从而较好地回答笔者研究的两个问题。

访谈人数的确定与访谈过程遵循“信息饱和原则”，即以获得特定信息时为起始，直至不再获得新的重要内容时为停止[30]。最终整理出的访谈稿约15万字。访谈问题涉及用户智能音箱使用的多个主要方面，表1为与两个研究问题相关的具体问项。

表1 研究问题与具体问项(示例)

在整理访谈稿的同时，笔者对访谈对象的人口统计学信息进行了统计，如表2所示。由于访谈对象包括普通大众用户和从事信息科技相关职业的专业用户，为方便后续讨论，笔者进一步将用户组别划分为普通用户(N=27)和专业用户(N=15)两类。

表2 被访谈对象人口统计学信息

续表2

三、研究结果

下文主要从两个方面来展示研究结果以回应研究问题。

(一)用户使用智能音箱时的风险感知

从整体上看，仅不到10%的被访用户表示自己在使用智能音箱时未感受到风险，且这部分用户均为普通用户。未感受到风险的原因是多方面的：首先，部分用户基于“认知缺失”而忽视风险的存在。例如，PT25表示，自己“是技术乐观主义者”“不知道使用智能音箱会存在什么风险”。其次，也有一些用户因为自身的使用行为特征而不在意风险问题。例如，较年轻的PT27表示：“自己不会和智能音箱聊什么涉及隐私和深度的话题……心情也比较放松……所以没怎么担心过(风险)。”又如，年龄最大的PT19表示，因为自己“没有使用太多(智能音箱的)功能，所以没有往那方面(即可能存在风险方面)想”。再次，有用户基于对商家的信任而忽视了风险。例如，PT24表示：“如果使用产品有什么风险的话，厂家应该会告知(我们相关的情况)吧。”最后，部分用户选择忽视风险。例如，PT07表示对使用智能音箱时的风险“无所谓”；而年龄最小的PT21则向调查员表示：“我一开始有想过可能会有泄露隐私和监听的风险……用着用着就觉得挺好的……习惯了就不怎么关注风险了。”

基于访谈和主题分析结果，用户在使用智能音箱时所面临的风险可以归纳为内容风险、隐私风险和财产风险三大类。与孩子同住的用户着重向调查员表示智能音箱会播放“邪典”(Cult)或暴力内容，并表达对这类内容的担忧。例如，PT03告诉调查员：“我要智能音箱给女儿讲一个故事，智能音箱播放了一个恐怖还很血腥的破案故事，结果孩子做了一晚上的噩梦。”又如，ZY15在分享与弟弟一起使用智能音箱的经历时说：“我弟会跟着智能音箱的内容说脏话和一些不着调的话……他才7岁，刚开始长大……智能音箱成为了他‘模仿’的一个对象。”此外，PT28还与研究者分享了一个来自国外的案例：“亚马逊公司的智能音箱给一个孩子讲鬼故事……他的家长气炸了……我后来也去听了一下(那个故事)，真是瘆得慌。”不过，用户均表示没有在使用智能音箱时碰到色情等偏成人化类型的内容。

访谈中，隐私风险是大多数用户在使用智能音箱时实际感知到的风险，但风险的程度及其类型不尽相同。一方面，一些用户(如PT01，PT02，PT16，PT20，PT25和PT26)由于媒体宣传或生活经验，表示对隐私风险有一定的担忧，但没有具体的感受或者“不知道该担心些什么(即不知道智能音箱使用行为会如何侵犯隐私)”。另一方面，还有部分用户(如ZY07，ZY08，ZY09和ZY10)则表达出对隐私风险的极度关切。

进一步来看，用户在智能音箱的使用过程中，对隐私风险的感受重点也有所不同。有用户表示，自己在消费层面的“用户画像”被智能音箱厂商“精准刻画”，即在播放内容时会“插入软广”(如PT04和ZY15)。也有一些用户(如PT17，PT23和ZY02)表示，智能音箱实时“监听了自己”(如ZY07)。较为了解智能音箱的业内用户表示，“语音监听是所有互联网智能设备的共同弊病”(如ZY11)。使用视频智能音箱的用户则表示，智能音箱“会偷偷录像，不太敢在摄像头面前换衣服” (如ZY09)，毕竟“技术上想实现(监视)很简单”(如ZY10)。

财产风险也是一些用户感受较深的智能音箱使用风险。许多智能音箱都具有在线购物功能，需要和用户的支付账户进行连接，且生产商也与不同网络购物或消费平台有合作关系，因此“在(用智能音箱)订外卖的时候会担心自己绑定的银行卡被盗用……毕竟这个(信息传输)链条经过好几个环节”(如ZY06)。因为听说过相关的负面新闻，所以有用户“根本不用”智能音箱的购物或充值功能(如ZY04和ZY12)。此外，不少用户(如PT03，PT07，PT09，ZY0和ZY15)还提到，由于与非视频智能音箱交互的方式非可视化，因此在使用中感受到了更多的不安和更大的不确定性。

(二)智能音箱使用风险的规避与治理措施

在如何规避和治理智能音箱的使用风险这一问题上，用户多寄希望于商业公司与政府，鲜有用户主动提及自身可以采取哪些措施。仅有的一些回答包括“要谈一些事可以出去谈或者拔掉(智能音箱的)插头”(如PT28)、“知道你要(让智能音箱)干什么，除此之外不要多说”(如ZY06)和“有意识地保护好银行卡和金融信息”(如ZY13)。当然，多数受访者无法从自身角度提出规避措施，在一定程度上也透露出用户“(面对风险)不知道能做什么和没办法”(如ZY08)的尴尬境遇。

在商业公司层面，不少用户期望智能音箱生产企业强化自律，加强道德和责任建设以及精进业务能力。例如，有用户明确表示，无论是内容风险、隐私风险和财产风险，“归根结底还是企业的道德问题”(如ZY09)，同时相关企业也应该“管控好后台”(如ZY03)，面对商业诱惑时“要自觉，不能拿用户数据去干违法乱纪的事情”(如ZY08)，因为“一些大型技术公司已经具备社会生活基础设施属性，能力越大，责任也越大”(如ZY15)。也有用户表示，相关企业应该着重进行优质内容建设，因为无论是“出于商业利益还是社会利益，内容永远是第一位的”(如PT20和ZY03)，且就儿童而言，智能音箱厂家可以开发一个“儿童模式”来帮助家长和儿童筛选内容(如PT02)。此外，还有用户表示，“可视化是很重要的，能看见支付过程的话会更安心，现在已经有一些视频智能音箱了，未来要做得更好”(如ZY10)。

多数用户表示政府对智能音箱等产品的使用过程进行监管是“必要的”，但是至于该如何做，许多用户除了说“加强监管”之外，没有给出明确答复。从事相关领域教学活动的专业用户认为，中国对智能产品使用的法律监管“没有那么严格，制度约束力很低”(如ZY10)；另有用户的建议则相对明确，即“进一步(细化)公司供应内容和搜集数据时的权利和义务是一种可尝试的办法，如果用户遭遇了风险，也可以要求企业提供智能音箱交互的后台数据，依据这些数据文本和法律来判案”(如ZY15)。

四、讨论

通过对研究结果的分析可知，不论是从智能音箱自身的技术特征，还是从用户的日常使用风险感知来考察，对以智能音箱为代表的人工智能产品所带来的使用风险进行治理都存在极大的不确定性。因此，如何治理这些关切用户日常生活利益的内容、隐私、财产等方面的风险，已经成为数字化时代必须回应的问题。

(一)个体：切实提升数字素养

研究中，除部分专业用户外，其他大部分用户对于使用智能音箱的风险感知并不清晰，在强调个体自主性和技术产品可能被异化成“全景监控体系”[31]和商业意识形态的精巧工具时，使用技术产品时缺乏自觉的情况尤其值得警醒。长久以来，智能音箱等人工智能产品和技术的进步，在相当大的程度上凝聚着社会个体对智慧生活的美好想象，而对技术进步与技术赋权的阐释[32]，更是从底层逻辑上解释了实现这种美好生活的路径。然而，技术赋权并不代表技术能够天然地赋予谁权力，它更强调被赋权者在技术狂飙突进时的自觉、自醒、理性与担当[33]。现代化不仅是技术和经济发展的过程，人的现代化也是现代化进程的一个重要方面[34]。面对数字时代技术产品可能带来的使用风险，深入了解和切实提升数字素养是当下对每一位数字居民或智能产品用户的必然要求。

具体来看，数字素养并非一个抽象概念，它既包含对数字技术及产品的意识，也包含使用数字技术与产品的能力[35]。在数字化时代的日常生活中，作为治理风险的重要主体之一，每一个人工智能产品用户都需明确技术及使用技术的重要性，并不断提升使用技术产品的能力[36]，结合每一次获取、评估和鉴别信息以及使用技术产品的过程[37]，切实提高自身的数字素养以规避相应风险。

(二)产业：积极践行行业自律

智能音箱等人工智能产品的生产商绝大多数为具有平台属性的大型科技公司，并且均有极大的动力来促使买方多属(Multi-homing)向买方单属转变[38]。换言之，人工智能产品的生产商会采取不同措施，以寻求将用户与自家产品而非对家产品牢牢绑定在一起。通过研究访谈可知，“后台监听”用户数据是许多智能设备生产商普遍使用的“灰色手段”，这些手段往往“以获取数据来为用户提供个性化服务为‘幌子’”(如ZY15)。

即便许多用户未能感受到隐私侵犯等风险，人工智能设备生产商也需对自身的商业策略进行基本自查。追求基于数字资源所带来的利润符合商业逻辑的天性，但无数过往案例说明，用户一旦对数字企业的商业策略产生广泛怀疑，便会对企业产生背叛感[39]进而促发企业诚信负面事件，这将极大损害商业组织的信誉与利益[40]。

中国人工智能市场整体规模在2021年已达到63亿美元，并将于2024年达到172亿美元[41]。人工智能产品广阔的市场前景意味着产业内企业主体间的竞争将愈发激烈。在此背景下，人工智能产业需探索有效手段来规避企业主体的非正当竞争，而其中的一种可行性较高的方式，则是增加行业成员自律的预期收益和不自律的预期成本，使行业成员之间的双边自律收益大于单边投机收益，且单边自律收益大于双边投机收益，最终实现行业自律[42]。

(三)政府：灵活调整治理方式

笔者勾画出了用户在智能音箱多元使用场景中不同的使用风险，研究结果从微观层面折射出：政府对数字化时代智能产品所带来的内容风险、隐私风险和财产风险的治理，仅从宏观层面采取措施是远远不够的。基于上文分析讨论，对数字化时代政府社会治理的建议可以从思维、风格和具体策略三个方面进行阐述。

首先，在现有的许多研究与实践中，政府对于人工智能技术或产品的认识多停留在“进行治理时可利用的工具”这一层面[43]。然而，人工智能技术对社会治理最具代表性的改变在于，智能音箱等机器(人)和人工智能技术本身不再只作为“功能”嵌入进治理方式之中，也不再只作为传播与社会网络中的客体或对象，而是成为了具有能动性的“传播主体”(Communicator)[6]或“行动者”[44]的角色。

结合研究结果来看，在技术不断进步的背景下，未来智能音箱等产品极大可能会具有自主性的意识并学习如何规范自身行为。这对数字化时代社会治理的思维启示是，政府需要跳脱现有认知的困囿，从人机传播(Human-Machine Communication)的视角[6]明确智能音箱等人工智能产品既是治理对象[45]，也是一种可以参与社会治理的且具有相对独立的“准主体”[43]。换言之，数字化时代的社会治理需要从人工智能的技术属性以及“替代人”的社会属性出发，深入思考人工智能对政府社会治理的颠覆性影响[46]。

其次，技术的狂飙突进不断解放生产力、给予日常生活便利并再造社会治理全程，极易使工具理性成为主宰数字化时代的意识形态。在研究访谈中，用户多站在工具性的角度来评判智能音箱及其使用过程，并表示愿意用隐私和安全来换取便利、效用等[47]。然而，将工具理性与价值理性结合起来的社会治理方式，一直是21世纪以来公共管理领域所秉持的基本共识[48]，也是科学技术无论进步到何种阶段都应秉持的立场。因此，用户在日常生活中反映出来的人工智能产品使用行为可能被工具理性主导的现象也表明：数字化时代的社会治理，还需进一步思考如何提高技术的温度、如何深化技术与社会的互动，并结合价值理性来共筑人机文明。

最后，单一技术治理与多元化场景之间、技术的规范统一性和事实的全面性之间存在许多亟待解决的矛盾[3]。由于不同用户个体所感受到的和实际面临的风险类型及其具体表现各不相同，因此，数字时代的社会治理应综合微观与宏观视角，综合调动个体、企业、政府和技术的能动性，促使治理方式实现新的跃迁。从这一视角出发，个体与企业层面应对数字化时代人工智能产品使用风险的策略，也是政府宏观治理策略的有机组成部分。

五、结语

笔者通过深入日常生活的微观场景，揭示出用户在使用智能音箱时所面临的风险及相应的规避和治理措施。面对数字化浪潮，用户在享受人工智能产品带来的便利时，也使自己暴露于诸多不确定性之中，这就需要政府、企业、用户乃至机器自身等多元主体在联动的基础上系统性地参与到对各类风险的治理过程中，并从日常生活中无数个共同塑造技术发展方向的细节入手，结合个人数字素养的提升、行业自律的践行以及政府治理思维、风格和策略的转变等方面，在人与技术的双向共振中构筑人机和谐共生的未来。