女性视角下，人工智能融入市域治理应用中的未来问题研究

摘要：人工智能已渗透并逐渐影响着市域治理的格局，正在实现市域公共管理的技术跃进，同时带来挑战与机遇。通过厘清人工智能技术融入市域治理的风险、应对及未来方向，形成女性视角下，人工智能融入市域治理应用中的未来问题框架并加以研究，以此呼吁在人工智能与市域治理的应用与结合的过程中向女性等群体适度倾斜政策、技术及资源，助推市域治理公平化、智能化、精细化和现代化。

关键词：女性;人工智能;市域治理;公共管理

引言

随着人工智能不断发展，其不但深入进驻公共治理领域，也快速应用于公共治理实践。党和国家高度重视其治理价值，将发展人工智能作为重要战略举措，写入十九大报告。市域治理作为国家治理体系的重要领域，及国家发展的核心空间，其作用地位日渐上升。人工智能已渗透并推动人类生产生活各个领域的发展，必然已逐渐影响着市域治理的格局，带来挑战与机遇。在当前中国发展方式与社会治理方式转变的重要节点上，需要深刻理解作为新一代科技革命重要技术的人工智能对新时代中国城市治理，和对城市治理下，越来越多身兼社会及家庭重任的现代中国女性工作、生活和未來发展的影响，形成女性视角下的未来问题框架并加以探索研究，才能尝试提供在数字时代压缩负面影响、降低技术歧视，增强城市风险应对能力的“时代良方”，真正助推市域治理公平化、智能化、精细化和现代化。

一、人工智能技术融入市域治理的应用风险

（一）市民权利风险

这一风险主要包括安全风险和侵权风险。从市域公共安全视角来看，一方面如杭州、南京等城市的“智慧警务”等智慧政务的打造，快速提高了市域治理能力，另一方面，人工智能技术的不确定性及智能医疗技术、智能驾驶技术产品的应用，会带来使用不当危险、人机协同风险、恶意操纵风险、黑客入侵风险、隐私泄露风险等与市民权利密切相关的风险，如美国巴尔的摩市政系统的黑客攻击勒索事故。而由于目前相关政策的空白，侵权后的责任归属及赔偿也成为一大问题。在属地管理原则下，省、市、县各级属地政府、职能单位及相关企业的风险控制责任难以明确识别和区分，造成目前人工智能技术引发的市民侵权事件责任分摊不清的风险。

（二）治理体系风险

这一风险主要包括治理秩序风险和法治体系风险。传统的人际互动模式和社会结构已经被新兴数字信息技术逐渐打破，海量数据分析和超强算法给市域政治和社会管理带来撕裂性的秩序风险，表现为分配机制的可替代性和治理权力的去中心化。资本、权力和人力的传统性分配受到人工智能技术的爆发性破坏和替代，对就业市场的冲击愈发显著，人类的就业机会和工资收入是否会受到挤压，进而造成大规模的收入缩减和结构性失业成为日渐普遍的担忧。比如从2016年开始的全面性失业潮，甚至影响到第三产业，如中国“四大行”裁员数以万计，连印度的IT行业从业者都受到冲击;再如美国相关研究发现，每千名工人增加使用一台机器人，工资收入平均下降0.25%-0.5%。公众参与权利被信息技术快速放大，公共问题的讨论和政治问题的协商已进入移动智能化全媒体时代，普通网民的微小举动都可能干扰整个城市系统的稳定。同时，人工智能技术又会加剧寡头统治的危险，赋权与约束的非对称性为市域治理秩序引入更多复杂性和不确定性。而这些风险都缺乏法律体系的有效规制，加大法律事实认定的难度和对法律主体地位、对行政公平等法治领域、对自然人权利义务关系进行规范的法治体系的挑战。

（三）道德伦理风险

人工智能技术现阶段的应用，还处于弱伦理化的状态，无法自主维护公共价值和道德伦理。而在人工智能进一步发展之后，尤其在智能妻子、智能父母、智能子女等应用技术不断完善的情况下，其存在价值与机器判断的合理性必将引发道德伦理的冲突，带来的超越人类传统思维与实践界限的网恋、情爱形式、婚姻模式、养育教育和家庭结构，不但会使真人女性的家庭地位产生质的变化，更可能引发历史性的婚恋革命，威胁和动摇全体自然人的存在价值与既有公共道德伦理纲常，而其本身的发展和迭代也会不断引起新一轮的道德伦理风险。另一方面，人工智能尤其是广泛性的自动化应用已经对传统行业，特别是制造业等就业领域产生了颠覆性的冲击，引起市民对于稳定就业的衍生性伦理风险。这就对市域政府制定公共政策及调节相关市场提出了新要求，必须在智能与人力、经济产出和社会福利之间做出最佳选择。

（四）算法歧视风险

算法歧视风险，可视为人工智能公正性问题的统称，根源于个人偏见无意识地表达，或者结构性权力性的不平等，主要包含两种类型，一是市场支配权不平等下的歧视，二是身份特征不平等下的歧视。前者最突出的例子就是依据大数据算法而出现的“杀熟”现象，后者表现为人工智能技术及应用对特定集体身份的区别对待，体现出性别歧视、种族歧视、残障歧视、年龄歧视、地域歧视等问题。算法歧视风险也体现了互联网行业从业人员的视角缺失问题。第四次全国经济普查软件行业数据显示，女性从业人员147万，仅占全部从业人员的34.6%，整体从业人员平均年龄仅为28.3岁;而我国互联网综合实力排名前十的企业披露，不仅男性员工总体数量是女性员工的1.3-3.4倍，女性占比与岗位层级之间更是呈明显的反比关系，这就决定了行业产品相当局限在年轻健康男性的问题建构视野上，彼此无法突破设计结构上的狭隘，造成了无意识、不自觉的不平等现象，造成了普遍性和滞后性的社会问题，如科幻电影中几乎清一色的女性AI形象、老年人遭遇的“数字化鸿沟”等。

二、人工智能在市域治理中的风险应对

（一）健全政府政策规划及监测机制

为有效保障人工智能技术的合法应用，需要建立适应性的治理政策和体系来引导和保障，兼容城市治理与人工智能技术的发展。市域相关政策制定可与国家战略政策相结合，借鉴学习人工智能应用国家战略政策发展较早，既有经验和政策文本较丰富的美英等国家的经验，制定专门战略政策，明确人工智能技术研发重点，引导财政投入，建设人才队伍，构建协同体系，规定“制定标准和基准”“理解并解决伦理问题”“开发公共数据集成环境”等未来技术时代的战略方向。另一个重点是建立人工智能应用的市域政府监测机制。借鉴如英国的共享监管机制，由政府部门、学术机构代表、科技行业代表、消费者团体共同组建，实现人工智能应用的多利益主体监管功能。推动反歧视法律体系的数字化转型，重视人工智能的监管立法，如美国纽约市的《政府部门自动决策系统法案》，将市域公共决策对人工智能技术应用的监管上升到了法律范畴。

（二）提高市民风险感知能力与技术协同能力

主观能动性也是影响风险应对效果的重要因素，从人工智能融入市域治理的角度来看，市民对人工智能技术与城市治理主体的信任、对相关风险关心的程度、利益取向性选择、风险信息获取的渠道和信息量等主、客观因素，都很大地影响着个体通过信息传递后感知、判断并形成的风险感知，最后影响市民对人工智能技术及应用的风险应对。这就要求城市政府加强公众伦理风险教育、扩大市民的技术决策参与、同时强化政府信息公开，拓宽多元主体参与，不断协商与调整，才能降低人工智能技术风险，提高全民技术协同性，建立合理的权责体系，最终形成共建共治共享的市域治理新格局。

（三）重塑基于数字平权的非歧视权力结构

结构性的不合理是造成算法歧视的根源。由国家层面鼓励，城市治理主体引导，在数字领域延伸由企业、高校等多元主体参与的社会平权行动，才是遏制人工智能歧视的根本手段。一是要推动开发团队人员构成的多元化。突破人工智能团队的人员同质化局限，规范开发行为，抑制无意识的偏见，吸收不同性别、种族、经济水平、社会背景、残障和学科领域的成员加入，才能自发避免对弱势、少数群体的歧视。二是要重点关注相关的职业与教育领域。从人工智能歧视的风险源头入手，政策关注、资源倾斜，优先鼓励女性、残障人士、少数民族、偏远贫困地区等群体进入人工智能密切相关的计算机科学与技术、软件工程等专业和行业，从人才培育开始，保障新兴科技领域人员构成的平等化。三是利用人工智能治理歧视危机。既然存在数字化扩散人类歧视行为的风险，那同样可以利用人工智能等数字化工具来开展平权行动。从伦理体系入手，将人类社会成熟、公认、相对公平的伦理原则转换为人工智能编程基础，遵循人类儿童成长的过程，让人工智能逐渐学习成长为“有道德的算法”，辅助市域治理主体和相关企业，挖掘和分析女性、老年人等弱势、少数群体面临的实际问题，精准引导市域治理政策、手段和公共服务资源向有需要的人群流动，实现精准数字化“反歧视”。

三、人工智能技术融入市域治理的未来方向

（一）城市最小功能单元治理未来化

社区和乡村可说是市域治理的最小功能单元。“智慧社区（乡村）”“未来社区（乡村）”的构建，是综合性、全面性和实践性地运用人工智能技术，数字化重构基层治理流程、规则、功能和生态，从根本上改变社区居民（乡村农民）的社会关系和实际生活的崭新尝试，是数字经济的落地單元，是数字社会的重要载体，也是与人民群众最密切相关、未来之中又最为现实的人工智能与市域治理融合领域。2019年3月20日，浙江省政府印发《浙江省未来社区建设试点工作方案》（浙政发〔2019〕8号），截至目前，全省已有70个社区（村）及全域类试点进入浙江省“未来社区”创建名单，2021年5月已上线运行未来社区智慧服务平台2.0，同时筛选确定在杭州上城杨柳郡社区、湖州长兴齐北社区、绍兴柯桥大渡社区等6个创建社区争取率先实现“智慧医疗”“社区文化”等系列多跨应用场景，多元共建，社会合力，保证先行先试，项目高质量落地运行，加快形成可学、可看、可体验的实践成果。还可借鉴国际上未来社区的建设经验，如新加坡组屋计划、加拿大Quayside社区、日本5.0模式、欧美BLOCK街区等建设模式，完成我国社区数字引擎直到城市数字引擎的更新迭代，扩张渗透，演进深化，使人工智能与市域治理的切身融合从“盆景”变成“风景”。

（二）城市整体公共治理智能化

人工智能技术对整个城市治理，包括公共信息收集与处理、公共政策制定、公共问题决策、公共治理手段创新等一整个城市治理过程的智能化发展的推动已是显著的趋势。通过网络与传统行业紧密结合，人工智能技术为城市治理提供了开放性技术集成的基础，促进市域公共治理流程再造和效率改进，提升公共服务供给的智能化水平。比如福建漳州市的“96123行政服务平台”、上海浦东新区的“小博士”行政审批职能导航，岳阳市智慧城管系统等都是通过智能终端，实现审批、环卫、查违等城市治理流程的网络一站式自助服务，都是市域治理主体在推行“智慧政务”“智慧民生”“智慧产业”的基础上，全面实现“智慧城市”的成功案例。

（三）城市人工智能公共伦理设计及应用责任分摊机制化

人工智能应用的风险已成为市民普遍争议的公共新议题。一方面，市域政府在运用人工智能的治理实践中，必须平衡多样化的价值诉求，对人工智能产品进行伦理设计，将行政伦理、社会公共道德精神等公共伦理嵌入其中，控制其智能水平尤其是自主程度，引导人工智能技术整体上向符合道德的方向发展。另一方面，可参考上海（浦东新区）人工智能创新应用先导区建设经验，创新政府管理，构建包容审慎的新型审批监管制度和城市公共治理人工智能应用责任体系，消除融合发展面临的安全、数据、资质等壁垒，研究确定人工智能技术及应用引发侵权风险的责任主体认定机制，把人工智能技术应用的设计者、生产者、销售者等相关主体全部纳入监管，实现新型技术应用侵权责任明晰化和责任分摊机制化，营造公平、竞争、开放、有序的市场环境。

（四）城市公共治理新型智库技术化与集成化

人工智能技术的应用，是建设城市公共治理新型智库的大势所趋，同时改变了市域政府智库的构成元素，呈现出跨学科合作、多维度协同、重视人才整合的新特点，正逐渐成为城市甚至国家智库研究的热点和重点。专家智库服务的有限理性、滞后性，知识权威垄断性以及男性专家占绝大多数的性别价值观不公正性，让城市治理主体将目光转向以人工智能系统和计算机为核心的融合型智库，引导女性尖端技术方向的职业发展，在巨型数据库的基础上，集成性别平等的专家服务与多种高新技术，不断吸纳技术性要素，最终构建工作效能高，工作负担轻，人工智能部分替代专家，甚至替代大部分专家的公平化、技术化、集成化城市未来大智库。依据2020 年 3 月 8 日，清华大学 - 中国工程院知识智能联合研究中心、清华大学人工智能研究院与北京智源人工智能研究院隆重发布的人工智能全球女性榜单，全球范围内人工智能领域最顶尖的 2000位学者中有179位是女性，中国12名女性学者入选，位列第二，但具体到比率层面，中国只有6.9%，远低于9%的国际基准线。

四、结语

城市治理智能模式已经被“数据+算法+算力”重新定义，人工智能的崭新工具正在实现市域公共管理的技术跃进，全面提升分析、预测、诊断、决策、转型等层面的城市治理能力。在廓清和研究人工智能市域治理未来问题的基础上，还应向女性等行业少数群体适度倾斜政策、技术及资源，才能在数字时代切实维护社会公平正义的底线，在新兴技术的应用和融合中真正推动城市治理创新转型。

参考文献

[1]张明斗，刘奕.人工智能在城市治理中的应用逻辑与风险应对[J].湖南行政学院学报，2021（01）：5-13.10.16480/j.cnki.cn43-1326/c.2021.01.001.

[2]谭九生，杨建武.人工智能嵌入政府治理的伦理风险及其防控[J].探索，2021（02）：126-138.10.16501/j.cnki.50-1019/d.2021.02.011.

[3]代佳欣.公共治理中的人工智能应用：一个文献综述[J].吉首大学学报（社会科学版），2021，42（02）：97-108.10.13438/j.cnki.jdxb.2021.02.010.

[4]张炫炜.人工智能融入经济社会发展时的潜在风险研判及应对研究[J].现代商业，2021（13）：99-101.10.14097/j.cnki.5392/2021.13.030.

作者简介：陈婷婷（1987—），女，南昌大学公共管理学院在读硕士，台州市科技馆，浙江省台州市科学技术协会数字化改革专班成员，信息系统项目管理师（高级），软件设计师，主要从事青少年科普教育及公共管理、行政管理的相关数字化研究。