智慧算法在社会救助中的应用价值与困境疏解

周 洁

(华东政法大学经济法学院，上海 200042)

智慧算法凭借其信息处理迅捷、行政规制高效以及在一定程度上能够保障社会福利、优化治理效果等优势，以前所未有的方式改变了社会救助的组织形式。算法在决策系统中一般指基于客观经验证据或数据的决策规则，在信息系统中一般指处理数据的运行流程，本文所论智慧算法属于前者。随着中国特色社会主义进入新时代，要深化社会救助制度改革[1]，社会救助作为一项民生工程面临重大变革与转型，社会救助立法方兴未艾。政府部门要抓住机遇，推动智慧算法在社会救助领域的广泛应用，优化社会救助功能定位，推进社会救助工作高质量发展。

目前，我国各级政府已普及电子政务，在电子政务的推广与应用过程中收集了海量数据。在大量与社会救助相关的个人情况、家庭情况、就业状况、住房情况、伤残程度、劳动能力等数据的支撑下，数据解析技术得到广泛应用，相对人的过去、现在和未来被直观呈现，能够为政府部门精准决策提供依据[2]。智慧算法在公共部门的应用应时而起，然而学术界缺乏从公法视角探讨智慧算法的成果。社会救助利用智慧算法开展风险评估形成有关资源分配的决策，会面临算法决策在风险预测方面缺乏准确性和有效性的挑战。智慧算法具有颠覆性潜力，而我国尚未形成算法应用的监管体系，有必要重视相关解决方案和干预措施，有效防范和减轻智慧算法在社会救助领域的风险与危害。

一、智慧算法在社会救助领域的应用价值

“十四五”时期，社会救助事业将站在历史发展的新起点上，进入高质量发展新阶段[3]。小康社会全面建成后，社会救助工作需要转向更广阔的群体，救助内容也应当从单一物质帮助向综合性、服务性帮扶转变。依托海量数据和高效算力，社会救助工作能够建立和完善低收入人口动态监测和常态化救助帮扶机制，构建社会救助服务的信号灯、预警器和安全网[4]。智慧算法有利于实现智慧救助精细化，建立多维需求评估标准，构建风险防范机制以及强化政策协调机制。

(一)智慧算法助推智慧救助精细化

《关于改革完善社会救助制度的意见》指出，要加强社会救助信息化，推进现代信息技术的运用[5]。实践中，多地社会救助管理部门积极探索智慧救助新模式，通过技术赋权和技术赋能打通社会救助“最后一公里”，建构社会救助清单一张网。

智慧救助是指利用信息系统自动处理救助数据，帮助社会救助服务精准对接救助对象，实现社会救助智能高效和可持续化发展的一种新的社会救助形式。具体表现为：以入户调查、个案服务数据为基础，利用互联网技术开发困难家庭个案评估系统。该系统应用智慧算法对个人的碎片化信息进行分析，进而对以家庭为单位的整体信息进行管理。智慧救助精细化是指智慧救助内容的进一步精细化。当前，以保障最低生活为主要功能定位的社会救助制度重点关注最困难人群[6]。开展社会救助工作不能一概而论，而是需要创新、完善社会救助的支持政策，根据家庭人数、居住环境、收入情况、身体状况、残疾程度、劳动能力等因素区分高困难家庭、中困难家庭、低困难家庭。智慧算法与政务应用深度融合，能够实现对困难家庭信息的动态管理，综合识别家庭致困原因与其个性化需求，增强对困难家庭的精准服务能力，从而为分层提供社会救助服务提供依据。

(二)智慧算法助推多维化需求评估标准的建立

随着绝对贫困的消除，服务救助有可能成为继现金救助之后社会救助制度的主要诉求之一[7]。在此背景下，社会救助衡量标准应当由收入向需求转变，全方位重塑社会救助服务体系，拓展多维救助服务，利用智慧算法探寻需求评估标准如何进一步多维化，成为推动社会救助工作发展的新方向。

多维化需求评估是社会救助工作从脱贫向脱困发展的必然要求，要求从多个维度开展政策干预，以整合、衔接、疏导为核心，以机制、平台为保障，根据帮扶对象的实际困难和需求，实施有针对性、差异性的帮扶，探索多层次的帮扶形式[8]。智慧算法应用于多维救助的实践主要是在保证困难群众物质有保障的基础上，聚焦社会救助对象的服务需求开展定制化救助。将智慧算法应用于多维帮扶模式有助于实现按照专业服务程序开展帮扶。如对于因病致困人群，能够摸清急需医疗救助对象的基本情况，建立困难群众就医档案；对于老人儿童，能够推动建立孤寡老人、留守儿童等弱势群体心理档案。依靠智慧算法定位不同层次目标人群的需求，从而提供不同类型的救助。各地政府依托智慧算法能对大量救助数据进行识别，将被救助主体按地域和致困因素进行分类，优化救助服务流程，整合帮扶资源。通过整合和预测样本数据评估救助对象的多维化需求，为困难群众提供多层次、多渠道、多形式的救助服务。

(三)智慧算法助推风险防范机制的构建

智慧算法在社会救助领域的另一种应用就是利用算法规制开展风险评估，从而精准、高效地定位真正亟需密切关注的领域[9]178，形成有关资源分配的决策。算法规制是调节某一领域行为的决策系统，利用从与受规制环境相关的动态组件中产生和直接收集的数据来计算和生成知识，从而达到管控风险、改变行为和优化系统的目的[9]4-6。

当前智慧算法构建风险防范机制的主要手段是依托社会救助信息化平台建立救助主动识别和预警机制，同时构建智能化研判和预警系统[3]。步骤如下：首先，基于既定规则，结合困难情况确定救助优先级；其次，筛选已获取的数据，从大规模、广覆盖的数据中进一步分析救助的紧缺度；再次，利用机器学习处理海量大数据集合，确定精准的救助序位模型。现阶段社会救助领域需要防范漏保、未保风险，智慧算法在很大程度上实现了社会救助的应保尽保。地方政府可借鉴国外社会登记系统，利用微信公众号与小程序构建社会救助智能监管系统[10]。利用该监管系统，受助人可以通过登录乡村、社区、街道电脑系统采集人脸信息进行建模，建模成功后直接通过信息和人像比对进行智能签到。此外，该系统涵盖社会救助对象认定平台，困难人员可以在线申报，系统附带申报指南及教学视频。智慧算法以主动发现、主动排查、主动救助代替救助申请，改变了以往只能依据个人申请和部门受理申请的单一模式，从人找政策转变为政策找人，有利于实现社会救助体系对困难群体的快速定位。

(四)智慧算法助推政策协调机制强化

在大数据时代，智慧算法渗透社会救助领域，成为影响该领域变革和发展的重要技术要素[11]。运用信息技术营造更加精准高效的社会救助服务环境，优化社会救助制度设计，积极推进协同治理成为社会救助机制的应有之义[12]。

强化政策协调机制包含两层含义。一是政府各救助部门协同合作，二是社会力量参与。政府部门协同合作是指不同政府部门为完成同一行政目标相互协作、相互配合，以彼此相助为核心[13]。智慧算法具有高度数字化、传播性和互动性特征[14]，云数据管理可以避免低效采集，提高信息验证以及文档保存与分类的效率，打破条块管理模式下政府救助部门之间信息难以即时沟通的障碍。社会工作介入社会救助服务体系是实现社会救助向纵深发展的强力支撑，不仅有利于提升社会救助的专业服务能力，而且使得社会救助工作更加精准高效和人性化[15]。智慧算法积极引导社会力量参与，实现从物质帮扶向服务帮扶的转变，具体表现为：以云数据平台为支撑连接社会工作和救助对象，通过机器学习识别困难群众的个性化需求，为其提供量身定制服务，并将救助服务信息通过网上发放等方式向各地志愿组织和慈善人士公布，对于优化社会救助具有重要意义。

智慧算法在社会救助领域具有极大的创新前景和应用价值，贯穿社会救助工作的全过程，形成智慧救助的闭环。然而，算法自动化决策为社会救助带来机遇的同时，也可能因其对数据的过分依赖和决策过程的不透明而对受助者造成困扰[16]。

二、智慧算法应用于社会救助的潜在困境

社会救助制度存在供需错位、权责不清、效率低下以及责任不明等缺陷，导致碎片化和非均等化现象。智慧算法的设计和使用高度依赖大数据，在社会救助领域需要对救助对象的家庭背景、经济状况、收入情况、经济变动状况、劳动能力、残疾评定等信息进行收集评估，数据采集不完全、不规范会影响社会救助工作的开展，可能侵害救助对象的知情权、个人隐私和自由以及人格尊严[17]，导致数字歧视、信息侵害和社会救助污名化等不良后果。

(一)信息弱势群体需求表达不畅导致数字歧视

数据采集不及时、不完整、不准确会导致智慧算法对社会救助风险预测准确性和有效性的缺失，引起或加剧数字歧视。数字歧视又称算法歧视，指基于算法的自动决策导致的直接或间接歧视。申请社会救助的群体包括残疾人、低保户、低保边缘困难户，救助旨在保障肢体、智力、精神上有残疾的人员和劳动受限或收入有限的人群。智慧算法应用于社会救助时，需要充分详实地获取弱势群体的求助信息和个人数据，从而作出是否以及如何提供社会救助服务的自动化决策。其中存在的悖论体现为：一方面我国互联网基础设施不断发展和普及，互联网覆盖面不断扩大，但区域之间、城乡之间信息化水平依旧差别较大，城市信息化水平明显高于农村，西部地区的互联网基础设施建设落后于中部和东部地区；另一方面，由于人们对信息的认知、理解和接受程度不同，经济发展滞后地区的互联网应用水平明显偏低，以大数据为基础的智慧算法会导致数字化障碍，阻碍某些信息弱势群体获取福利的机会，而社会救助目标群体有很大一部分正是这些在获取信息资源、信息服务、信息资源配置等方面处于弱势的困难人群。随着社会救助智慧算法的在线集成，社会救助需求信息的收集和整合越来越依靠互联网，大量弱势群体难以通过智慧算法直接获得方便快捷的社会救助服务。一些目标群体处于被动等待状态，在选择救助服务的类型和方法方面往往缺乏主动性，无法准确和及时传达需求，严重影响诉求表达与救助服务项目的适配性，造成数字歧视。

(二)算法可能侵害救助对象个人信息

数据挖掘本身是一种对个人信息的占有，管理不规范会加剧对相对人个人信息的侵害[18]。智慧算法在社会救助领域的应用得到大量基础数据支持，因为需要确定受益人的家庭背景、经济状况等，然而采集的数据除了决策所需相关信息外，还包含隐私、个人信息或其他敏感数据，这些数据可能被提取、处理、组合和传输。智慧算法基于相关数据进行决策在给救助工作带来便利的同时，容易引发对个人信息随意处理的争议。

《中华人民共和国数据安全法》第二十八条指出数据处理活动应符合社会公德和伦理[19]，《中华人民共和国个人信息保护法》第五十四条、第五十五条也强调应当严格规范使用个人信息[20]。在互联网时代，个人信息被深度挖掘，公众面临信息受侵害的技术风险[21]。随着数据开放、信息共享和传播速度的加快，救助对象的个人信息实现了数字化，信息安全问题也随之产生。目前我国还没有一个专门为社会救助提供大数据分析的专业数据库，相关平台的信息安全存在问题，救助对象的个人信息保护更是一项长期而艰巨的任务。从社会救助法的角度看，社会救助是一种资格，被救助者往往由于对权利的期望较低而不得不接受数字监控和数据库审查，使用个人信息成为一种附带条件的权利。在社会救助领域占主导地位的制度(如低保听证会和民主评议)虽然涉及个人隐私保护，但往往没有引起足够的重视[22]。智慧算法的运用强化了个人信息在社会救助中的应用，由于认定对象需要核实家庭经济状况，网上救助平台提供的救助服务涉及救助信息的录入、查询、验证和使用，数据平台汇集了大数据和隐私敏感数据，在多主体、多环节、长链条使用数据的过程中，容易出现信息泄露的情况。一旦具有高度真实性和隐私性的救助信息被泄露，将对救助对象的心理造成很大的影响[23]。计算机化和自动化系统的使用引起了人们对信息隐私和控制个人传播信息的能力的关注，数字时代社会救助中的个人信息权保护面临新的挑战。

(三)算法可能加剧社会救助污名化

决策过程中使用算法规则可能会影响个人尊严和受尊重的权利[9]178。社会救助制度是社会保障方面的一种非缴费制度。困难群体只要达到政策规定的标准线或政策规定的特殊救助标准，经审核同意即可享受相关救助待遇。然而，多层次的资格审查在筛选目标群体时，有可能造成污名化现象[24]。智慧救助在社会救助领域的数据分析和自动化决策可能会加剧救助污名化。

救助污名化是指对接受社会救助的个人或群体进行污名化，导致不公正和被排斥的过程[25]，主要表现为被救助者在领取社会救助时受到不公平待遇。我国现行的社会救助政策是典型的救济型而非赋权型的福利模式，具有明显的维生性和控制性特征[25]，政策的执行是从促进管理的角度而不是从受助者自身感受和需要的角度来考虑的。社会救助寻求社会保障或社会福利系统与经济系统之间的融合，而不是微观层面的个体行为者之间以及个体行为者与社会制度之间的融合。我国社会救助是基于绝对贫困，也就是低收入。但实际上贫困不仅体现在缺乏食物和衣服，而且体现在缺乏权利和机会。社会救助方式只注重物质救助，却忽视了被救助者的主观福利、对权利和社会地位的精神需要。在公开披露制度下，被救助者获得了物质帮助，但也因此向外界暴露了自己的家庭背景和收入情况，被贴上弱势群体的标签，可能面临被羞辱、被排斥等不良后果。数据管理向智慧算法的过渡意味着社会救助管理的去中心化，选定救助对象不再依靠特定的机构给出评分或者评估报告，而是可以利用公开的数据给出评价。公开披露制度非但没有在实践中被削弱，反而在“有效封堵权钱交易的漏洞，挤压暗箱操作的空间”“防范管理混乱和监管不力，阻止人情保、关系保、错保、漏保等现象的发生”“让低保名单在居住地长期公示，放在群众雪亮的目光下，能最大限度地减少人为操作空间”[26]的呼声中愈演愈烈，进一步加剧了对救助对象的污名化。

三、智慧算法在社会救助领域的困境疏解

目前，学术界关于如何进行算法规制存在不同观点，主要有法律说、政策说、管理说、技术性说等，大多数研究集中在解决技术问题上。但智慧算法于社会救助领域之困境源自算法设计本身的缺陷与社会救助现有制度的不足，因而可以从技术和制度两个方面寻求疏解之道。

(一)完善智慧算法技术规则

攻克算法技术难题是疏解困境的关键。算法技术应保证可控性、可管理性、透明性和可预测性，并且其系统应是稳定、可靠的，确保人们公平使用。完善算法技术规则应包括以下手段：一是建立事后问责机制以确保决策过程的可靠性；二是建立公众参与机制，保证智慧算法公开透明，同时公布算法运行规则和可能造成的伤害，保障社会公众能够知晓和积极参与对自己未来生活的科学设计；三是无论在法律上还是道德上，都必须采用无歧视的数据挖掘技术，避免违反保护个人免遭非法歧视和相关侵权行为的原则；四是不透明性可能会使那些合法权益受到影响的个人难以了解和理解不利决定的依据，当受到质疑时，决策者应清楚说明理由。

(二)优化社会救助制度设计

智慧算法给社会救助带来困难的深层次原因在于社会救助制度设计的自身缺陷，所以在强调攻克技术难题的同时，必须解决社会救助本身存在的问题。

1.更新社会救助理念

社会救助理念在价值层面上包括底线性和预防性。从价值取向看，社会救助政策的目标不应局限于满足基本生存需要，而应更加关注扶贫对象和挖掘人的潜力，提高其融入社会的能力，摆脱救助污名化。在应用智慧算法完成社会救助服务时，一是要精准聚焦相对贫困的弱势群体，在保障基本生活的前提下分析其自身优势，提升其自我发展能力；二是要发挥智慧算法的精算作用，科学设计社会救助认定标准，进而利用该标准衡量困难程度，分层次进行保障；三是要推动构建全国社会救助大数据平台，通过机器学习分析困难家庭的个性化需求，实现社会救助工作的精准高效。四是依托互联网平台，通过智慧算法整合社会救助供需信息，调整社会救助方式与结构，大力推动从物质救助向服务救助转变。

2.提升社会救助治理能力

智慧算法在社会救助领域的困境在很大程度上反映出社会救助管理部门治理能力有待提高。社会救助的一个重要特征是治理工具的多样性，依靠政府、社会力量等多方主体的参与和合作。要发挥智慧算法在社会救助中的积极作用，既要注重整合完善实现保障的多方机制，实现多部门协作完成困难群众帮扶，又要依托智慧算法进一步引入社会公众力量，注入外部血液，强化社会救助的主动造血能力。此外，线上收集社会救助数据已不能满足智慧算法的要求，需要实现线上线下相衔接，畅通信息弱势群体的需求表达渠道。

3.坚持社会救助服务均等化

社会救助作为一项基础性保障，其内涵与外延都具有明显区别于其他公共产品或服务供给方式的特点。社会救助的非均等化导致数字歧视与污名化，要坚持社会救助服务均等化原则，增强社会救助体系的包容性和可持续性。社会救助均等化是指困难群体享有平等获得帮扶的权利，要求政府部门保证其求助渠道畅通、共享社会发展成果。这就要求在社会救助领域使用智慧算法决策时，应当明确社会救助工作的基础内容。首先，应照顾到所有类别的困难人群，特别是那些极易被社会忽视的农民工和外来人口。其次，要努力提升服务质量，多方面评估困难人群的需求。再次，平衡供给有限性和需求无限性之间的矛盾，重点补偿最困难的弱势群体。此外，政府部门在应用智慧算法进行决策时还应当关注社会救助水平和社会经济发展状况的动态平衡，合理利用社会救助帮扶工具，推动社会救助服务均等化。

4.构建社会救助服务事后反馈机制

智慧算法在社会救助领域的应用存在着数字歧视、个人信息受侵害和救助污名化等诸多潜在困境，要破解这些难题就必须建立社会救助服务事后反馈机制。通过对社会救助服务成效进行评估，如实掌握最新帮扶情况，从而发现是否存在帮助不足或产生负面效果的情况，及时出台有针对性的应对方案，切实做到应保尽保。以数字歧视和救助对象污名化现象为例，要通过对社会救助工作进行事后评估，及时发现信息弱势群体无法获得相应帮助，或者部分被救助者正在蒙受救助污名等情况。可以分别开展线下帮助和心理引导，并向公众普及社会救助是公民享有的一项权利，不必排斥，而应尽力争取，从而为智慧算法提供更为精确全面的数据，彰显其积极效应。对于个人信息受侵害现象，可以通过在智慧算法中设计负面评价指标，防范社会救助工作中由于管理不当可能对受助者个人信息造成的侵害。社会救助管理部门应通过反馈机制分析侵害原因并及时整改，避免侵害的持续发生。