AI拦截自杀:“生命是最大的伦理”

2020-01-16 11:18李在磊南方周末实习生宋思静连紫嫣
南方周末 2020-01-16
关键词:自杀者救援电商

南方周末记者 李在磊 南方周末实习生 宋思静 连紫嫣

农健 ❘ 插画

社交网络陌生化、虚拟化的时空特性,为悲观厌世者提供了倾囊倾诉的场所,也让救援行为意外获得可贵的缓冲余地。

眼瞅着物流即将进入派送流程,店家通知了电商平台的“自杀干预团队”,启动订单拦截程序,几个加急电话打过去,最终在小区门口截住快递员。

黄智生困惑的地方在于,对自杀者的短期干预,消除的只是眼前危机,志愿者组织有没有能力长期跟踪、监控他们的状况?

2019年12月15日,南京女孩“走饭”最后一条微博关闭。7年前,她自杀离世,在随后的日子里,不断有被生活困住的网友云集于她的微博下吐露内心苦闷,评论区逐渐演变为有自杀倾向者诉说秘密的“树洞”。

与此同时,基于AI技术的自杀干预机制日趋成熟。国内数家研究团队、公益机构殊途同归,利用人工智能抓取关键词,从茫茫数据中甄别出来高危自杀人群,想方设法将其从生死边缘拉回。

AI工程师、心理咨询师、电商商家客服、志愿者等,凭借各自的知识、经验,描摹出这些亟待挽救群体的特征,并归纳出系列应对措施,训练AI机器人学习进化。他们有身居海外的理科教授、活跃在行动一线的年轻公益人,也有电商平台的普通员工,有心或者无意,发觉了这片一度被外界忽略的伤痕空间。

AI拦截救助,虽然技术层面日益成型,但是组织机构框架并不完善,后期与社区的联动仍然不够畅通。而且,因为涉及生死大事,自杀干预游走在被误解的边缘,时刻接受着公众关于技术与伦理边界的拷问。

然而,“生命为大”是行动派遵循的基本原则。社交网络陌生化、虚拟化的时空特性,为悲观厌世者提供了倾囊倾诉的场所,也让救援行为意外获得可贵的缓冲余地。预防自杀AI机器人的开发者们,小心翼翼地搭建起外界进入这个封闭空间的桥梁。

一次不成功的人工救援

“我有抑郁症,所以就去死一死,没什么重要的原因,大家不必在意我的离开。拜拜啦。”2012年3月18日,“走饭”发出这条微博不久后,引发全网关注。大V们动用线上线下资源找人,微博接力救助,但为时已晚。

此后,这条“遗言”长期悬挂在不再更新的ID页面顶部,有着同样心理困扰的网友陆续盖起百万条评论的“高楼”。自然而然,这成为关注大众心理健康问题的人士着重筛查的角落。

2018年4月底,人工智能专家黄智生在“走饭”的微博评论下,留意到一条扎眼的信息,一位女孩子说要在五一假期烧炭自杀。他心口为之一颤,随手将信息转发到了自己所在的“医学人工智能”微信群里,先发动大家找到她,再想办法救助。

黄智生是荷兰阿姆斯特丹自由大学教授,因为机缘巧合,接触到心理健康领域,并与相关医疗机构展开合作研究。他向南方周末记者回忆,循着评论,逐条翻看这名女孩的微博,找到了可能的自杀缘由,以及在现实中“人肉搜索”的蛛丝马迹。

女孩“情绪往死胡同里钻”早有征兆,很早之前便在微博上长篇累牍表述悲观心态。中科院心理研究所研究员朱廷劭主持另外一个干预自杀的志愿组织,他向南方周末记者解释,从心理学、病理学的角度来看,自杀倾向行为被视为精神层面的症状,这些人产生自杀念头后,通常会伴随“病耻感”,担心遭到周围人的“歧视”,所以并不太愿意与现实生活中的熟人讲述遭际。

但是,他们往往又有很强烈的倾诉欲望,朱廷劭介绍,他们更倾向于向网络“树洞”或者陌生网友表达,把最后的话语留给网络空间。这些语言残片,或晦涩笼统或单刀直入,总能留下些许现实处境中容易被忽视的线索。

上文中黄智生发现异常的微博里,女生写道,“从来没有人真心爱我,也从来没有人给我送过花”。大家初步分析得出,女孩子是为情所困,而且,从只言片语中还找出了那个男孩子的名字。

齐心协力检索公开信息,意外找到了这名男生的学校名称,与之取得电话联系。对方回应十分冷漠,声称两人已经分手,不愿意介入对方现在的生活,不过,还是提供了女方的联系方式,并且透露,女孩因为患有抑郁症,已经办理休学回了老家。

拿到女孩电话号码后,医学人工智能群里的一位女性成员,以相同性别的口吻,发出去一则短信。第二天中午,女孩回复了信息:你好,我挺好的。你是谁? 你从哪里得到我的手机号?

密切关注进展的群友们得知小女孩在世的消息后,终于松了口气。随后,大家委托学校每周给其送一次鲜花,还在花束中插上爱心卡,鼓励她积极生活,几位救援人员与小女孩成了知心朋友。女孩会拍下鲜花上传朋友圈,而且,表达了返校复课的意愿。

当时还缺乏网上救助经验的黄智生认为,事态在向着好转的迹象发展。出人意料,一个多月后,小女孩还是吞药自杀了。“非常震惊,这件事对我们触动非常大。”黄智生说,他们复盘整个事件,重新检验女孩留下来的微博内容,发现了一些没有被重视的信息。

查明真相后,他们判断,这些含义模糊的字句,隐含着女孩家庭内部一个重大秘密,而这才是女孩子痛苦的真正原因,失恋只不过是表象而已。这样一则重要信息,此前竟然被不经意间忽略了。

如何阻击自杀

此后,黄智生又陆续参与了一些救助,情况千差万别,但还是摸索出了规律。他们制定了一份救援指南,依据“自杀方式的确定性”和“时间紧迫性”等因素,进行自杀风险分级,例如,10级意味着自杀可能正在进行中,9级自杀方式已确定,近日内可能进行,以此类推。只要风险在6级以上,自杀倾向者的基本资料,就会发送到救援团群里。

朱廷劭总结出的规律与之大同小异。他说,有相当比例的自杀行为为临时起意。紧要关头,并非不想求助,只是不想麻烦别人,或者太在意别人的看法,对能否获得帮助没有信心。这个时候,自杀者在生与死的界线摇摆,如果倾诉渴求得到满足,便很大程度上往生的方向靠近。

通常而言,身边遇到情绪有较大波动的人,忽然间表露出热衷讨论人生意义、生命价值等表象,是较为明显的反常信号。与他们交流,主要以倾听为主,切忌讲太多大道理,“大道理没用,听不进去”。不要刻意回避敏感字眼,尽量保护他们的隐私,“不要弄得人尽皆知,这样会增加压力”。

最让朱廷劭触动的一点在于,他们的精神状态并非通常想象的那样错乱,表现得相对冷静。

经历过微博“树洞”倾诉后,没有及时被发现的自杀倾向者,接下来进入实操阶段,不少人选择网购自杀工具。

2019年底,一位顾客在网店持续下单某款产品的行为,引起了店家注意。交流后客服才知道,年仅20岁的顾客刚刚经历母亲去世、父亲瘫痪的悲惨遭遇,一时无法承受打击。眼瞅着物流即将进入派送流程,店家通知了电商平台的“自杀干预团队”,启动订单拦截程序,几个加急电话打过去,最终在小区门口截住快递员。

电商平台的一名自杀干预师武纲介绍,医院、学校周边购买特殊商品的客户,要多加注意。乡镇休息时间早,凡是在深夜购买一些商品类目的订单,也要暂时列入危险情况。安眠药属于处方药,网上早已禁售,但药品电商的经营者仍然经常被咨询到此类问题。

通过电商平台购买各种商品寻求自杀的人,以年轻群体为主,女性居多,不乏一些高中生、初中生。武纲告诉南方周末记者,所购商品五花八门、难以归类。

听闻了武纲他们的“自杀干预计划”后,线下卖了10年农药、自称“从没发生过意外”的一名商家,主动找来传授“秘诀”。在这名商家的观察中,只要在售卖过程中多问几句“买来做什么”,对方便会暴露真实意图,甚至忍不住主动倾诉。

武纲也反复强调了倾诉的重要性,他在给商家客服做培训时,提到最多的词汇是“耐心”。自杀者往往需要自己的痛苦被倾听、被理解,客服经过培训后,可以先对有自杀倾向的人进行安抚,“激情自杀”的情绪节点过去,初级自杀者大多会放弃行动。

AI和电商两种预防机制

微博抓取信息与电商平台联系客户的两套预防机制有所区别。黄智生介绍,他们的AI机器人已经开发到第六代,最早的只在“走饭”微博评论区爬梳信息,后来,升级为可以监控微博广场上其它重点区域。之前一天只能巡视一次,现在每隔6个小时可以重新跑一次数据。

根据新情况,团队不断覆盖新的知识面、核心词条,以增加功能,提升准确率。据他们介绍,现在的准确率可以达到82%,甚至可以识别出目标对象的性别。

黄智生给这款AI取名为“树洞行动机器人”,往AI知识库添加时间、空间、自杀方式等数据,提高AI机器人检索、对比、翻译、识别功能。

2019年2月13日18时,树洞行动机器人耗费1分钟时间巡视、检索,过滤掉百分之九十多的不相干信息,最后将目标锁定在一名小男孩身上。这名男生在微博上描述了自杀未遂的过程,AI很快便识别出自杀时间、方式以及微博ID地址,发出警报。临时救援小组的志愿者嘉仪线上线下几经周折,找到了小男孩。

这个案例中,风险级别超出了6级。黄智生介绍,当机器人同时识别出具体的自杀方式和较为接近的实施时间,会启动高级别的“紧急预警”,值班志愿者迅速介入进行干预,“实际情况往往没有这么紧急”。自杀当事人的性别、年龄与地理位置,需要在救援行动中,进一步核实准确性。

而在电商平台,一家网店负责人告诉南方周末记者,行进至网购步骤,自杀倾向者想法接近成熟,所购物品的用途表达准确、清晰,很容易识别出异常者目标,“难度在于怎么拦截,以及后续的维护”。

这位店家说,一旦进入订单拦截环节,消耗的人力、物力成本,单个商户无法承担,一些大型电商平台开始接过职责。为了保障、鼓励商家救人行动,平台开通一键报警功能,凡是有关自杀拦截的订单,损失将由平台承担。

2019年,经过几个月的筹划,武纲和同事们构建了所在电商平台一整套人工智能技术,并联动商家、公安、第三方机构的干预机制,拉来几十位同事,在本职工作外担任“自杀干预师”。2020年1月,该平台对外通报:“守护生命”项目运行半年来,已经联合社会各方力量劝阻上千人自杀。

当消费者购买商品,商家客服会咨询其购买用途并指导使用,交流中若发现异常,客服会及时安抚、劝阻、不发货,并通知平台的“自杀干预师”,再视情况决定是否联动警方快速干预劝阻。平台的人工智能机器人也会反向操作,提醒自杀干预师联动商家,予以关注。

不过,无论电子商务为主的商业机构,还是由AI工程师、心理咨询师组成的志愿者小组,只能在技术层面设立基本预防机制,仍有许许多多待解难题,超出了他们能力范畴。

道德困境

“现在你是我的支柱。”有一次,被救者向志愿者发来信息,重拾对生活的信心,这名心理咨询师瞬间觉得救援过程中的误解和情绪反噬,似乎可以忽略不计。被救助对象事后的反应也有所不同,有的与志愿者成了紧密的朋友,有的仍然自我封闭,不过他们的家属多数持感谢态度。

“心理危机干预对自杀者而言帮助有限,因为太晚了。”在朱廷劭看来,自杀干预的行为仍然力有不逮。他说,生活当中的际遇才是自杀之源。

同时,对于救援的时机、效果和对自杀倾向者的实际影响,以及平台抓取用户搜索关键词,外界一直有不同看法。而对于志愿者在线下能否深度介入,这些救援团队也在小心翼翼建立规则。

朱廷劭一直存在着困扰,一是作为个体的人,有没有权利决定自己的生死,另外便是,现实处境中人们仍对自杀者存在偏见,即便紧急干预暂时取得效果,自杀者的生存环境没有改善,仍然找不到人生的出口。

黄智生也进行过哲学层面的思考。不过,他后来还是认为,生命才是最大的伦理,于是,并不会对干预的道德正当性产生怀疑。他困惑的地方在于,对自杀者的短期干预,消除的只是眼前危机,而诱发自杀的因素非常复杂,获救者依然可能是一个存在高自杀风险的人。志愿者组织有没有能力长期跟踪、监控他们的状况?

而且,除了冲动型自杀行为之外,还有少量人群赴死的决心更大,没有在社交网络上留下任何痕迹,连短期挽救的余地也没有留下来。“有些人不断告诉我们他想自杀,有些人不会告诉我们他想去死,但却悄无声息死去了。”

武纲则认为,大型互联网公司可以承担起更多的公共服务责任,例如,他们此前与政府有关部门合作,开发了防拐骗和防诈骗系统,都有不错的社会效应。不过,自杀预防计划的实施仍让他们倍感压力,“捏一把汗”。

“因为涉及人命,很容易出问题。”他说,自杀毫无疑问是社会问题,当互联网和数字经济已经贯通线上线下,社会问题的解决也要依靠线上线下一体的力量来解决。“我们在尝试,用技术和发起社会共治,这样的带有数字经济治理特征的方式,去解决更多社会问题。”

嘉仪是一名心理咨询师,她向南方周末记者提醒说,心理咨询师也需要心理疏导,负面情绪极易传染,心理咨询师如果没有很好的心理建设,会出现被救助对象“反噬”的现象,这在心理学上称为“被卷人”。

为此,黄智生成立了树洞救援快乐营群,他们分享美食美景,发搞笑的动图,调节气氛。黄智生经常会发送一些荷兰的美景和家中藏有近三万册图书的照片,他想告诉大家,这个世界仍旧十分美好。

猜你喜欢
自杀者救援电商
自杀案件如何定罪
社交电商,春天来了?
日本将出台新法防范自杀
自杀公寓
救援物资
救援行动
大型电商十大热卖玩具排行榜
大型电商十大热卖玩具排行榜
VC和电商的互相绑架
紧急救援