“再见一面”轻而易举：探索数字人的安全底线

木浓

ChatGPT“数字人”版AI助手WeHead

每个人心里可能都有一个希望再见到的人，就像每个人心里可能都有一个想要回到的时刻。

想再见汤晓鸥一面的商汤人，在商汤科技2024年的年会上如愿以偿；想再见女儿一面的音乐人包小柏，实现“复活”女儿的心愿，并让女儿为妻子唱了生日歌。还有许多普通人，有机会通过AI的帮助，再一次见到离世亲人的音容笑貌，甚至能与“数字亲人”对话、相伴。

生成式人工智能的爆发，视频大模型Sora的横空出世，让电影《流浪地球2》中的“数字生命”似乎不再只是科幻桥段。有人说“不妨再大胆一点想象”：“通过虚拟数字技术，我们或许能够聆听孔子的教诲，与爱因斯坦探讨物理学的奥秘，甚至可以和李白‘月下共饮。”

当震古烁今的AI科技为人类带来更多可能性，“质疑图恒宇，理解图恒宇，成为图恒宇”道出了人们对生命的依恋，对“永生”的觊觎。

然而，人类历史上每一次技术变革与进步，都会引发人类对技术的深刻反思。AI技术海啸前进的路上，也许需要科技伦理之光照亮。

“再见一面”，如此容易？

商汤科技2024年的年会，离世不久的创始人汤晓鸥通过数字人技术，再次以脱口秀的形式与大家见面。

“这已经成为了商汤科技年会的保留节目，所以我们让汤老师以数字人的形象再次用幽默的方式与大家相见，以寄托大家对他的怀念。”商汤科技向《看世界》透露，实现这一次“重逢”，是采用了AI数字人视频生成平台“如影SenseAvatar”的数字人技术打造，在实现面部、声音、表情和动作模拟的同时，还隐藏了商汤数字水印解决方案。

此前，市场上对于数字人的主要需求来自直播、视频制作等娱乐产业，以及医疗、教育、金融保险等行业，原因是不需要真实的演员就能制作短视频，有可能降低人员成本、沟通成本和时间成本。而目前，“数字亲人”的需求随之增加。

早在2017年，小冰公司就曾申请了一项复生已逝亲人的专利技术，随后提出AI being概念，即通过AI技术“一站式”完成虛拟人的创建、驱动和内容生成，并具备感知、表达等无须人工干预的自动交互能力。不过这项“数字永生”计划推进缓慢。

2023年4月，24岁的上海小伙吴伍六用Midjourney、ChatGPT和D-ID等最新的AI技术“复活”奶奶的视频，在网上迅速走红，引发热议。大量求助“复活”亲人的私信，令他决定启动“数字关怀服务平台”，分享AI“复活”技术。

与此同时，“数字永生”开始成为一门“生意”。在网络平台上搜索，出现大量“复活亲人”的服务，价格最低可至10元，多则数百元；有的可“几分钟创建AI虚拟人”，有的需要定制服务，精心制作60天后可“交付”；有的商家正儿八经地提供套餐选择：三大主题场景任选，包含湖边、草地、海边场景，本服务可任选其中一个场景；动作服务预设一套人物动作，伴行散步、喝茶、面对面聊天三选其一……

事实上，几年前，日本殡葬行业已经开始推广数字亲人的业务，亲属可以通过3D眼镜、VR眼镜再见逝者。

而如今，随着技术的发展，生成“数字亲人”的技术成本和时间成本已经大大降低。有视频博主就介绍了“数字亲人”的人人可有：利用逝者生前的照片，使用Midjourney制作一个精细化程度较高的基础图像；使用诸如飞桨AI Studio等工具，来把逝者生前的语音资料生成和制作仿真电子合成语音；使用ChatGPT-4来为虚拟数字人生成对话内容；使用D-ID生成虚拟数字人。

汤晓鸥的数字人形象

康德“人是目的”的道德命令，是建构人工智能道德行动者的最佳契机。

想“再见一面”，竟变得如此不费吹灰之力。

抚慰伤痛还是自缚蚕茧？

错过爷爷最后一面的大学生王同学，却觉得很难才能“见”上爷爷一面：“有一次好不容易梦见他了，梦里一直哭，哭了很久，一直到接近中午才恍恍惚惚醒来。”他觉得，梦是链接逝去亲人的方式，因为想念，所以梦见，哭着不醒来是因为恋恋不舍，不愿断了这个链接。

当被建议可以用AI再见爷爷的时候，他却表示了拒绝：“我想让他的形象永远留在我的记忆里，不管是不是未来有一天会变模糊，因为那是我最隽永的回忆。在梦里见到他，那是我在索取我自己大脑中的回忆形成的样子，我不愿意通过AI的手段来回忆。”

丧失是关系的终止，是一种“未完成”，而“告别”是一种完结。笔者曾学习艺术治疗，在失落与悲伤艺术治疗中，对于失去亲人的来访者进行悲伤辅导的目标有4个：增加失落的真实感，其心理和情感接受失落发生的事实；协助其处理已表达或潜在的情绪；协助其克服适应过程中的障碍；最终目的是鼓励其以健康的方式向逝者告别，并坦然地将情感投注在新的关系里。

电影《流浪地球2》中的数字生命

“数字亲人”带来的，究竟是抚慰伤痛的一剂良药，还是隔绝世界的自缚蚕茧？

在这个过程中，尽管艺术治疗师往往会借助逝者的照片，鼓励来访者与亲人进行对话，催化出失落的真实感，但最终目的不是继续留恋，而是告别。

每个人都会经历丧失的悲伤，并且不可能回到沒有发生之前的状态，只能进入下一个状态。在这个过程中，有的人善于“伪装”，也有的人忽略了自己并未痊愈，故作坚强一如常态。而对于不懂伪装或无心伪装的人来说，这个过程就容易暴露无遗。

笔者作为志愿者，长期陪伴心智障碍青年（心青年），不久前，一名心青年的母亲突然去世，长期支持他的社工、心理咨询师联合家长，先对他隐瞒母亲去世的消息，随即为他进行连续多日的死亡教育后，才告知该消息，并辅助他进行与母亲告别的仪式。

在其后很长一段时间里，他接受了母亲离世的事实，时常提起母亲在天上等待自己团聚，自己必须足够努力，才能在100岁的时候再见母亲一面。支持者认为，正是“再见一面”的渴望，支持这位青年继续努力生活下去。

有人说，告别是尊重逝者，尊重生命；期待重逢是一种念想，一种慰藉；而执着于“数字亲人”，是放不下、未完成。

“有的人能看到能听到可以缓解思念，抚平一些痛苦，有的人会因为这个而更走不出来。”一名小红书博主在一篇《关于把已故的亲人做成数字人的提议》的文章中写道：“如果做成数字人对你来说会加深痛苦，就没必要。”

有人发问，“数字亲人”带来的，究竟是抚慰伤痛的一剂良药，还是隔绝世界的自缚蚕茧？

电影《银翼杀手2049》剧照

人是目的而不是手段

笔者发现，在网络平台上，许多看似营销帖的“复活”亲人故事，往往引发“我也需要”“还接单吗”的回复，还有不少网友评论“这是科技的温度”“科技疗愈了人类”；也有一些表示质疑的声音，比如“逝者是否愿意被‘复活”“生命教育还没有普及，人们尤其是孩子对生命的理解会不会出现偏差”。

“何而为人、人应该如何处理与科技的伦理关系，是人类进入科学选择阶段必须思考的命题。”当下，学界正关注的，不仅是人工智能在技术层面带来的风险，以及给人工智能伦理从业者带来日益严峻的挑战，还有在哲学和伦理学层面带来的风险，即它“可能会逾越人、人性和人类性，而重新定义人或人性”。

“数字永生”并不只是“生意”。

有从业者在回应《看世界》关于科技伦理这个问题时表示，AI数字人复活逝者不只是一个技术问题，更是一个伦理道德问题：“技术是否可以成为人类情感的一种寄托？在数字化时代，我们如何重新定义和塑造人与人之间的联系？AI数字人能否理解人类的情感、是否会给亲人带来二次创伤？如何避免这项技术被滥用？这些问题没有标准答案，也令从业者更加深入地思考人类的本质和技术的边界。”

不过该从业者认为，至少在数字人技术不被未经授权滥用的方面，他们做了很多工作，比如在推广和应用数字人技术时，建立严格的伦理准则和监管机制，包括使用范围、保护个人隐私、尊重死者和家属的意愿等。

据了解，此前，在中国信通院的研究机构牵头下，商汤科技等多家AI公司共同制定了“可信虚拟人生成内容管理系统技术要求”的标准，制作一个数字人，首先需要得到当事人生前或其家人授权。

商汤科技还透露，商汤科技数字人有相关的鉴定机制：“在商汤科技平台上制作的数字人里，有一系列看不到的‘编码藏在其中。”

中国信通院曾在《人工智能伦理治理研究报告（2023年）》指出，人工智能伦理包含价值目标与行为要求两个方面：在价值目标上，人工智能伦理要求人工智能各阶段活动以增进人类福祉、尊重生命权利、坚持公平公正、尊重隐私等为目标；在行为要求上，人工智能伦理要求人工智能技术做到安全可控、透明可解释。

吴伍六曾在一篇帖子里写下“不会过度缅怀过去”，且“希望能激起大家对人工智能、生命、感情、寄托、人性和伦理道德的深度思考，珍惜当下”。

有学者断言，康德“人是目的”的道德命令，是建构人工智能道德行动者的最佳契机。是的，人是目的而不是手段。

数十年前，用笔构造一个全新世界的科幻作家斯坦尼斯瓦夫·莱姆曾提出，科幻小说是“增加对人类自身的认知，而不是对未知生命的认知”—在人工智能构造了一个全新世界的今天，坚持卢德主义早已不合时宜，倒不如借AI发展大势，进一步增加对人类自身的认知。

责任编辑吴阳煜 wyy@nfcmag.com