构建通用人工智能的良性价值生态

陈科

习近平总书记曾强调指出，“人工智能是人类发展新领域”。当前，人工智能领域科技创新异常活跃，一大批前沿成果陆续突破并带动全球人工智能创新的新一轮热潮。其中，以大模型为代表的人工智能技术取得了重大突破，拉开了通用人工智能时代的序幕。大模型在模型能力、应用范围、智能程度等方面最具代表性，经历了统计语言模型、神经语言模型和预训练模型等阶段的发展，以超大规模的参数在工程化加载后展现出的内容，让人们看到了科技的又一次历史性跨越。人工智能进入通用人工智能时代后，各种“类人”和“超人”能力将持续涌现，自主性、通用性和易用性快速提升，成为经济社会发展的新型技术底座。

首先，通用人工智能将对经济、就业、教育、生活方式等方面产生深远影响。通用人工智能时代将创造更多跨业态、多元化、高效率的商业模式，还将使一些工作自动化并创造出新的就业机会和领域，进而改变就业结构。通用人工智能也将进一步拓展教育空间，提升教育效果，优化教育管理，促进教育数字化发展，推动教育现代化发展进程。它还将使人们的工作、社交、医疗服务、娱乐等更加智能化、个性化。随着大模型开始模拟人类从事广泛的语言理解和内容生成任务，人们面临着一个极具挑战的问题，即如何坚持发展负责任的大模型，让大模型的能力和行为与社会主义核心价值观、全人类共同价值相一致，确保人类与人工智能协作过程中的安全与信任是关涉人工智能控制与人工智能安全的重要问题。

其次，大模型目前存在一些突出問题和潜在风险，如用户隐私安全问题、大模型本身的技术问题：规范博弈、目标错误泛化、恶意使用等问题。对大模型进行价值观对齐可以更好地应对大模型目前存在的一些突出问题和潜在风险，使大模型更加安全、可靠、实用。

再次，通用人工智能有望推动人类社会迈向智能增强时代，将对经济社会发展和人类文明产生更加深远的影响。在智能增强时代，人机共存，物理世界和虚拟世界将交互并行。“人—物理世界的两元空间”将转换为“人—物理世界—智能机器—虚拟信息世界”的四元空间。机器的智能化能力不断提高，有望补齐感知、记忆、推理、情感上的短板，并将逐步拥有自主决策、自主学习和自主调节等能力，越来越显示出通用、类人、智慧的特征。人机交互技术将日益革新，将满足情景感知的自动化、实时化和个性化要求，在持续颠覆用户体验的同时达到智能增强的目的，进而产生超级智能和融合智能等新形态。而伴随着人工智能技术的不断发展，人工智能与人类社会高度绑定，帮助乃至代替人类完成各种任务，这就更加需要人工智能能够更好地反馈和适应人类的反馈和需求，符合人类的道德准则和价值观念。

面对通用人工智能发展给世界带来的巨大机遇和难以预知的各种风险与复杂挑战，习近平总书记提出：“要重视通用人工智能发展，营造创新生态，重视防范风险。”中方在第三届“一带一路”国际合作高峰论坛上提出《全球人工智能治理倡议》，将同各国加强交流和对话，共同促进全球人工智能健康有序安全发展。联合国安理会举办“人工智能给国际和平与安全带来的机遇与风险”高级别公开会议，呼吁设立监管机构来监督人工智能并成立AI咨询机构，为国际社会加强人工智能治理提供支持。加强人工智能治理，实现通用人工智能价值观对齐是当下亟待解决的重要问题，一是要始终坚持“以人为本”理念，以增进人类共同福祉为目标，确保人工智能朝着有利于人类文明进步的方向发展；二是要始终坚持“智能向善”宗旨，遵守伦理规范与法律法规，使其符合“和平、发展、公平、正义、民主、自由”的全人类共同价值追求，遵循社会主义核心价值观，防止人工智能技术的恶用滥用；三是要积极加强人工智能技术持续创新，进一步推动人工智能技术发展；四是要积极发展人工智能治理的相关技术开发与应用，在人类反馈的强化学习、有效干预训练数据、开发内容过滤工具、推进模型的可解释性和可理解性等研究成果的基础上，进一步深化人工智能治理研究，提高人工智能治理的技术能力。

塑造正确的通用人工智能时代的价值观，发展负责任的人工智能，促进人工智能健康发展，需要政府、社会、企业、学术界等各方投入更多资源来推动价值观对齐研究与实践，需要思想政治教育、哲学、计算机、伦理学、心理学、社会学等多学科共同参与，让人们监督、理解、控制人工智能的能力与人工智能的发展进步齐头并进，以确保人工智能能够造福全人类和全社会。