生成式人工智能的扩展风险与社会规制——基于ChatGPT社会效应的探讨

杜 娟

(1.华东政法大学 法律学院,上海 200042; 2.黑龙江省社会科学信息中心,黑龙江 哈尔滨 150001)

在人工智能技术加速发展的今天,在第三代生成性预训练转换系统加持之下,ChatGPT如一骑绝尘,以深度学习建构的自然语言预生成模型,既将人工智能的模拟、深度学习和因果模型等范式远远地抛在了后面,激起了漫天尘雾,使人工智能技术的现实效应扑朔迷离,也使人工智能风险及其治理难题更受关注。在我们看来,人工智能作为人类最先进的技术体系,正在从根本上改变着人类组织和运行的逻辑,并从人的活动和存在等方面重塑人的行为方式。特别是生成式人工智能的快速发展,更是将这一趋势推向极致,在敞开了人工智能定义社会、改变社会的可能性过程中,也从根本上扩展了人工智能开发、改进和应用的现实风险。这是因为生成式人工智能和传统基于自动化的人工智能有着根本的不同。生成式人工智能在高阶自动化的前提下使技术逻辑不再停留于模拟和还原物体系的直接应用,而是在数据与算力加持之下形成了生成式的应用满足,表现出类人智能甚至是超人智能的特征。生成式人工智能的技术进步,一方面以改变人类思考和处理问题的方式承接和强化了人工智能发展的利好,另一方面则以其强大的功能与超强的智能不断地突破技术的应用边界并深度影响着社会行为和价值追求,再一方面则在海量数据的调用、应用场域的泛化和算力资源的调配等方面提出了全新问题,考量着社会治理的思想观念和实践方略。或者,生成式人工智能延续与发展了自有人工智能技术以来的风险挑战,却又以技术范式进步的方式进一步扩展了风险。因此,对于生成式人工智能带来的影响社会秩序的侵权与欺骗,对于伦理道德的算计与篡改以及影响社会存在的否定与取代等事关社会良序运行、社会历史健康发展和现在存在有意义的生活等风险问题,首先应该在社会治理观念上超越从“是”到“应当”(1)薛桂波、赵建波:《从“应当”到“是”:人工智能伦理规范实践策略探析》,《自然辩证法研究》2023年第1期。的规范,建构基于深入把握技术逻辑的“应当”与“是”相互生成的观念;其次应该在生成式人工智能技术范式中准确定位防范风险的起点、处理风险的着力点和化解风险的关键点;最后应该从社会规制的层面调动社会资源、形成主动意识推动生成式人工智能在改变人类思维方式和行为逻辑中发挥其积极效应。

一、调用数据的生成与数据安全的意识

生成式人工智能虽然基于“大数据小任务”的技术范式,但却以“预生成模型”超越了既有训练数据,使系统真正成了应用范围广、适应能力强的“高阶自动化”(2)涂良川、乔良:《人工智能“高阶自动化”的主体可能性——兼论人工智能奇点论的存在追问》,《现代哲学》2021年第6期。系统。这一方面得益于“生成式预训练转换器”对既有数据的有效挖掘和对模型的生成式建构,使人工智能能够基于海量数据类人地处理问题;另一方面则得益于人工智能时代网络的快速发展和数据海量积累,以及算力的绝对提升,使人工智能能够“合乎逻辑”地面对问题、提出方案。因此,生成式人工智能虽然具有目前风靡行业的适用性,但却是基于既有数据的生成。尽管我们不能以数据来界定生成式系统的特质,但是我们却不能否认数据对其的奠基。正如每一代人都是在前一代人活动的基础上活动一样,生成式人工智能也是在数据的基础上创建。因此,作为记载人类行为、表征社会特质、呈现历史特征的数据如何被生成式人工智能系统采掘、转化和应用,就是必须重视的问题。或者说,在生成式人工智能极速发展的当下,技术逻辑展开的数据风险已不再局限于专利、隐私和个体等,而是全面地向社会逻辑展开,既能够跨越地域的限制,又能够实现时间压缩的整合,还可以打破价值与观念的界限。因此,数据安全的问题,不是简单地强调数据归属来实现数据屏蔽,也不是通过数据占有来获取数据利益,而是建构数据占有与拥有、采集与应用、开发与获利的社会逻辑,既使数据有效地服务于生成式人工智能的训练,又使数据训练的生成式人工智能能够真正赋能人的美好生活。

第一,对大数据的深度挖掘构成了生成式人工智能情境理解、语境互动和类人行为的基础,数据对生成式人工智能有着决定性的影响。因此,技术逻辑之外对数据的区分、确权和应用就会从根本上影响生成式人工智能的功能。“生成式预训练转换器”之所以能够建立类人逻辑的表达和自然语言的理解力,虽然得益于人工智能神经网络的发展,但是却从未离开对语料库的挖掘和对数据逻辑结构的分析。生成式人工智能正是在对数据的技术性理解中,一方面形成了对人类智能能力的理解与实现,另一方面则还原和延续了数据所表达的人类既有经验和成果。或者说,人工智能技术范式的创新与大数据的加持,使生成式人工智能运用于聊天时就成为“目前为止最为强大的通用人机对话系统”,对于人工智能发展而言,则是“打开了通用人工智能的大门”(3)赵广立:《ChatGPT敲开了通用人工智能的大门了吗?》,《中国科学报》2023年2月22日,第3版。。由此看来,生成式人工智能能够在技术逻辑中将数据的实存性与描述性转化成理解人与社会、历史与现实、逻辑与事实等事关人类社会根基与存在、运行与规制、发展与校正等重要问题的观念和方式。虽然生成式人工智能系统有前置性的技术逻辑,但是如果离开数据就会成为无源之水、无本之木。数据作为事关生成式人工智能训练的基础性资源,既成为人工智能技术发展的必需品,又成为企业、国家和社会的争夺品。或者说,生成式人工智能因其对数据的需求,以及其强大的功能和良好的发展预期,使数据真正成为人工智能时代的生产资料,更使数据成为人工智能时代的战略资源。生成式人工智能的技术逻辑、功能逻辑和效应逻辑,一方面强化了数据之于人工智能技术的根基性,另一方面又提出了数据的安全性问题。从技术发展逻辑上讲,数据开放、开发的程度既是生成式人工智能形成能力的基础,又是数据进一步精练运用的前提;从社会效应逻辑上讲,数据的开放与安全会影响生成式人工智能对社会生活的介入与影响;从经济运行逻辑上讲,数据的掌握与开放会影响生成式人工智能经济效益的获得与分配。

第二,生成式人工智能系统的自监督学习与强化学习,不仅能够很好地调用已有的数据,而且能够推进数据的生成与丰富。因此,生成式人工智能能够在既有数据与生成数据的交织中,既获得外部的监督与强化,又获得内部的类自省的强化与监督。算力的提高、存储的增加、模式的改进,使生成式人工智能的学习不仅能够挖掘潜存于数据中的因果关系,使其生成既体现事实的一般状态,又预测事实可能的状态,达到可信度高、实现性强的结果。更为重要的是,生成式人工智能生成的数据虽然依赖于既有数据,但却是系统生成的数据,并且可以被系统调取用于监督和强化的数据。因此,生成式人工智能的深度学习,不仅在于对数据的深度挖掘和模型的不断优化,而且在于能够不断以系统生成的数据训练自身。虽然从形式逻辑的角度看,这有可能使系统在重复调用中不会获得实质性的改善,只会在消耗系统冗余中拖累系统,但生成式人工智能系统的开放性生成本身却是突破形式逻辑局限的技术路径。在此就提出了一个重大的现实关切,即生成式人工智能生成的数据与现实数据的叠加,显然正在推动数据自动生成的进程。当然,这是“元宇宙”提出之后,虚拟世界以数据替换现实节约资源、以数据模拟现实节省成本、以数据“取代”现实推进发展的积极面相。但是这里却存在巨大的社会伦理风险,即生成式人工智能创造数据、再现数据和推动数据的能力,因其技术系统自治与封闭必然呈现出高效甚至是完美,从而产生两种不可忽视的危机:其一,在现实与真实内涵发生根本变化的前提下,生成式人工智能数据的泛滥与滥用,将带来数据权的争夺;其二,技术系统虚拟生产的数据模糊真与假、善与恶,将引发伦理与价值的危机。因此,数据安全就不再是局限于人与人之间的数据占用与分享、开发与利用等表达现实权利与利益关系、支配逻辑和权力体系的现实问题,而是关系人机关系、人机互动的重大问题。或者说,面对生成式人工智能生产数据的逻辑,以及数据再次技术化成为人工智能系统构成的问题,数据的安全就已不再是数据占有与使用、数据分发与开发、数据采集与运用、数据权利与获利等基于人与人关系的数据安全问题,而已延展到人机关系的层面。这既需要我们创新保障数据安全的机制与体制,更需要我们变革数据安全的观念,在人与人、人与机、机与人三个层面同时考虑数据安全问题。

第三,生成式人工智能以组合式创新的方式具有了突破预训练数据的能力,形成了基于预训练数据创造新数据要素的能力。生成式人工智能不以分析数据内在逻辑为基础,而是以建构数据关系为逻辑,在技术逻辑上被看作专用人工智能向通用人工智能转变的重要技术范式。这意味着生成式人工智能的技术逻辑不断解构着人们保护数据的观念与体制。如前所述,数据作为其基础,数据的量和类虽然不能绝对限制其功能,但是却会延缓或推进其功能的快速发展。因此,基于技术发展逻辑自然就为拥有这一技术的人工智能公司提供了要求数据完全开放的合理借口。同时,生成式人工智能的强大功能与发展前景也会使个体与社会在追求高技术、好成效的过程中放松对数据的管理。然而,从技术本身来看,生成式人工智能之所以高效,在于其通过数据学习获得的巨量参数的有效性。显然动辄上亿(4)陈永伟:《超越ChatGPT:生成式AI的机遇、风险与挑战》,《山东大学学报(哲学社会科学版)》2023年第3期。的参数需要对海量数据进行挖掘、拟合与比对。数据开放得越完全,数据所刻画的对象也就越精细,人工智能系统生成的结果也就越精确。这里存在三个逻辑问题:一方面,生成式人工智能能够极度还原开放数据的本原状态,使人与社会在机器逻辑面前近乎“祼奔”;另一方面,生成式人工智能可以基于完全开放的数据植入技术系统内在的价值,使开放的数据受制于技术逻辑的支配;再一方面则是由系统生成的数据用于系统的训练与自优化的时候被直接认同为客观数据,使系统获得自“进化”的能力。因此,数据类别的标注与区分、不同数据训练结果的比对,既是检视生成式系统先进性的手段与方式,更是以底层逻辑来考量系统安全性的途径。特别地说,就是Transformer系统(5)Vaswani A.,et al.,“Attention is All You Need”,Advances in Neural Information Processing System,No.30,2017,pp.2702-2712.用于生成式人工智能之后,面对系统生成的数据,数据类别的区分与对比难度极速增长。因为其类自然的处理能力在解决“长依赖问题”的过程中已经可以创造近乎“客观”的数据。当然,我们在此不必争论数据的客观性,但是生成式强人工智能依赖强大算力的“可能关联”是否就是客观性,却是值得我们谨慎对待的问题。或者说,数据结果呈现出来的逻辑精确与期待精准,是否体现为客观就是必然思考的重要问题。

从上述分析我们可以看出,生成式人工智能进一步强化了数据之于人工智能的重要性,同时更提出了与传统人工智能不同的数据安全问题。其一,因生成式人工智能的特性,数据安全已经由技术逻辑深度介入,基本权利占有的规制逻辑已呈现出极大的局限性;其二,数据量大、类多使当前数据安全问题已严重依赖人工智能系统,必须考虑机器技术逻辑的规制问题;其三,数据客观性界限的消失、零样本设置的出现,强化了技术逻辑的自洽性,消解了数据的客观性与基础性,使数据安全已提升到存在论层面,其社会规制亟须全新的思维与逻辑。因此,面对生成式人工智能,我们需要认真思考数据安全的底层逻辑、实践操作的现实逻辑和成效评价的价值逻辑。

二、信息生成的扩展与风险边界的认知

生成式人工智能基于经验主义与归纳的逻辑,不仅能够将已有数据表征的语境规定、因果规则、相关性联系、结构构架等提炼出来,使之成为生成满意要求答案的规定,而且能够在与用户输入与答案输出中建构出新的规则。生成式人工智能的技术范式使其一方面具有挖掘既定事实的能力,另一方面还能够生成规则,表明在技术逻辑下的信息生成有可能是事态逻辑发展的结果,也有可能是人类创造的结果,还可能是被植入系统偏见的表达,亦可能是系统生成却无法预知难以应对的规则。因此,生成式人工智能生成的信息既可能在既有认知边界内,亦可能超越认知边界而预知并可控,还有可能在认知边界之外而不可预知并难以处理。生成式人工智能经由训练而生成信息的能力的上述技术逻辑,能够在不断扩展边界的过程中重建信息的结构化环境。识别与认知其边界,既能够为人工智能的健康发展提供社会保障,更能为人类社会安全运用人工智能技术保驾护航。

使人工智能像人一样思考是生成式人工智能技术追求的目标。当其以信息生成的方式来表达其类人的聪明的时候,其表达出来的结构化环境不仅有利于确证人工智能系统运行结果的有效性,而且更有利于人工智能以其自身为中心不断地吸纳资源。因为信息生成本质上就是结构化的再造,而“环境的结构化程度越高,制造在其中运行的机器就越容易”(6)皮埃罗·斯加鲁菲:《智能的本质——人工智能与机器领域的64个大问题》,任莉、张建宇译,北京:中国工信出版集团,2017年,第123页。。信息作为对物质、存在和逻辑的编码,“它是一种模式(Pattern),而不是一种存在(Presence)”(7)凯瑟琳·海勒:《我们何以成为后人类》,北京:北京大学出版社,2018年,第24页。。虽然生成式人工智能是基于数据深度学习模式而建构的智能系统,但是其内蕴着对人类学习知识、生成信息和阐释意义等智能能力(8)涂良川:《深度学习追问学习本质的哲学叙事》,《学术交流》2022年第11期。的一般性假设,在逻辑建构、事实组合和价值表达的过程中输出作为结果的信息。从积极的层面讲,生成式人工智能占有数据量大类全、逻辑自洽严整、计算极速准确,能够以技术的方式尽可能地避免价值偏见、思维局限和视域陈见,使生成信息的真度更具可信性、广度更具涵盖性。从消极的层面讲,生成式人工智能在深度学习中因为数据全,在逻辑上更容易回避争论和迎合用户,使扩展性的生成信息成为真实的替代品;在模型生成中因为逻辑自洽,使生成自信更具有权威性与压制性,极易形成信息集权而非开放智力争论;在证据采集、语用建构和结果输出中因为算力极速,使生成信息的形式更美、价值更真切,以贴切的表象消解了技术生成的痕迹,具有社会生成的一般性。因此,信息生成的扩展使生成式人工智能获得了跨界的实质能力,也带来了风险边界重新认知的问题。随着生成式人工智能生成信息的扩展,信息结构化社会的形态和规制社会行为的能力都在不断从技术应用的异化效应深化到自动化的深度异化之中。

生成式人工智能以Transformer的算法,使“时序数据处理”(9)Lund B D,Wang T,“Chatting about ChatGPT: How May AI and GPT Impact Academia and Libraries?”,https:// www.emerald.com/insight/content/doi/10.1108/LHTN-01-2023-0009/full/html,2023-02-14.无监督学习和“自注意力机制”的强化学习很好地融合成生成信息的机制,以强大的算法实现跨领域的信息结构再造。生成式人工智能以数据、算力和算法实现了人类梦寐以求的交叉,能够在节省人类时间与空间的前提下获得新的描述、解释与创造新对象的信息结构。其以技术的一致性与逻辑的自洽性解决了“语句连贯不一定具备意义、存在学习盲区而导致一些结果不准确、无法体现信息来源”(10)彭茜、黄堃:《ChatGPT,变革与风险》,《新华每日电讯》2023年2月14日,第7版。等知识问题之后,“将大幅促进内容创作,创造出数字化知识生产、供应的繁荣之态”(11)王建磊、曹卉萌:《ChatGPT的传播特质、逻辑、范式》,《深圳大学学报(人文社会科学版)》2023年第3期。。但是,生成式人工智能生成信息繁荣的背后显然也存在着我们必须重视的问题。从生成数据的生成现象学来看,生成式人工智能是通过重组与整合数据既有规律的方式来实现联结、衍生和扩展。从技术的理想状态来看,系统可以全面地访问与利用所有数据,算法也可以依据研究进展与系统进化进行修正,但是技术发展的现实却明显呈现出投喂选择性、算法偏向性等问题。虽然我们愿意善良地相信系统掌握全面的数据和科学地改进算法能够有效解决尼古拉斯·卡尔的“碎片化”与“阻碍短期记忆”(12)尼古拉斯·卡尔:《浅薄:互联网如何毒化了我们的大脑》,刘纯毅译,北京:中信出版社,2010年,第142页。的问题,但是问题并没有技术乐观主义者们认为的那样简单。因为无论是联结主义的整合,还是基于逆向工程学的类人认知模型,在本质上都是基于主题信息的归纳与演绎逻辑的推理。虽然其信息扩展的方式超越了传统主题词触发的信息提取能力,也“体现出高超的语言重组能力”(13)王建磊、曹卉萌:《ChatGPT的传播特质、逻辑、范式》,《深圳大学学报(人文社会科学版)》2023年第3期。,但是正如乔姆斯基所言,这还只是语言内部的信息扩展。因此,生成式人工智能在深度学习基础上的信息跨越能力基于语言扩展的逻辑本身已限定了生成信息的适用范围。虽然生成式人工智能在生成信息中超越了分析式人工智能的复制、精确和逻辑预判,呈现出独立判定和新内容生成等能力,但其本质上仍是一套文字生成模型。我们在此无意争论语言表达与现实存在的关系问题,但是却无法忽视这种生成自信的扩展对于极度依赖语言来进行实践的人的重大影响。

生成式人工智能生成信息的扩展,不仅扩展生成信息自身所包含的内容,而且扩展了信息生成对人的全面纳入。简单地讲,生成式人工智能生成信息的过程就是机器和社会主体共同深度介入信息创造的过程。客观地讲,代表生成式人工智能发展状态的最新应用平台——ChatGPT当下之所以大受追捧,除了技术先进及其表现出的能力超群之外,其实也因为其改变了生成信息与社会主体的关系。因为,当ChatGPT申明“我没有个人经验或意见,因为我是一个人工智能程序”“作为一个中立的AI语言模型,我没有个人意见和信仰”(14)参见新京报传媒研究:《记者对话ChatGPT:你会抢走我的工作吗?》,新京报社官方账号,2023年2月9日。的时候,其实也就表明其信息是生成的而非传达的。从表面上看,生成式人工智能在其技术机理中并不区别对待社会主体,也具有将社会主体的视角纳入信息生成之中的自觉。但是就生成式人工智能的算法和数据而言,并非意味着其超越了信息分发模式对信息内涵的扩展。这里涉及一些重要的问题:其一,生成式人工智能算法本质上是深度学习算法,虽然今天这样的算法极大可能地集聚了人类知识的成果,但是人类知识的社会历史如何超越显然并没有ChatGPT申明得那么简单;其二,训练系统的数据与语言的选择性必然会被系统的联结主体吸纳,其承载的价值观和局限性如何在系统生成与应用中被处理与防范;其三,生成式人工智能虽然具有自主优化的能力,但是其作为人类社会的创造性产物,社会历史和社会政治主体对其的影响如何消除;等等。或者说,生成式人工智能的信息扩展具有纳入主体的技术可能性,但是却并非基于社会历史的纳入,其信息扩展也就自然带有历史的阶级性、政治的局限性与文明的地域性等。也就是说,生成式人工智能生成信息的扩展并没有因为技术的进步而解决人类技术发展一直存在的问题:技术的控制权、原发地、应用性等都影响着技术与人的关系。生成信息表征的人与机之间的迭代与互动,总体上却是“算法编程、硬件材料、数据思维与能力、机制模式甚至文化综合作用的结果”(15)杨溟:《人机融合智能:一条通向未知的艰险征途》,《中国社会科学报》2023年3月7日,第4版。。作为新技术迭代的产物,生成式人工智能在迈向新的征途的时候,一方面以技术的方式综合地考量与实现了社会主体在技术产物中的地位,为技术与主体对立的消解做出了积极的贡献,技术系统在被想象成人的前提下,其产物也被作为类人成果对待;另一方面,技术系统本身也以适合社会主体的方式在产物与结果上做出相应调整,使其产生类主体的行为方式,其成果也必须被现实的人进行社会历史的审视。

因此,生成式人工智能信息扩展显然推进了人类社会信息创生的进展,但是也带来了一系列的新问题。其不仅以原发性的方式改变了风险的发生逻辑,更是以技术的深入浸入与信息生成的扩展不断提出风险边界的认知问题。面对如此现实,我们认为在科学公允地定位生成式人工智能生成信息之前应该积极推进如下工作:其一,在从人机对立思维向人机融合思维的转变中,深探风险边界的发生逻辑,使准确的认知成为科学规制的前提;其二,以社会历史的整体逻辑看待信息规制与座架的能力与限度,在哲学与文化的层面把握风险边界,在伦理与法制中明确风险边界,在实践与操作中定位风险边界,在生活与行为中小心风险边界;其三,以发展的眼光看待生成信息的丰富意义与价值,以防范与引导的方式重视信息扩展的意义,在发展的逻辑中辩证地认知风险边界的积极意义与消极意义,既客观地面对风险边界,又现实地发挥社会规制风险的主体性作用。

三、技术定义的取代与奇点来源的干预

生成式人工智能之所以被关注,并不是简单地由其取代了人的实体性工作,而是以技术的方式探索了解放“头脑”的可能性,从而以技术打造的物体系实现了对人存在功能的取代。从历史发展来看,这似乎是人类技术发展史一再重复的事实,但是生成式人工智能带来的革命远非历史上的蒸汽革命、机器革命、电气革命等所能比拟。因为生成式人工智能是以技术的方式对通用智能的有效探底,一方面现行社会逻辑以有效的社会调动极力推动了这种探问,另一方面则是技术逻辑自身发展的一种趋向。生成式人工智能结合两方面的力量,使其扩展风险的逻辑和方式与传统技术发展风险有了本质的不同,不是社会规则修补的问题,而是应对奇点的意识与能力的问题。

生成式人工智能以技术的路径实现了类人的生成能力,挑战了人类引以为傲的智能,既被文化地想象为人类,又在以行为能力取代人的工程中彻底地改变了人类存在的方式,引发奇点降临的存在论担忧,更提出了人机关系建构的社会规制难题。从人类历史上看,人类创造的技术不断以超强的能力“挣脱”人的逻辑,表达出对物的控制一直是常态。但是人工智能的来临却使这一常态具有了不一样的效应,特别是以生成式人工智能为代表的新技术更是如此。因为生成式人工智能在模型构成上更加接近人类,不仅能够完美地完成以数据为基础的被人类规定的程序性工作,而且可以具有类人的心智能力和情感交互能力,其行为主义的逼近展示了这种技术改变甚至是颠覆人类存在的可能性。如果依据图灵测试的技术逻辑来看,这样的系统虽然不具有人一样的活动逻辑,也不具有人一样的存在肌理,但却能以非生物的电力和机械力驱动逻辑器件、电子元件和机器装置来“非人格”地实现思维。当然,构成人工智能物理系统的器件和装置、驱动物理系统的算法、训练系统的数据和流程都是人依据既有的科学技术与历史现实所创造出来的,但这并不意味着人工智能必然是可控的,特别是生成式人工智能等“大型语言模型或许开始展现出类似人类的问题解决能力,但它们似乎并不完全受人类控制”(16)罗曼·V.扬波尔斯基、奥托·巴滕:《ChatGPT等语言模型可能构成生存性风险》,王悠然译,《中国社会科学报》2023年3月6日,第8版。。或者说,生成式人工智能正在深刻地改变人类活动的一般逻辑,从辅导性机器系统转变成了定义时代与社会主体的类主体系统。这显然不是危言耸听,而是正在发生的社会逻辑与治理逻辑的重大转变。生成式人工智能以改变活动逻辑定义时代问题,正在引发经济奇点、政治奇点、伦理奇点和价值奇点等,正在逼近存在奇点的趋势使我们不得不面对其能力强而可控性差和可预见难的问题。

生成式人工智能不仅定义了时代的逻辑,更以技术有效性的方式定义着人的本质,既在社会实践层面加剧了人与技术实体之间的冲突,更提出了人类主体生成的存在危机。虽然人工智能是人的对象化本质和理解自我的参照物,但是如果人工智能一旦具有主体的能力,那么问题就不再是简单的人如何控制机器的问题,而是人被机器规定与定义的问题。因此,在ChatGPT极速发展的当下,并在对话中呈现出与人类似的主体性的时候,这个问题就极为突出了。因为生成式人工智能显然不同于分析式人工智能的技术逻辑,其不仅广泛应用于生产和消费等影响经济逻辑的现实生活领域,更是以其交互与生成拓展到对人能力和智力的发展之中。其基于不断积累的数据而获得的处理现实问题的能力,不仅挑战着既有的生产与生活逻辑,更是挑战着人获得知识与经验的实践。生成式人工智能以其强大的算力与强悍的算法,既能够不断地更新数据进行交互,又能够依据技术逻辑生成新的数据,正在从根本上改变物质交互、实践交往之于主体的意义。这既是自元宇宙以来人工智能技术逻辑的主要路线,更是以切近智能活动逻辑的方式对人本质的深层定义。或者说,生成式人工智能正在极速地向以数字定义人,而非实践生成人的方向前进。因此,生成式人工智能独有的技术逻辑“导致既不依赖精神又不依赖意识而仅仅依赖信息的非物质性建构”(17)凯瑟琳·海勒:《我们何以成为后人类:文学、信息科学和控制论中的虚拟身体》,刘宇清译,北京:北京大学出版社,2017年,第47页。。这虽然极度地扩展了人类活动的能力,但是却强化了关系在人本质生成上的意义。特别是对于生成式人工智能而言,其杂糅关系的能力、论证关系的逻辑、体现关系的效应,既带来了现实区分上的难度,又极有可能带有系统设计者和系统例外错误对关系的定制和影响。面对人工智能的本性及其性质和意义,物作为其基础的事实,是顺应技术的逻辑而被其主导,还是遵循人类存在的实践而生成自我的本质,可能就是事关根本的选择。也正是在这个意义上,随着生成式人工智能对人类活动与存在的深度介入,人工智能与事关人类相互关系的伦理问题、人工智能与人类知识获得与生成的教育问题、人工智能与人类主体表达的意识问题、人工智能与体现本质的人类创造问题等在今天被再次推到前台而被人们广泛关注。究其根本原因,就在于生成式人工智能不仅带来了经济活动取代人的传统逻辑中的异化问题,更是提出了人工智能时代以技术逻辑定义人、以技术要求生产人和以技术发展定位人的关乎存在根本的问题。

因此,生成式人工智能的强大功能既是技术逻辑发展的必需,又是人类生存与发展的新遭遇和新问题。面对人工智能定义人的奇点可能性,为了人类自身的发展与社会良序的运行,既需要建构人工智能时代社会规制的思维,例如应将伦理规制纳入科技活动的全过程和各个环节(18)薛贵波、汪禹辰:《从“科技批判”到“科技伦理治理”:一种范式转换》,《学术交流》2022年第10期。,又要创新社会规制的实践。具体而言,其一,人工智能的奇点来临,既延续了传统社会规制的一般逻辑,又产生了全新的问题。对于奇点来临的“创造性破坏”,显然不是修补既有治理逻辑的问题,而是要在面对长期创新的技术逻辑中,既直面奇点可能敞开的治理难题,又在梳理和引导的层面以推动社会转型的方式化解奇点产生的基础。其二,生成式人工智能使奇点由遥不可及到今天的近在眼前,创新人工智能时代的活动逻辑使人一方面真正享受技术发展创新的红利,另一方面又以技术创新的方式丰富与发展人的能力。在建构良序的人机关系中消解物种奇点,应该是社会规制必须要解决的重大问题。其三,人工智能的定义正在影响着人们自我理解、自我确证的方式与途径,其表现的技术风险、社会风险、经济风险和政治风险,既是对传统社会逻辑的打破,也是对社会发展的推进,更是对生存逻辑的反思。因此,社会规制既应该直接触及现实问题的核心,又应该关注人类存在的未来,创新性地形成历史—现实—未来一体化的规制逻辑。