生成式人工智能应用拓展加速提前谋划应对四大潜在问题

张立艺　涂菲菲　张振翼　单志广

近期随着ChatGPT、Midjourney等一批应用的推出，人工智能技术的通用性得到了大幅提升，其主要功能也从内容判定向内容生成拓展，潜在应用领域得到大幅拓展。目前生成式人工智能普遍被认为是可能引发颠覆式变革的重大技术，并正在加速向经济社会各个领域广泛渗透，这一技术在释放巨大引领潜力的同时，还很可能由于“破坏式创新”效应产生巨大社会成本，目前看主要潜藏“四大冲击”，亟待提前进行谋划建议。

一、失业冲击：就业结构调整会引发较高就业摩擦成本

生成式人工智能有望大幅提升大量程式化工作的工作效率，必然在众多领域形成挤出效应。OpenAI公司和宾夕法尼亚大学的相关研究显示，从美国的劳动力市场看，约80%的工作岗位，其至少10%的工作任务会受到生成式人工智能的影响；同时，有约19%的岗位，其工作任务受影响的比例超过50%，这些职业主要包括报税员、网页设计师和记者等。此外，高盛对美国和欧洲情况的分析显示，大约有三分之二的工作会受到生成式人工智能的影响，受影响的职业中有25%到50%的工作可以被替代。其中，办公室和行政工作受到的影响比例最大，约有46%的工作内容可以被替代，其次是法律工作，为44%。尽管目前我国就业结构与美欧尚存在较大差距，但预计受到影响的就业人口也将达到数千万。虽然生成式人工智能也将带来大量新的就业岗位，但是一旦这一技术普及，大的就业结构调整就很可能快速出现，这中间将产生巨大就业摩擦成本。

二、公平冲击：智能鸿沟形成将增加社会不平等

一般的鸿沟理论将鸿沟划分为接入沟、使用沟和效果沟三个层次，智能技术的全面普及可能形成相应的智能鸿沟，且其情况很可能会比数字鸿沟更为严重。从接入角度看，由于应用生成式人工智能必然首先需要接入数字世界，因此在这一层次上，智能领域的鸿沟只会比数字领域更加严重。从使用角度看，生成式人工智能的使用也必然是叠加在现有数字产品的基础之上，预计使用难度不会小于现有数字产品，因此，智能领域在这方面鸿沟的跨度预计至少与数字领域接近。从效果角度看，由于生成式人工智能的技术潜力比传统数字技术都更强，产生的效率增幅很可能更高，且迭代速度更快，因此是否掌握这一技术，乃至掌握这一技术的先后都有可能带来巨大的鸿沟差距。综上来看，生成式人工智能的发展潜力越大，发展速度越快，可能形成的智能鸿沟就越大，就越有可能造成较大的社会不平等。

三、导向冲击：意识形态安全恐面临前所未有的挑战

生成式人工智能的核心功能是批量的生产内容，而其学习的对象则是大范围的数字化语料，这就产生了两个方面的巨大挑战。一方面，生成式人工智能需要尽可能大的语料库进行学习，而当前全球话语语料领域已经成为一个巨大的意识形态交锋场所。大量相互冲突难以调和的意识形态并存，加之生成式人工智能的内容生成过程具有不可解释、不透明性等黑箱操作特点，其输出内容所带有的意识形态偏好具有极强的隐蔽性，导致生成的内容在意识形态上存在较大的不确定性。另一方面，生成式人工智能自身又可以批量化生产内容，如果这一技术得到广泛普及，那么其自身带有的意识形态特点可能得到快速传播，被批量应用，成为意识形态传播最重要的新平台。这种平台型的巨大作用和其意识形态的不确定性会带来新的巨大挑战。

四、社交冲击：虚拟化交互易导致社会性问题

现有的生成式人工智能具有很强的拟人功能，可以虚拟性地与人开展对话等社交活动，但一旦泛化这一功能应用，可能形成巨大影响。一方面，虚拟性社交正在快速发展。据《财富》杂志报道，一位名叫Caryn的女网红通过生成式人工智能，将自己打造成虚拟女友产品Caryn.ai，在测试期间，Caryn.ai陪用户每聊一分钟收取1美元，仅用了一周的时间便赚了71610美元（约50万元）。微软小冰也曾推出类似虚拟女友的服务，这种基于个人需求打造的虚拟社交对相当一部分人群来说很可能比实际真人间的社交更有吸引力。另一方面，人际交往是人与人的关系和社会融合的条件，生成式人工智能的普及可能让人类沉迷于定制化的虚拟社交，出现逃避真实社交的倾向，进一步强化人的孤独感，严重的可能影响到以人际交往为基础的人类文明的各种组织形式，如婚姻、家庭、民主政治等等。

五、政策建议

第一，预备“政策包”，积极应对生成式人工智能可能带来的就业结构调整。一是做好新技术的推广宣传。以数字人、自生成视频等群众喜闻乐见的新媒体表达方式，加大力度宣传推广生成式人工智能新技术，鼓励人们接受新思想，掌握新技能，推动群众快速适应新环境，积极应对人工智能对劳动需求的影响和变化。二是提供再就业教育与培训机会。根据就业结构形势及时调整税收政策，加大财政支持，多渠道、多平台提供技能培训以适应新的就业市场，减少失业并帮助失业人员重新就业。三是持续建立健全社会保障体系。加快完善失业保险制度，强化兜底帮扶，保障劳动者基本生活。

第二，端好“公平秤”，统筹施策弥合智能鸿沟，共享数智红利。一是鼓励生成式人工智能模型开发机构通过代码开源、开放接口等方式加快技术扩散速度，尽快降低技术使用難度。二是加快推动新型基础设施建设步伐，进一步提高5G、智算中心等基础设施服务水平，降低生成式人工智能接入成本。三是提高网络普惠使用能力，推动各级中小学校、高等院校以及图书馆、博物馆、美术馆等公共服务场所加大力度提供接入接口，着力解决数字资源不公问题。

第三，系好“安全带”，多管齐下保障意识形态安全可控。一是尽快完善生成式人工智能意识形态领域的制度建设，从源头上防止“技术脱轨”。健全研发、审核、应用与安全等多维标准规范体系，建立可解释、可信赖的人工智能生成内容技术框架、标准体系，完善生成式人工智能技术创新生态。二是进一步强化行业自治体系建设。对于从事人工智能前沿科技活动的单位和行业，加快推动设立科技伦理（审查）委员会，以确保其在发生大规模涌现时，符合法律道德和伦理规则。加强人工智能治理国际合作，探索人工智能系统协助监督其他人工智能系统的新途径。三是建议持续开展生成式人工智能意识形态风险测评与压力测试，尽快建立生成式人工智能意识形态风险监测体系。四是强化人工智能的风险意识教育，加强对研发企业、人员的人工智能合规培训，通过制度安排、服务规范、媒体引导和产品内嵌提示等方式提高用户防范意识，减少潜在损失。

第四，设置“警示语”，以提示的方式防止生成式人工智能过度拟人化。一是建议从立法层面制定生成式人工智能拟人化的相关制度体系，预防生成式人工智能在应用过程中引发的错觉，进而操纵人的心理。在对话、文本、图像、视频等生成式人工智能素材领域，各平台均需义务性标明输出内容为生成式人工智能制作的行为。二是建议在全球率先制作生成式人工智能拟人化提示语与提示图标，并推动提示图标成为全球共用标识，以警醒提醒的方式对生成式人工智能对话服务加以限制，防止使用者陷入生成式人工智能拟人化习性误区，对其产生误解、沉迷甚至执着。

（作者单位：国家信息中心）