ChatGPT：人工智能时代的双刃剑

景丽萍 刘健

[摘要] ChatGPT的崛起代表着人工智能的发展进入新阶段。现如今，类ChatGPT技术已经展现出非常广泛的学习能力，并在一些特定领域接近或超越了人类水平。这种新的学习范式为各领域各行业带来无限机遇，同时也潜藏着不可忽视的风险。加强对ChatGPT风险认知和治理策略的研究，预测并防范其可能引发的失灵、失德等问题，可以为规范人工智能的发展和应用提供更全面、更深入的指导。

[关键词] 人工智能；  数据隐私与保护；  法制治理

[中图分类号] TP18         [文献标识码] A         [文章编号] 0529-1445（2023）06-0046-03

ChatGPT是由美国人工智能公司OpenAI开发的一款聊天机器人程序，也是一款基于互联网可用数据进行训练的文本生成深度学习模型。与先前的其他人工智能相比，ChatGPT采用了全新的训练方式——人类反馈强化学习，即通过学习大量文本数据来模拟人类语言模式，生成符合语境且具有上下文相关性的文本。这一训练方式使ChatGPT生成的文本更贴合人类的语言习惯，同时能不断精进回答，展现出了高级的逻辑理解能力。ChatGPT已经在类人智能方面取得了相当高的水平，具有广泛的应用前景和市场需求。

一场从传统智能到人机交互的革命

传统的人工智能算法主要依赖人工经验和有限的训练数据来处理任务。与之相比，ChatGPT采用了一种不同的技术路线，即“大数据+大算力+强算法=大模型”，其中包括两个关键要素：基础大模型和指令微调。1基础大模型类似于大脑，指令微调是一种交互训练方法。通过将两者结合，ChatGPT逐渐接近人类的语言智能水平。

实现海量知识的整合与归纳。ChatGPT本质是一种大型语言模型，其训练数据几乎涵盖了互联网上所有可以获取的信息，在知识存储量级上远远超越其他知识引擎。在交互过程中，用户通过指令提出信息需求，ChatGPT从海量知识中进行检索并精简数据，进而高效输出用户所需信息。这种高效的知识整合方式对于现代社会具有重要意义。例如，ChatGPT可以帮助研究人员快速获取大量文献资料，把节省出来的时间和精力用于挑选最重要和最有价值的信息。

建立高效而可靠的人机交互方式。自然语言理解一直是人工智能领域的难点。即使是最先进的自然语言处理系统，也只是基于对人类词频分布的模拟，无法真正理解人类语言。与之相对，ChatGPT通过指令微调和人机对齐技术展现出了强大的语言理解能力。2它可以深刻理解并掌握用户语言背后的含义和逻辑，对各种命令和反馈做出相应的回应，甚至能够通过与用户的对话逐渐学习形成具有个性化特征的反应。

展现出一定的通用智能。ChatGPT之前的人工智能已经能够执行阅读理解、机器翻译、自动问答等任务，但不具备通用性。ChatGPT作为一种聊天软件，通过自然人机接口，可以完成各种任务，例如文本编辑、数据分析、图片生成、论文撰写、代码生成等。这些任务以往通常由人类完成。ChatGPT所具有的这种通用智能意味着其可以作为一个强大的智力劳动工具，与人类协同工作，提高人类的工作效率和工作质量。

以崭新姿态深度嵌入未来生活

ChatGPT的应用是人工智能技术的一次突破，为人们带来更加智能、便捷、高效的语言服务，同时还可以应用于更多领域，例如智能客服、智能翻译、智能写作等。这些应用场景将会为经济社会发展创造更大空间和更多可能性。

ChatGPT的应用对劳动力市场的影响是双面的。ChatGPT以语言为核心初步实现了“智慧涌现”，为一些領域创造了新的就业机会，如自然语言处理算法工程师的市场需求越来越大。但是，ChatGPT可能也会导致人工客服等就业岗位减少。

ChatGPT的应用能够提升教育培训服务质量，为学习提供了更多便利。例如，人工智能教学助手、个性化推荐系统和智能辅导等技术能够让学生获得个性化的学习体验。

ChatGPT的应用可以促进医疗健康发展，为疾病诊断和治疗带来革命性改变。例如，帮助医生更精准地识别疾病，提高诊断准确性，制定个性化的治疗方案以及通过远程医疗技术为更多患者提供服务。

ChatGPT的应用有助于丰富社交娱乐活动，对社交和娱乐领域产生广泛影响。例如，聊天机器人和智能语音助手为人们的日常生活提供更加便捷的社交服务，同时还广泛应用于游戏、音乐、电影等领域，为用户带来更为丰富的娱乐体验。

ChatGPT的应用可以促进文化交流。现实中，语言和文化的差异客观存在，给人类沟通交流带来很大困扰。使用ChatGPT，人们跨越这种障碍变得更为容易。例如，人们可以直接用母语与其他国家和地区的人进行交流，这对于推广文化和促进国际合作具有重要意义。

ChatGPT的应用可以帮助人类更好地理解和应对复杂的社会问题。当前，人类面临着越来越多的复杂问题，例如气候变化、能源危机、环境污染等。借助ChatGPT分析大量的数据和信息，可以帮助人类更好地理解这些问题的本质及形成原因，并提供有效的解决方案。这对于未来人类社会的可持续发展和进步具有重要意义。

对用户数据及个人隐私保护带来挑战

从ChatGPT的功能实现上看，大规模、高质量的数据集起到了至关重要的作用。ChatGPT在带来惊艳体验的同时，也面临隐私泄露、技术滥用、知识造假、社会公平等问题，人们越来越担心它的数据安全问题。

ChatGPT本身是依靠智能算法进行大规模数据训练而形成的，而且需要通过不断地与用户互动优化自身的“智能水平”。在这一过程中，ChatGPT需要采集、储存和分析用户的数据，有可能造成数据泄露和数据丢失，导致用户的隐私和安全受到威胁。2023年3月，OpenAI发布声明称，与任何技术一样，ChatGPT也会带来一定安全风险，并介绍了包括尊重隐私在内的六个方面安全部署。这表明技术越先进，安全越重要。

ChatGPT的工作原理是通过学习用户的对话记录来生成响应，使用智能算法来分析和处理用户数据，ChatGPT因此具备一定的逻辑推理能力。这也意味着ChatGPT可能会从用户输入中推理出更为私密敏感的信息。这些信息可能会被其他用户二次使用，从而导致用户隐私泄漏。鉴于对可能引发数据泄露的担忧，意大利宣布暂时禁止ChatGPT的使用。

ChatGPT是一种大型语言模型，存储了大量敏感信息，除了自身保护不周可能引发数据泄露之外，还面临着不法分子恶意攻击问题，用户数据可能会被不道德或不合法使用，继而引发一些道德和法律问题，如侵犯用户的隐私权或作品版权等。在这种情况下，一些国家已经开始采取措施限制ChatGPT的使用。例如，意大利个人数据保护局不仅宣布禁止使用ChatGPT，还限制OpenAI公司处理意大利用户信息，并开始立案调查。

在以上背景下，我国正在加快推进数据安全工作。2023年3月，国家数据局正式组建，负责协调推进数据基础制度建设和统筹数据资源整合共享和开发利用，以推动数字中国、数字经济、数字社会的规划和建设。国家数据局的成立还将为健全数据要素市场安全长效运行机制起到重要的助推作用。在顶层设计层面，国家出台相关政策文件，强化数据安全作为数字中国建设核心底座的地位。2023年1月，工信部、国家网信办、国家发改委等16部门印发《关于促进数据安全产业发展的指导意见》。2023年4月，国家互联网信息办公室起草《生成式人工智能服务管理办法（征求意见稿）》，面向社会公开征求意见。

面对挑战需要设定“边界”

作为人工智能技术未来的发展趋势，以ChatGPT为代表的内容生成式人工智能将会渗透到各行各业。同时，随着数据规模不断扩大，数据泄露、滥用等风险日益凸显，防范数据安全风险成为各方共识。

应用的可靠性有待考量。现阶段，ChatGPT还是一种实验性较强的人工智能系统，稳定性尚不足，易于出错。随着对人工智能的认识和使用不断加深，人们越来越注重其系统运转的可靠性。因此，在正式场合应用ChatGPT时，必须保持高度谨慎，避免出现无法控制的后果。

应用的合法性有待规范。由于ChatGPT生成内容具有模糊性特點，人们很难使用刚性约束对其应答进行合法性限制。这就意味着，基于全网数据训练的ChatGPT若被不当使用，很容易突破国家法律限制。此外，在国际会议、商业谈判、学术研究等场合，如果ChatGPT被错误使用，可能会导致决策不科学、法律纠纷频发和声誉受损等不利后果。因此，在使用ChatGPT时，必须采取适当的措施来确保其应用的合法性和可靠性。

生成的恶意内容急需规避。ChatGPT的用户在全球广泛分布，用户质量良莠不齐，这意味着一些不良用户可能会故意提供不准确或有害的数据来训练ChatGPT，生成恶意内容，给用户造成物质和精神伤害。更严重的是，有些用户可能会滥用ChatGPT实施网络攻击、煽动暴力等违法活动，严重危害社会安全和稳定。相关政府管理部门应当及时制定实施监控措施，发现并惩治违法行为，以保护用户的权益和安全。

[参考文献]

[1]国家互联网信息办公室.生成式人工智能服务管理办法（征求意见稿）[EB/OL].http：//www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.

（作者简介：景丽萍，北京交通大学计算机与信息技术学院副院长、教授；刘健，北京交通大学计算机科学系讲师）

责任编辑 / 陈   思