ChatGPT带来的法律挑战

刘彦华

ChatGPT对我们的法律体系规则、权利保障以及司法救济等提出了一系列的挑战，可以说，挑战无处不在。

科技创新下不断涌现的新技术、新业态、新模式，一直在对现有法律制度提出新的挑战。近期爆火的ChatGPT究竟带来了哪些法律挑战？我们应该如何应对呢？带着一系列问题，《小康》杂志、中国小康网记者对北京大成律师事务所高级合伙人钱卫清、杭州溪塔科技有限公司副总裁钱靖进行了采访。

变革正在发生

《小康》·中国小康网：对于ChatGPT，微软公司创始人比尔·盖茨评价它出现的重大历史意义不亚于互联网和个人电脑的诞生，但也有人认为它只是一个工具。请问您对此如何评价？

钱靖：我认为称其是一种颠覆性发展并不为过。ChatGPT是一种基于新型神经网络框架发展出来的技术，不同于以往我们比较熟悉的RNN循环神经网络和CNN卷积神经网络框架，它的技术核心是Transformer。这种神经网络架构的核心特点在于自注意力机制（self-attention），它可以根据输入的文本序列中不同位置之间的相对距离，动态地计算出每个位置与其他位置的注意力权重，从而可以捕捉文本中不同位置的互相依赖关系。这种机制具有更好的并行处理能力，在处理长文本时具有更好的效果。

在Transformer的发展过程中，出现了Bert和GPT两种基本训练模型。GPT也就是Generative Pre-Training，是一种预训练模型，开发者使用了海量优质的语料库对它进行预训练，最后取得了非常好的泛化使用效果。也就是说它是一个比较通用化的人工智能。在GPT的基础上，通过更高质量更专业的语料库的微调，便形成了GPT-3以及现在大家看到的ChatGPT。这种技术是目前我们看到的最接近能够通过图灵测试水平的一种技术，人们在与之对话的时候，已经很难分辨出是在和一个机器对话还是在和一个人对话。

另外，在使用ChatGPT的过程中，人们也越来越发现它具有很强的实用性，这一点也与以往的人工智能软件有很大不同。

因此，称其为一种颠覆性的技术发展并不为过。它的使用人数增长非常迅猛，很多人愿意为之付费，去解决现实生活和工作中的一些问题。

钱卫清：在我看来，ChatGPT将从某种程度上改变我们的生活方式、工作模式以及整个产业的运行模式。它代表了一种数字文明、一种人机互动合作的新方式。至于具体它能够给整个人类社会带来什么样的变革，现在还有待观察。

挑战无处不在

《小康》·中国小康网：ChatGPT在给人们的生活增添乐趣、提供便利的同时，其信息真伪、知识产权等法律風险也愈发受到关注。据您分析，ChatGPT这样的人工智能暗藏的法律风险隐患和挑战主要有哪些？

钱卫清：法律具有滞后性，必然是一个事物发展到一定程度后，积累了各种纠纷，涉及各种权益争议，然后才会上升到法律层面。目前我国还没有专门针对ChatGPT的相关法律制度，对应对这样的技术创新也还没有做好准备。

据我分析，就目前的法律来看，ChatGPT对我们的法律体系规则、权利保障以及司法救济等提出了一系列的挑战，可以说挑战无处不在。

具体主要表现在以下几个方面：

首先，这种人工智能的行为性质，包括它的开发方、使用方和一般老百姓在运营过程中会形成一种什么样的法律关系，现在还不清晰。

其次，因为这项技术背后涉及的是海量数据的抓取，这将导致其涉及的各种权利、数据抓取是否经过对方授权、获取信息的渠道范围是否合理等都难以判断。并且，整套技术提供的服务内容，包括图片、文字以及各种信息和解决方案，由于它的来源是基于大数据，它的初始权利又从哪里来也都无法判断。

再次，由于ChatGPT能够自动生成内容，著作权也是一大问题。ChatGPT在生成内容的过程中，涉及了谁的著作权、权利来源、权利主体、著作权的复制权使用权等等是否合理合规，是否涉及抄袭，目前这些问题还都没办法做出准确判断。

另外，ChatGPT的权利边界在哪里，信息打散后人们如何去主张自己的权益，它的合理使用如何界定，等等，这一系列问题目前也还没有办法解决。由此，还将产生另一个问题，即技术发展方是否应该去承担这份责任、如何承担，等等。这些对现有法律而言都是巨大挑战和难题。

《小康》·中国小康网：从技术角度分析的话，为什么会出现这么多法律上的难点和盲点？

钱靖：ChatGPT这种人工智能技术，根据它的基本原理，它实际上很大程度上是一个黑箱，人们能够看到的是输入和输出两端，但它中间的工作原理和机制我们并不清楚。它的结果是靠算力“烧”出来的，但为什么是这样的结果，它并没有一些经验性的总结，这也是它的处理方式和人类能够理解的处理方式不太一样的地方。在这里面，它没有一个特别稳固的中间载体，使得我们可以用一些传统的法律概念去进行保护。

在这种情况下，我们只能去抓它的两头，即输入和输出。这里面就会涉及到著作权的保护，知识产权的基本思路是用法律保护去换取人们的信息公开，从而有益于全人类。如果没有这样的法益保护，人们就会严格控制信息的扩散，不利于全人类信息共享。因此，我们的想法是，希望通过技术上的一些处理和法律上的一些要求，去创造这个技术的市场。简单说就是，我们是否能够去要求这项技术的发展方去提供ChatGPT究竟使用了哪些语料库、涉及哪些著作权等这样的信息，从而使得著作权人有可能去主张自己的权利。

提高个人法律意识迫在眉睫

《小康》·中国小康网：面对这样一项技术，面对这样一个时代，我们个人如何有效地维护自身的权利？

钱卫清：对个人来说，首先要有一个权利意识。大数据时代，我们每个人的行为，包括点外卖、出行等等，这些数据被一些平台收集后变成了他们的权利，好像和我们个人没关系了。但这是不对的。尤其是在未来人工智能时代和数据时代，我们要有权利意识。当然，这有个前提，就是这种权利通过什么媒介什么方法来实现它，也是需要思考的一个问题。总得来说，就是要提高个人的权利意识、法律意识、维权意识。

另外，涉及具体权利的话，它还有一个法律赋予我们的隐私保护、信息安全等这些相关权利的救济权，同一行业监管的标准是什么，这都需要通过典型个案进行提升，然后上升为法律规则。

《小康》·中国小康网：如何深化对ChatGPT的使用将会受到现有法律制度的制约。请问对于如何适时地制定什么样的法律法规，构建什么样的法律规范体系，您有什么样的看法和建议？

钱卫清：首先，从法律上，我们要认可它就是一个工具，不能因为发生了一些侵权等行为就禁止其发展。其次就是我们应该去研究认识人工智能这样的技术带来的权利义务变迁的规律，司法通过个案等进行有限度的介入，逐渐形成规则，完善立法，让老百姓知道这里面的权利边界在哪里，既有利于平台建设，又有助于人们权利保护，其中的利益平衡非常考验我们的司法智慧。现在我们还需要一些时间。

钱靖：我经常说的一句话是，在铁丝网出现之前，人们是很难去划分一个牧场的土地所有权。也就是我们需要借助一个低成本的技术手段去主张自己的权利，当人们维护自己权益的成本过高时，实际上是很难真正维护自己的权利。现在人工智能的发展已经达到了一定水平，对于商业主体而言，它已经具有了较强的盈利能力，但对我们个人来讲，个人信息、隐私保护、著作权等如何去维护还是一个问题。

在我们看来，区块链可能是一个比较好的解決方案，它可以帮助人们低成本的溯源数据，并向司法系统证明自己的数据是否受到侵害、被谁侵害等。以著作权为例。著作权保护在当今信息爆炸的时代是越来越难的。著作权备案登记的效力，因为不做实质审查，也一再受到质疑。为了保护大家的著作权，最好在创作完成后，第一时间选择可靠的区块链网络做好存证登记，这个已经是必备的动作了。

《小康》·中国小康网：目前，全球已有多国大学、科研机构发布明确的人工智能禁令，禁止学生和论文合著者使用ChatGPT这样的工具完成作业和论文写作。请问在您看来，现阶段，这样的做法值得肯定和推广吗？

钱靖：对于学校学生完成作业而言，这个我理解主要是为了锻炼学生的搜索、理解和推理能力。但是我很怀疑这个禁令的执行效果。如果事实上很难审查作业的结果是否来自ChatGPT的协助，那么这种禁令只会起到反效果，反而造成不公平。我的观点是堵不如疏，不如在学校开设ChatGPT使用的课程，由老师带领学生去一起探索使用这个工具的边界。经过探索后，我们再回过头来判断应该怎样去限制，或者哪些地方可以使用，哪些地方不应该使用，这可能是一个更好的选择。

钱卫清：一味的禁止并不合适。首先，它是一个新生事物，某种意义上代表着生产力的提升，有利于经济发展，我们应该拥抱它，而不是一味阻止。学校的做法可能更多的是担心影响学生的思维能力训练，但换个角度来说，要想用好这种工具，也需要一定的能力，这反而可能倒逼学生的思辨能力、认知能力、提出问题的能力的提升。当知识的获取变得很容易的时候，这种思辨、提问的能力提升反而可能成为今后学生的一个核心竞争力。

转换思维，积极拥抱新技术

《小康》·中国小康网：科技的每一次重大迭代都会引起人类的兴奋与恐慌。请问您如何预判ChatGPT这类人工智能的下一步发展？

钱卫清：ChatGPT是一个内容生成的工具，现在是3.0，未来还会有4.0，5.0，它可以替代部分简单的脑力劳动，提升脑力劳动的效率，也会替代部分行业的一些岗位，淘汰一批人。这是一个艰难的选择。对于一个国家来说，技术的进步将大大推动经济发展、文化发展、治理结构以及各个行业的更新换代和数字化、智能化。但对个人来讲，时代的一粒灰，落在每个人的肩头都是一座山。技术进步具有两面性，有推动生产力发展的积极一面，也有职业替代造成失业这样的负面影响。我们个人没办法抗拒技术的进步，只能转换思维，积极适应、学习、使用它，让它变成我们提高工作效率、改进工作方法的一个工具和伙伴。

钱靖：首先，ChatGPT的发展会非常迅速，因为它已经形成了商业上的闭环，有了可靠的估值模型，可以有很好的产出。所以后面会有大量的资本和新的数据进入这个领域。包括我们看到的各类竞品的开发投入，都在紧锣密鼓的上马当中。

其次，人工智能的发展会提供很大的人的便利，进一步把人从简单劳动中解放出来。这个有很多不同的看法，有些人认为人工智能别名大失业；也有人认为人工智能会让硅基文明取代碳基文明。但是，其实类似的革命性的技术进步在过去发生过不止一次。那么最近的这一次人工智能的技术革命可能会先把低端白领工作给解放出来，推动人们更多地从事高级的创造性的工作。对于个人来说，需要转换赛道；对于产业而言，这是个降本增效的必经之路；对于国家而言，需要做好掉队人群的社会保障工作。

最后，要做好面对人工智能的保护工作。除了提高保护自己的意识之外，也要熟悉和使用很多技术工具来保护自己，形成可信的价值传递。区块链很多情况下可以起到这样的作用。在一个信用被人工智能大量掠夺和冲淡的时代，区块链可以起到价值锚定的作用，成为传递信用的岛屿。有了矛，就要准备好盾，事物就是这样一层层递进发展的。