文生视频模型Sora热的冷思考

徐家林 钟迎珍

徐家林 复旦大学法学博士，中央编译局访问学者，现为华东政法大学马克思主义学院教授、博士生导师

Sora横空出世，意味着“未来已来”，它会带来哪些机遇，又可能引发何种风险？这不禁引发人们对人工智能的冷思考。

近日人工智能实验室Open AI推出了旗下首款创新性文生视频模型Sora，并发布了上百个模型生成视频，此事引起世界广泛关注。Sora的诞生不仅被视为文本生成视频模型迎来重大突破，也被认为是人工智能（AI）迈向“世界模型”的关键一步。

Sora可能引领新一轮科技革命和产业变革

Sora是继ChatGPT之后，大语言模型的又一現象级应用场景技术，被认为是一种革命性的技术变革。Sora的核心技术主要包括云计算、人工智能、大数据等。与以往AI视频生成软件相比，Sora的特点主要集中在视觉上，它不仅能够将寥寥数语的文本描述创建为最长达1分钟的高清数字视频，还能想象并模拟现实世界的动态，生成更符合人类认知规律的高清视频，因此也被人们赋予“世界模拟器”的称号。作为Open AI最新的突破性视觉技术，Sora模型能够通过深度学习与语义分析，准确理解用户下达的文本指令，并在生成的视频内容中高度还原这些指令，创造出特定的场景和角色，模拟人物与环境之间的相互作用等真实性世界运动，使生成的视频具有高度逼真性。Sora在视频生成的时间和质量上不仅实现了从ChatGPT-3.0到ChatGPT-4.5的迭代，也为未来视频创作者开辟了新的道路。有人认为，Sora实现了人工智能对现实世界的学习、理解和模仿，以人工智能为核心的第四次科技革命正在席卷全球，证明人工智能所孕育的颠覆性技术和革命性产品有望成为新一轮科技革命和产业变革的“领头羊”。

从元宇宙、ChatGPT 到 Sora，以人工智能为代表的新兴产业正在重塑人们的生活方式和社会发展方向。从技术创新来看，Sora展现了新的科技力量并有引领未来科技和产业发展的趋势。随着文生视频技术的日趋成熟和广泛应用，对于高端化、智能化算力、存储空间的需求将会持续增加，有可能会开创大模型在数学、物理、化学等基础应用学科研究上的先河，也可能会对无人驾驶、生物医药等应用研究产生深刻影响。从产业发展来看，由于Sora在生成视频长度、多角度镜头能力等方面有显著优势，势必将赋予影视、短视频、游戏开发、广告营销、教育培训等产业更多可能性，激发更多新质生产力。从劳动力市场来看，Sora发展的预期之一就是将弥补许多领域人类劳动能力的不足，其智能化和自动化特点会进一步使许多琐碎的工作被机器取代，人们从而可以获得更多的时间与精力将创意视觉化，进一步提高人们认识世界和改造世界的能力。

Sora发展可能导致的伦理困境、法律与社会风险

任何新事物特别是新的产业技术的出现，免不了会对人们原有的生产方式、生活方式、价值观念产生冲击。Sora的出现，人们纷纷在猜测、预估和思考，Sora对人类而言究竟是福音还是灾祸？其实，我们必须清醒，任何智能技术仍不过是技术，它们本身并没有善恶之别，关键还在于如何运用，其善恶还是取决于运用它们的人类，所谓的技术伦理和法律问题，关注的还是人的问题，关注人如何运用这些技术的问题。

Sora可能带来认知混乱。Sora遵循的是Open AI的规模理论——大量数据、大模型和大量算力的理论范式，利用数据与数据之间的相互关系，对现实世界进行映射、模拟，并据此制作出几乎达到“以假乱真”的视频。Sora的出现或将打破虚拟与现实之间的界限，人们或许会产生类似“盗梦空间”般的恍惚，导致认知模糊。不过，当我们冷静下来思考，Sora不过是对人类世界合理性现象的再虚拟，其创造的依然是拟像化的世界，并不意味其真的已经理解且可以重新创造真实的人类世界，人类不必过于担心拟像世界的真假难辨。

Sora可能带来的法律风险。就目前来看，由Sora运用产生的法律问题主要涉及信息安全、数据侵权和网络诈骗等问题。人工智能技术的迭代无疑是基于海量信息数据的收集、处理与学习，Sora作为一种大型视觉模型，其生成的视频内容少不了对他人信息、创意等素材的收集、使用，其信息收集、处理是否规范，是否经过授权，是否存在侵权问题，如何保护人们的信息安全值得关注。同时，Sora因其生成的视频内容为自动生成，极大降低了使用门槛，从而也降低了捏造事实、损害名誉和网络诈骗的门槛。

Sora可能潜藏的社会风险。随着Sora模型的日益强大，监视资本主义、数字资本主义将以更隐蔽的方式出现，劳动异化可能成为社会的重要隐患。任何技术进步，都会伴随着不可避免的社会风险。以Sora为代表的AI技术也是如此。当其得到广泛应用后，各类利用该技术实施不法操作甚至犯罪活动也可能会出现。同时，Sora的应用也会对就业市场造成冲击。Sora已经开始试图去理解客观世界，这是技术的巨大进步。在GPT-4发布后，很多公司已经掀起了“AI代替人”的裁员浪潮，而Sora的出现，可能进一步加速一些公司人员替代的步伐。另外，由于Sora具有灵活性生成的特点，用户在使用过程中可能会被灌输特定的价值观，这种隐秘的图像意识形态渗透方式将可能影响人们的思维方式。

理性看待和沉着应对Sora带来的新挑战

Sora是科学技术，但又不同于传统的科学技术。Sora在本质上是一项由人发明、受人控制、为人服务的科学技术。我们希望Sora坚持以人为本的发展思想，践行责任伦理，实现人与机器和谐共处的美好愿景。为了避免Sora可能引发的伦理问题，国家相关部门应当进一步加强对人工智能技术的监管和审查、包括确立一套安全评估体系，对Sora在生产、销售和维护各方面、各环节进行安全评估，确保其安全性；严格加强对Sora生成的视频内容审核，加强对著作权、个人信息的保护，防止出现恶意攻击、虚假宣传等现象；数据训练要遵守一定的道德准则，确保Sora的社会无害性；正确认识Sora的就业“替代论”，Sora等AI技术会推动人类就业的结构性调整，人类必须学会与AI协作；要提高人工智能科学家的道德责任，未来替代人类、伤害人类的不是Sora等AI技术，而可能是那些创造、使用这些技术及其产品的人。

相较于传统的社会风险，Sora带来的风险更为隐蔽，需采取综合治理，至少需要构建完整的治理体系，坚持党委领导、政府负责、社会协同、公众参与、法制保障的治理体制和治理格局。国家要加快制定针对性的法律法规，形成保证Sora规范发展的法律框架，为积极有效应对Sora带来的社会风险奠定法律和制度基础。加强智能技术伦理的研究和宣传力度，确立技术服务于人的基本原则，尽量避免算法歧视和算法黑箱情况的出现，最大限度降低Sora被滥用的可能。政府应加强“AI+安全”领域的实战型、复合型人才队伍建设，充分发挥高校、科研机构和民营企业在人才培养方面的优势，鼓励成立校企共同体，在实践中培养AI人才。人工智能研发者与生产商应增强法律意识和政治意识，自觉保持对意识形态问题的高度警觉。普通公众要提高科学文化素养和社会风险防范意识，加强对Sora的理性认知，辩证看待智能技术发展，既反对技术恐惧论，又反对技术崇拜论。

Sora虽然在算力方面有其优势，但在情感交流、社会互动与深度思考中不及人类。Sora本身还是技术，其工具的属性并没有根本性的改变。无论Sora未来发展如何，它始终源于人类的创造，也始终是人类智慧的延伸。

（钟迎珍系华东政法大学中国特色社会主义研究中心研究员）

编辑：薛华    icexue0321@163.com