悄然拥有“自主意识”的人工智能

八由草

从《流浪地球2》中的莫斯、机器狗笨笨等，到从年前火到现在的聊天机器人ChatGPT，上线仅2个月，月活用户便超过1 亿……人工智能实在太强大啦！相信大家不禁会对人工智能产生种种好奇：以现有的科技水平，人工智能是否真的能够拥有自主意识？它又会对人类社会产生什么影响呢？

影视剧里的“宠儿”

在《流浪地球2》中，表现抢眼的机器狗笨笨是月面工程类机器人，其带有感知设备和工程手臂。然而，它在太阳风暴时会用“小毯子”将自己藏好；虽然怕血、怕水，但还是会跟随主人进行救援，就像拥有了自主意识一样。除了智能机器人，在《流浪地球2》中，另一个亮点就是“数字生命”。电影中，科学家图恒宇曾参与“数字生命计划”研发，他的女儿丫丫因车祸去世后，意识被上传到量子计算机550A中，经历了400多次迭代，达到拥有“自我意识”的程度。而在影片中出现的能够和父亲对话的丫丫“副本”，更是迭代了900 多次。我们可以简单理解为，数字生命存在于计算机系统中，只要系统不出现故障，理论上可以永远存活下去，并且能和现实世界同频共振。

不过， 最让人印象深刻的估计还要数《流浪地球2》的片尾彩蛋。片尾的彩蛋中，量子计算机莫斯让图恒宇不要再称呼自己“550W”，而是叫自己“莫斯”（MOSS），或者称呼自己“小苔藓”，并解释自己创造了一系列危机企图毁灭人类。莫斯在电影中提到了一个词——人在回路。丫丫的数字备份上传后，莫斯说，它进行了“人在回路”学习。所谓“人在回路”概念，也是现在计算机智能的一个分支。但从这里可以看出，人工智能莫斯产生了自主意识，并且已经不再满足于成为人类的工具，而是要鸠占鹊巢，霸占人类的文明。

現实世界的“网红”

“人工智能”的英文全称为“Artificial Intelligence”，缩写为“AI”。“人工”非常好理解，指的就是经过人类活动创造出来的成果。那么，“智能”又是什么呢？这是一个非常难以准确描述的概念。在人类智慧的范畴内，智能所涉及的意识、自我、思维等，一直都是自然科学、哲学乃至神学研究的焦点之一。对于人工智能，我们只能将其定义为研究、开发用于模拟、延伸和扩展人类智能的理论、方法、技术及应用系统的一门技术科学。

而电子计算机、软件程序及机器人与人工智能之间的确存在着密切的关系。简单地说，电子计算机为人工智能提供了硬件基础，软件程序是人工智能实现的主要方式，而机器人则是人工智能的应用成果。

相信不少同学肯定注意过，2022 年北京冬奥会期间，央视新闻数字人手语主播聆语准确播报；腾讯公司也推出了一个叫“Dream Writer”的自动化新闻写作机器人，只要用1 分钟就能编写出文字流畅、数据翔实的稿子；如今火遍全球的聊天机器人ChatGPT 更是让我们见识到了人工智能更加智能的一面。

ChatGPT 是一个原型人工智能聊天机器人，专注于可用性和对话，打开之后，只需要在对话框里输入问题，就可以获得答案。当然，如果只是最基础的问答功能，那真是低估了它的本领，ChatGPT 在工具性方面展现出了惊人的能力，写论文、写代码、写神经网络、做智能音箱……它都能一气呵成。因此，ChatGPT 再次引发了一场热议——ChatGPT 的功能如此强大，连马斯克都认为“我们离强大到危险的AI 不远了”。

AI与人类唯一的鸿沟

回到影片中，不管是丫丫“副本”还是量子计算机莫斯，它们都已经具有了自主意识，而现实中的人工智能虽然五花八门，但是似乎距离拥有自主意识还很遥远。具备“意识”，意味着人工智能能够发展自己的世界观、价值观以及作出价值判断，并且根据这些进行自主决策。显然，人工智能距离拥有自主意识还比较遥远。目前，人工智能所生成的所有内容都是人类赋予的，它们并没有自主决策能力，更没有所谓的“自主意识”。

人工智能想要拥有自主意识的核心是“类人”水平。在未来，人工智能的最高境界是机器能自己教会自己，具有学习能力甚至语言能力，这也是目前科学家设想的“终极算法”。终极算法，也就是能从任何数据中学习的计算机程序，简单来说，就是人工智能的学习能力，能对未知的数据进行分析。例如，给出抛物线运动的数据，终极算法就能学习牛顿力学定律；给出DNA 数据，它就能推理出双螺旋结构；给出大量癌症病人的生理数据，它就能准确诊断癌症，甚至推荐药物……终极算法的基础是理解人类大脑运作的同时，能模拟人类进化。

学习这件事，对人工智能来说，只有依靠算法。但它可以不吃不睡，不间断地学习，犯了错也不会一蹶不振，唯一要担心的，可能是疯狂的运算会让它“烧昏了头”。但只要更换零部件后，它又是一条“好汉”。

未来世界的忧思

人工智能是敌是友？人们对此抱有不同的看法。

有人认为，人工智能的崛起，是人类的福音。有了人工智能，人类将更幸福。随着人工智能在我们日常生活中越来越常见，我们有理由相信，人工智能会带给我们更多便利，节约我们更多时间。

不过，还有人坚信“人工智能威胁论”，就连许多著名科学家也都表示，人工智能很危险。英国已故知名物理学家霍金曾说：“对于人类来说，强大AI 的出现可能是最美妙的事，也可能是最糟糕的事，我们真的不知道结局会怎样。”在这些人看来，人工智能的出现是人类的悲哀，会让人类的发展呈倒退趋势……甚至有人觉得，当计算机“超越”了人类智力，它们之后肯定会做一件事儿，就是让自己变得更加智能，最终把人类甩在身后。那么，在未来，人工智能极有可能会操控人类，引发人与机器人之间的战争。

牛津大学计算机学院院长、人工智能顶尖专家迈克尔·伍尔德里奇在其创作的《人工智能全传》中表示，人工智能不会超越人类，但我们依然要迎接人机共存带来的改变和挑战。比如，人工智能将取代我们的一部分工作，这就需要我们思考未来的工作结构。再有，即使人工智能不会消灭人类，但致命的人工智能武器确实值得我们深思。