警惕“智能超人”

王宿慧

作者：王宿慧，军事科学院研究生院，在读硕士研究生

人工智能，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术，以及应用系统的一门技术科学。其在研究人类自身智能的基础上，借助现代科学技术手段，增强人类智能或模拟人类智能，提高了生产效率、生活质量，以及决策的科学性和及时性。人工智能自1956年诞生以来，已进入并快速改变着人类生产生活的方方面面。在交通领域，人工智能系统通过对路口信息的分析判断，适时调整红绿灯间隔，缓解交通压力、减少事故发生概率，有效维护了人民生命财产安全。在医学领域，人工智能的专家系统使得医院对病人病情的把握快速精准，节约了病人的时间和金钱，使看病更有保障。在经济领域，人工智能使复杂的体力任务自动化，提高了生产率。可见，人工智能带来了巨大便利。

人类对世界的探索和开发从未停止，科学家们不断追求着单纯的科技进步，他们的愿望是世界和平、岁月静好，他们希望通过智慧推动人类社会的进步和发展。但科学技术的发展和应用史表明，技术有时会与人们的良好愿望背道而驰。历史多次证明，任何一项新科技的发展和应用，都是一把双刃剑，在给人类带来巨大利好的同时，也会产生一些次生的负面作用。

生化技术带来文明，但其使用也遭异化。第二次世界大战期间，日本法西斯专门组建了731特种部队，使用中国军民的活体进行生物武器与化学武器的实验，仅鼠疫一项活菌实验，就害死我同胞3000多人。这是利用化学和生物技术戕害人类的令人发指的罪行。现在，生化技术依然是禁止武器试验的主要领域。核技术带来了进步，也曾造成过人道主义灾难。原子弹对广岛长崎的毁灭性打击，切尔诺贝利核事故对地球环境的污染，始终是人类挥之不去的灾难记忆。现在，核武器依然是悬在人类头顶的“达摩克利斯之剑”。

当前，世界主要大国均把促进人工智能技术的发展和应用提升到国家战略层面，人工智能技术在全球范围、各个领域得以飞速发展，并逐步对人类社会产生巨大而深刻的影响。在军事领域，一些发达国家特别是美国已率先将人工智能技术应用到武器装备研发之中，以此谋求在未来战争中的代差优势和颠覆性胜算。为保护和扩大自己的军事优势，美国专门成立了联合人工智能中心（JAIC），将人工智能和自主系统运用到作战体系中，视为未来部队组成的核心。美国政府也先后出台多项措施，保证人工智能“领头羊”地位，从国家战略层面加紧布局，为人工智能更好地融入军事领域搭桥铺路。

物极必反，器满则倾。当人工智能发展到一定程度时，就可能拥有超越“自然人类”的智能，这些“超级人类”拥有意识、思维、记忆力、自我感知、自我学习等能力，且能实现自我提升。与一些人的欢呼雀跃不同，许多重量级科学家和科学团体，对人工智能的发展前景进行预测后表示担忧：“超级人类”可能对“自然人类”构成巨大威胁。

哈佛大学物理学家维纳斯-格罗斯博士在他的论文当中提出，未来具有自我编程的人工智能将得以自我完善，且这种行为是反复、单方面持续性加强的。当程序开始自我进化，势必会有一个质变的奇点，也就意味着具有感知地位的机器人已经出现。霍金教授生前对人工智能发展也表达了担忧：“我担心人工智能将全面取代人类。如果有人能设计出计算机病毒，那么就会有人设计出能提升并复制自己的人工智能。这就会带来一种能够超越人类的全新生命形式。”

基于这些预测，可以推断：一旦自我感知机器人或“超级人类”出现，对其所有的限定规则，均可能因偶然原因或必然原因而失效，进而造成对“自然人类”的巨大威胁。一旦“超级人类”和我们“自然人类”干上了，我们能够察觉隐患、排除故障吗？我们有把握取胜吗？也许有人说，这是杞人忧天。但是，发展出强人工智能甚至是超人工智能，只不过是时间问题。

习近平主席在9月17日致2018年世界人工智能大会的贺信中专门指出，“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题”。面对可能的科技威胁，我们必须未雨绸缪，在加快技术发展的同时，也要对其进行风险评估，以应对其负面效应的挑战，规避对其赋予过多的“拟人”能力。

摒弃传统观点，对人工智能的发展前景要有清醒的认识。图灵测试和众多人工智能技术水平量度方案表明，短期内尚难以实现超人工智能，但诸多合并人类智慧和机器智能的模式，已经能够独立感知基本情感颗粒，并识别陌生物体。谷歌旗下的波士顿动力公司曾发布一款“机器狗”（Little Dog），具有极强的自我学习能力，能通过分析过往的错误而加以改进。美国国防高级研究计划局（DARPA）也给Gamalon公司投下巨资，因该公司的核心技术实现了由机器自主完成概率编程。实践表明，人工智能已迈进自主学习、自我进化的大门。随着各国加快建立“人工神经网络”，人工智能“深度学习”能力不断加强，对其跟踪评估应是研发的重中之重。

制定相应的法规、研发反制技术，提高防范的方法和能力。美国制订了《人工智能未来法案》，对人工智能可能带来的伦理问题、社会问题和法律问题进行研究，以期为后续人工智能相关立法提供支持。由于人工智能的发展是基于互联网海量的“大数据”和各种信息的实时交互。因此，可通过加强网络安全来为人工智能的发展保驾护航，为其引入网络安全评估机制。根据《中华人民共和国网络安全法》和国务院《新一代人工智能发展规划》，完善与人工智能相关的网络安全等级保护制度；提高网络检测、分析技术；提高处理网络安全应急事件的处理能力。同时，促进世界人工智能技术交流融合，提高全球性联合应对人工智能潜在风险的能力。