无人区风景：数字经济时代的人工智能

何海锋 张彧通 刘元兴

更加广泛的AI商业应用场景、如雨后春笋般的AI创新企业和产业落地、持续有力的投融资支持，是人工智能第三次浪潮成功的关键。

2018年10月31日下午，中共中央政治局就人工智能发展现状和趋势举行第九次集体学习。习近平总书记在主持学习时强调，人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题;要深刻认识加快发展新一代人工智能的重大意义，加强领导，做好规划，明确任务，夯实基础，促进其同经济社会发展深度融合，推动我国新一代人工智能健康发展。

这意味着人工智能已经正式上升到国家战略决策和未来布局层面，成为影响国家未来的重要课题。可以想见，未来的大国竞争都将可能进入到一个以人工智能为核心的崭新的“无人区”。

2018年9月，美国2019财年国防授权法案就批准成立了人工智能国家安全委员会，其使命是“着眼于美国的竞争力、国家保持竞争力的方式以及需要关注的‘道德问题，审查人工智能、机器学习开发和相关技术的进展情况。”11月15日，德国政府在内阁会议上提出一项人工智能战略，计划在2025年前投资30亿欧元推动德国人工智能发展。12月7日，欧盟委员会在布鲁塞尔公布了欧盟的人工智能研发和使用计划，旨在打造欧洲自己的数据库，以期与中国和美国展开竞争;欧盟委员会与除了瑞士、挪威之外的各成员国一致同意，到2020年前在AI领域投入200亿欧元的资金，比2014年至2017年期间的投资高70%，而未来十年将一直维持这一投资水平。

诞生于二十世纪四五十年代的人工智能，一路走来，也是磕磕绊绊，几起几落，直到数字经济时代才焕发出前所未有的活力，获得“新生”。本文将探讨，这种“新生”是如何发生的？在数字经济时代，人工智能可能会带来哪些新问题？人类如何在“无人区”里与人工智能和平共处，共享福祉？

人工智能在数字经济时代的“新生”

世界人工智能发展有三次浪潮。第一次浪潮是从1956到1976年，标志性事件是人工智能（AI）这一术语在20世纪50年代的达特茅斯会议被确立、第一款感知神经网络软件和聊天软件被陆续发明、数学定理被证明，这个时期，“符号主义”盛行;第二次浪潮是从1976到2006年，标志性事件是20世纪80年代Hopfield神经网络和BT训练算法的提出、语音识别和翻译计划以及日本第五代计算机的提出，这个时期，“连接主义”盛行;第三次浪潮从2006年一直延续至今，其标志性事件是2006年Hinton提出的深度学习技术，以及2012年ImageNet竞赛在图像识别领域带来的突破。

前两次浪潮都破灭了，直到第三次浪潮才使得人工智能真正兴起。第三次浪潮，在时间上，恰恰和数字经济时代基本吻合。数字经济给第三次浪潮提供了两个成功条件——技术发展和商业应用。技术层面主要是人工智能三个要素——数据、算力、算法同时达到拐点，即数据呈现大数据化，计算机的算力飞速提升，算法得到极大优化;从商业层面来说，可商业化应用和落地场景远比前两次更为广泛，而且创业公司层出不穷，投资者也竞相追逐。可以说，在以大数据为核心的数字经济时代，人工智能获得了新生。

（一）以技术为基础的人工智能

除了机器学习、神经网络、自然语言、语言识别、图像识别、生物识别、智能硬件等以“算法”为核心的人工智能技术本身大发展的支撑之外，数字经济时代还为人工智能产业发展配套、加持了其他技术，如大数据、云计算、区块链、物联网等新兴数字技术。其中，大数据技术为人工智能产业发展提供数据生产资料，区块链技术为人工智能产业发展重构生产关系，云计算技术为人工智能产业发展提供运算能力，物联网技术为人工智能产业发展提供物理实体世界和数字虚拟世界无缝融合的连接点。

根据数字经济的发展趋势，可以大胆预测，人工智能将迎来第四次浪潮，那就是人工智能与虚拟现实的结合。算法预测使得时空可以接近静止，而与VR的结合，则使得时空虚实结合、变幻无穷，使得人们在时空自由穿梭和旅行成为可能，梦幻将最终来临。那时，物理实体世界和数字虚拟世界可以达到完全映射，即只需在虚实时空交互的赛博空间里运行虚拟数字虚体，发送数字指令，就可以完全驱动和控制物理世界的实体。

（二）以商业应用为推动力的人工智能

在数字经济时代，除了技术发展层面支撑以外，其在商业应用层面提供的三个得天独厚的条件——更加广泛的AI商业应用场景、如雨后春笋般的AI创新企业和产业落地、持续有力的投融资支持，是人工智能第三次浪潮成功的关键。

1.AI商业应用和落地场景日益广泛和细分。在“AI+”概念驱动下，AI技术在各个垂直领域（医疗、金融、电商、教育、农业、安防、家居、制造等）进行赋能，并全面开花，极大推动了人工智能的发展。依据MarketsandMarkets报告显示：全球智能教育、智能金融、智能农业、智能零售市场规模从2017到2023年左右都将有大幅度增长，在2023年左右将分别达到36.835亿美元、73.06 亿美元、135 亿美元、385.1 亿美元。

2.AI创业企业层出不穷。依据中国信息通信研究院的《2018世界人工智能产业发展深度分析报告》，截至2018年上半年，在全球范围内共监测到4998家AI企业，从成立时间来看，AI创业潮集中在2014年至2016年。

3.AI投资热度持续不减。依据前述报告，2013年以来，AI领域投融资规模情况持续高涨，2017年AI投融资总规模达到395亿美元，其中中国投融资规模达到277亿美元，占比70%，成为AI领域全球吸纳资本最多的国家。

（三）人工智能的“新生”影响——生产力的釋放

进入数字经济时代，“大数据”与人工智能的相互支撑和融合，必然继续拓展生产力要素的范围，导致现代生产力的公式范围扩展为“生产力=物质要素（劳动力、劳动资料和劳动对象）×精神要素（科学技术、管理和信息、分工、协作等）×市场因素（生产要素优化配置）”。作为生产力精神要素的人工智能技术，通过对物质生产力要素的嵌入式改造和融合来发挥其第一生产力的作用，相应地也会催生出以智能科学技术为标志的“智能时代”。

人工智能对物质三要素的渗透、改造、转化及其相应融合和拓展效应具体表现为：（1）劳动力方面，人体智能强化、智能机器人主体地位的确立和劳动力身份的重构;（2）劳动资料方面，生产工具的强化，具体表现为工具力量的提升——智能机械力，以及工具智慧的增长——算力、算法、数据、架构;（3）劳动对象方面，劳动对象或加工对象的广度、深度、范围因为智能科学技术而极大地突破和拓展了，具体表现为作为劳动对象或加工对象的自然界，可以将人类探索获知或劳动所及的范围大大扩展，比如粒子世界、外太空、多维世界、虚拟现实、时空隧道、高维体等。

此外，在数字经济时代，金融和技术融合是一种必然趋势，智能金融应运而生。智能金融，實现了对物质要素和精神要素之外市场因素之一的“资本”要素进行高效优化的智能配置，必然能促进数字经济的革命性发展，对经济产生极大的“涌现”效应。这是数字经济时代金融市场优化配置功能的革命性表现，是生产力进化的最高阶体现。

人工智能之隐忧

智能，一直是人类赖以自豪的“人之所以为人”的一大因素，所以，自人工智能诞生之日起，人类智能便是其模仿、超越的对象。这就是为什么Alpha Go战胜围棋国手，摘取了“人类脑力活动”的至高皇冠时会引起人类的恐慌。以“索菲亚”机器人为代表的人工智能体也始终从外形、声音、表情、肢体动作等方面尽可能地模仿人类。人类自己创造了另一类可能成为竞争者、对立面的“生物”。人工智能和人工智能体给人类社会带来了伦理、法律、经济等难题。这些难题有些已经有所展现，有些正在成为未来发展的阻碍。

（一）人工智能引发哲学疑问，带来伦理冲击

1.人工智能体、人工智能模糊了“人”与“物”的中间地带。一个明显的例子是，当智能体逐渐取代理财师、交易员和客服代表，当我们把自己的财富需求理所当然地交付给人工智能的时候，我们如何看待它？作为工具的它超越了一般工具带来的智能体验，甚至会模糊、混淆我们对于其“工具属性”的判断;但作为“交易对手”的它又的确是机械、代码所组装起来的冷冰冰的“机器”。人工智能模糊了情感判断，模糊了奖惩机制，将伦理带入了一个新的领域。

2.人类智能无法解开人工智能算法黑箱。近些年发展起来的人工智能大多基于深度学习。各种复杂的算法网络往往导致运算过程不可知、不可控，最终会形成人工智能算法的混沌自我决策机制。这种决策机制还可能导致价值判断的“反动”，即人工智能算法的“最优解”往往与人类社会的常识与伦理相背离。比如说金融算法中经常出现的算法歧视。

3.人工智能技术的发展带来了“工具伦理”的恐慌。人工智能正在逐渐脱离人类的认知和控制范畴，伴随而来的是对于未来技术的恐惧。人工智能被作为技术工具使用，其危害程度超越了一般的新型技术。

（二）人工智能打破法律链条，制造权责难题

1.从静态权利义务状态来看，人工智能以及人工智能体属于法律规范的主体还是客体，尚没有定论。按照传统产品责任法、物权法、知识产权法的观点，人工智能体或者算法是产品或者服务，开发出人工智能体、人工智能的公司或者个人享有所有权或者依照合同约定办理。难度最大的是人工智能可以“独立自主”地创造产品或者服务。在这个过程中，并没有凝结人类智慧和劳动。

2.从动态责任归属与追责的角度来看，人工智能一旦侵犯了人类的合法权益，追责难题伴随而来。人工智能是否可以问责，对谁问责，如何问责？与人工智能开发、维护、运营相关的主体承担什么样的责任？现有的“合同责任+侵权责任”的法律框架勉强可以把部分“弱人工智能”产品纳入。例如《资管新规》第二十三条规范了金融机构在运用人工智能技术时，“因违法违规或者管理不当造成投资者损失的，应当依法承担损害赔偿责任。”但是对出于人工智能自己的运算所形成的“意志”与“行为”如何追责尚不可知。比如，在竞争与垄断方面，智能算法可能会形成自我合谋，可能出于中立性却导致客观“违法行为”等。这方面的权利义务关系需要新的法律理论支撑。

（三）人工智能间接影响多元社会，重塑社会形态

人工智能的快速发展，首先给社会带来的是恐慌。理性思考之后，人工智能技术以及人工智能体作为数字经济时代的重要生产力，其对社会带来的效果中，促进多于抑制。但是与此同时，新技术的采用的确会影响财富的再分配，某些算法可能会强化“强者恒强、弱者恒弱”的二八趋势。

此外，人工智能还影响了人类就业市场，造成从业者的“饭碗恐慌”。根据2018年《世界银行报告》，技术的发展与使用可能会在一定程度上替代人力。毕马威与德勤有关人工智能和就业的研究结果显示，短期来看，中低端职业被替代的比例更高;长期来看，人工智能的使用与就业是相互促进的关系。技术的运用不仅改变财富关系和人力就业，还会给某些行业带来彻底的影响，变革行业模式。例如传统以经验为基础的金融风控被以大数据为基础的大数据风控所替代。人工智能成倍地提升了数据处理的效果，实现了对信用风险的精准分析，解决了信息不对称引起的逆向选择和道德风险问题，加速了金融产品和服务创新。

在前数字经济时代，以上问题可能还没有那么明显，尽管有一些已经在理论家脑海的想象之中。数字经济时代，面对海量数据，人工智能获得了丰富的运用场景。上述几方面难题，人格伦理、算法黑箱、法律权责以及行业生态都已经或者正在发生。比如，卷积网络技术的广泛运用，黑箱算法在许多领域都成为了迫切需要解决的问题，这在资本市场尤为显著。比如，运用神经网络进行资本市场投资的诸多人工智能算法可能会基于不同的策略出现同质化问题，这一问题的出现是正式算法演算过程无法窥探所导致的。另一个与人格伦理难题有关的发展方向是，向善的人工智能正在逐渐被人类社会用来对抗新技术运用的伦理所带来的张力。

在“无人区”与人工智能共舞

人工智能为人类所创造，并且为人类所广泛使用，“无人区”的范围将不断扩大。例如，根据世界知名的技术咨询公司Gartner的预测，30%的公司将在2020年前使用人工智能技术来增加至少一个主要销售流程，在2020年左右，人工智能作为网络工作“发动机”，将创造230万个工作机会，同时也会消灭180万个工作岗位;到了2021年，人工智能技术将产生29，000亿美元的商业价值，并节省62亿小时的人工;在2022年，五分之一从事非常规工作的工人将依靠人工智能来完成他们的工作。

随着“无人区”的拓展，人格伦理、算法黑箱、法律权责等问题也会进一步扩散，政府、公司、个人都应当制定相应的策略，以应对变化，做到与人工智能优雅地共舞。

（一）政府应当在促进行业良性发展、人才培养、社会治理等方面有所作为

一是在思维方面转向数字化、专业化、服务化。数字经济会重构政府的信息收集、获取、分析、使用，数据在各方面改变着社会形态，政府人员需要在思维上有所准备。

二是应当大力发展数字经济产业。推进产业结构调整、拓展创新空间都是推动数字产业发展壮大的重要抓手。产业发展离不开政府的推动。例如，早在20世纪末，美国克林顿政府提出“建设信息高速公路”，使得美国在网络发展领域占据了几十年的领先身位。在这一轮的数字经济竞争过程中，我国政府先知先觉，也通过《关于积极推进“互联网+”行动的指导意见》等政策矩阵促进数字经济行业发展。

三是积极做好数字经济的人才培养和就业促进工作。比如，政府要创新社会保险制度，合理分配社会各类主体的责任负担;政府还需要减少相关行政流程，提高人力资源市场配置效率。

四是在社会治理方面有效地涵盖各类社会主体，形成覆盖全社会的治理格局。人工智能有着极强的外溢效应，全社会都会受到该技术的影响。所以政府需要创新社会治理方式，把握向善的人工智能底线，改善社会治理。

（二）面对人工智能的变化和政府角色的变化，人工智能运用的绝对主体——社会企业始终处于数字经济的第一线，其角色和权责分配是重中之重

首先要注重直接投资人力资本。为了在人工智能技术创新中利于领先地位，企业首先要重视直接投资人力资本，聚集人工智能行业内的高精尖人才，形成规模效应。其次要关注基础研发。企业的基础研发能力是此轮人工智能创新竞争的原动力和核心竞争力。没有具自身特色和独有的研发成果，就没有竞争优势。再次要积极与政府、其他社会组织以及个人形成互动。互动是企业活动的重要内容。一方面要配合政府改革，在与创新相关的事务上加强与政府的沟通;另一方面要积极与员工、消费者等个人保持互动。

（三）个人是受人工智能冲击的最直接主体，也最应当做好数字化的准备

各类研究机构普遍认为不同层次的人才受到人工智能技术的冲击不一。世界银行和MIT都持这样的观点。还有很多人士担心人工智能对专业岗位的冲击，例如传统制造业向智能制造转型时的失业浪潮，智能大数据风控对传统风控业态的改变同时佐证了这一观点。人工智能对个人的冲击是结构性的，不用过于拘泥于技术冲击的细节。在數字经济时代，个人应当逐渐将自己向数字人才的方向转变。数字人才既是技能的数字化，包括掌握数字技术的人才;还是思维的数字化，是适应数字经济时代经济规则、社会秩序的劳动者。

参考数字人才的分析模式，我们认为，人工智能冲击下的个人应当兼具三类特征。第一，个人应当是了解、掌握人工智能技术的通才与专才。个人应当至少对人工智能的运用有所了解，大量的工作将会依托人工智能展开。这样才能够有应对人工智能技术发展的信心。第二，个人需要自我提升，不仅要了解技术知识，更需要掌握伦理道德与社会科学等通用知识。技术带来的变革是立体性的，思维、伦理、社会都处于剧烈变化中。个人了解符合数字经济时代的伦理道德与社会科学是正确应对的标准姿势。第三，个人要保持自身思维的独立性和团队协作的协调感。个人的角色在数字经济时代反倒会更加凸显，真正有创造力的是个人，保持思维独立性十分重要;与此同时，团队协作是工业经济时代所延续下来的宝贵遗产，有效的分工将会极大地促进个人价值的体现。

未来已来：迎接各种可能性

2017年10月17日，英国议会会场来了个机器人。日本软银机器人公司（SoftBank Robotics）开发的一个名叫Pepper的机器人作为特别委员会的证人出现在了下议院，与议员们探讨人工智能的兴起对劳动力市场的影响和教育的未来等问题。据说，这是英国议会700多年历史上第一次邀请非人类参会。这场发生在古老庄严的威斯敏斯特宫里的，由保守古板的英国议会发起的法律与科技、历史与未来的碰撞自然引起了广泛的关注，特别是在社交媒体上掀起了讨论的热潮。虽然事实远没有想象的那么戏剧性——这个机器人在会场上的发言都来自米德尔塞克斯大学的机器人研究人员编写的预编程答案，而不是机器人自己的发言，而且这些研究人员也都在同一小组中作证。因此，这场议会里的机器人秀更像是软银机器人公司的一个新产品展示，目的是帮助立法者了解这些新产品可能对劳动力市场和教育产生的影响。从这个意义上来说，这个机器人在议会里所“扮演”的角色和其他更广泛的“非人类”——一张照片，一盘录影带——并没有多大区别。

这次议会会议之所以引起广泛关注，主要是这个机器人背后所代表的人工智能技术，以及这一技术可能引发的直指人类本身的无限广阔的可能性。实际上，人工智能从诞生之日起，就被寄予或者强加了“人类解放者”或“人类替代者”的功能，而作为反面角色的“人类颠覆者”或“人类终结者”的想象也始终伴随左右。2004年，20世纪福克斯出品了改编自阿西莫夫小说的电影《机械公敌》，讲述了未来机器人给人类带来的福利和困扰。影片中描述的获得了自觉意识后的机器人的反叛让人刻骨铭心。我们面前的“无人区”，并不只有美好，而是充满了各种可能性。未来已来，我们都应当有所体认和准备。

（作者单位为京东数字科技研究院法律与政策研究中心）