人工智能发展及其影响

王滢波(上海社会科学院信息研究所助理研究员)

人工智能发展及其影响

王滢波(上海社会科学院信息研究所助理研究员)

1 人工智能的发展速度可能远超我们想象

什么是人工智能？Linda Gottfredson教授把智能定义为“一种宽泛的心理能力，能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。”超级人工智能何时会到来？从弱人工智能到强人工智能再到超级人工智能需要多久？目前主要有四种观点：

一是超级乐观派，例如Vernor Vinge教授、科学家Ben Goertzel、SUN创始人Bill Joy、明家和未来学家Ray Kurzweil以及机器学习专家Jeremy Howard等都相信超级智能会发生在不久的将来。

二是一般乐观派，例如微软创始人Paul Allen、心理学家Gary Marcus、纽约大学电脑科学家Ernest Davis，以及科技创业者Mitch Kapor等认为Kurzweil等思想家低估了人工智能的难度，并且认为我们离超级人工智能还很远。

三是悲观派，例如哲学家Hubert Dreyfus，超人工智能是不会被实现的。

四是不可知派，例如牛津大学的哲学家Nick Bostrom的结论就是说不准。

本文认为人工智能的发展速度将远超我们想象，因为人类固有思维存在惯性，人类的理性是有限的。不确定心理学的鼻祖——卡尼曼和特沃尔斯基在早期对启发式思维和认知偏差的研究中发现了人类的锚定思维。大部分人总是基于现状思考未来，无法看到变化和转折。人类社会发展符合指数规律，回想一下最近20年的变化和最近前200年的变化，这种加速发展的趋势非常明显。著名未来学家凯文·凯利的连接理论认为连接点越来越多技术就会呈现爆炸式的发展，因此随着人类的广泛连接，未来发展应该会超出我们预期。以IBM Watson为例，来自美国北卡罗林那大学医学院的人类专家让Watson分析诊断了超过1000例癌症病例。结果发现在超过99%的病例中Watson给出了和人类肿瘤科专家一样的治疗方案。不仅如此，因为能在数分钟内就阅读并消化数千篇文件，Watson还针对30%的病例给出了人类专家都没想到的备选治疗方案。IBM的全球副总裁陈黎明举例说，一位患有白血病的东京女性已经被医院判了死刑，但是Watson在10分钟内阅读了相关的4000米厚的医学资料，给出治疗方案救活了她。此外因为沃森能够全球联网，所以能够远程为边远地区、医疗资源匮乏的地区提供高水平医疗服务，也更凸显了它的社会意义和价值。目前，IBM正在和医学实验室Quest Diagnostics合作，提供云端存储的基因测序和诊断分析数据，世界各地的专科医师都可以获取这些信息以提高治疗水平。这种技术的发展其实已经远远超出了我们多数人的预期，未来可能会进一步加速。

2 人工智能会导致帕累托改进但短期会引发社会问题

人工智能的发展会带来帕累托改进，以更少的资源生产更多的产品，给社会提供更多的服务。虽然长期来看，所有人都将从中受益，但短期一定有人承受转型的阵痛。科技的发展会导致工作岗位的转换，短期内会导致大量的失业。竞争和平均成本的降低会创造出新的工作机会，但这中间一定存在时间差和个人适应能力的差异，并非每个人都能均等受益。例如无人驾驶短期内一定会导致大量失业，但这是经济结构改进和强化的必要条件。市场经济一定会导致马太效应，一方面科技巨头可以通过创新迅速获得大量财富，另一方面底层劳动力丧失大量就业机会。长期来看，科技发展会解决这种问题，但短期会造成诸多社会问题。长期来看目前我们几乎所有的工作都可以用人工智能来代替。那我们到时候干什么？资源如何分配？埃隆·马斯克提出了一种基本工资理论，但我们每个人仍然必须通过为社会提供服务获得相应收入，从而获得相应产品和服务，但由于效率足够高，满足生活所需的劳动时间会变得非常短。比如说，我们可能每月只需要工作一个小时，就可以获得基本生活所需，对于稀缺性资源仍然需要大量劳动才能换取，这也是技术进步的基本意义所在，通过提高生产效率更好地实现人类的价值，为人类提供更多的选择、自由和闲暇时光。

无人驾驶也会导致伦理、法律和哲学问题。机器代替了人，以前需要人承担的责任现在有谁来承担？那么未来是否由机器承担。假如说在车辆无人驾驶途中，忽然从山上掉一块石头，旁边有三个行人，应该怎么权衡？撞石头会危及车内乘客安全，撞三个行人会危及他人生命。无人驾驶如何设计这种机制，如何界定责任？什么样的伦理才是合适的？这需要更多的哲学家、法理学家集思广益。

3 人工智能会导致社会治理权力的转移

技术进步和经济发展会改变社会形态，人工智能也会改变目前的社会治理模式。社会的决定权会否会人的手中转移到数据手中？市场经济和个人主义其实是一个一体化的系统。资本主义生产力的发展导致宗教改革，权力从神转移到人，对人权的保护催生了契约式政府。但在算法面前，我们会忽然发现，我们的自由意志并不可靠，我们也会做出错误的决策。那么算法决定是不是可以避免这种错误？是不是可以帮助我们做出最佳的选择？但是这里有一个很重要的伦理问题：如果我们所有决策都依赖机器，人存在的价值是什么？个体化的差异如何体现？个人的自由意志还能得到尊重吗？

此外，如果算法足够强大，那么谁控制这个算法谁就能控制整个社会。诸如脸书这种公司可能会决定我们生活中的一切，本质上对我们现在的社会治理体系是一种颠覆。人们可能会重回专制和计划经济时代，个人选择权怎么体现。我们能否选择不信赖算法，还是被强制要求一定要遵守算法的结果。无差异的完美社会是否一定优于有差异和缺陷的社会？自由意志是不是应该得到尊重？这个是人工智能时代一个非常关键的问题。如何在人工算法和自由意识间如何进行权衡？对此，人类简史作者、历史学家尤瓦尔·赫拉利在《未来简史》中提出了一种赫胥黎式的反乌托邦主义，他指出了三大方向：人类将失去他们的经济和军事用途，经济系统将不再有价值；对系统来说，人类整体将具有价值，但个体将没有价值；然而，系统将在一些个体身上发现价值，“但他们将成为一个超人的新物种，而不是普通大众”。赫拉利这里所说的“系统”指的是生物科学和信息技术以当前极快速度发展下去产生的新的社会。

超人的新物种指的是什么呢？人工智能也可以用于改造人类，也就是所谓的Cyborg（改造人），可以把人类变得更强大，但同时也会加速人类的分层。不是所有人都可以进行改造，也不是所有的改造都是相同的。金钱可能成为最终的衡量标准，而且会进一步加大阶层间的分化。比如电影《钢铁侠》的盔甲和他的人造心脏肯定很贵，一般人负担不起。这种改造人已经不是正常人类，它们拥有比我们人类有更强大的能力。普通人人类在它面前就成了另外一个新物种。最终可能是改造人占据统治地位，然后是机器人，最后是普通人。普通人可能最终走向奴役或灭亡，而改造人则会永生，他们会掌握普通人的命运。所以马斯克说，人类可能沦为人工智能的宠物，也许并不是危言耸听。

4 对人工智能的担忧暂不影响其发展

2016年10月13日，美国白宫科技政策办公室（OSTP）下属国家科学技术委员会（NSTC）发布了《为人工智能的未来做好准备》（Preparing for the Future of Artificial Intelligence）和《国家人工智能研究与发展战略计划》（National Artificial Intelligence Research and Development Strategic Plan）两份重要报告。前者探讨了人工智能的发展现状、应用领域以及潜在的公共政策问题；后者提出了美国优先发展的人工智能七大战略方向及两方面建议。其中第一份报告的主要观点包括：

（1）对人工智能的担忧暂不影响当前政策；（2）政府随时监控技术发展；（3）呼吁美国政府加大资金支持；（4）全体公民准备接受人工智能教育；（5）预防机器产生偏见；（6）致力于确保人工智能的“道德”；（7）致命性武器难以预测。霍金说AI可能成为我们人类历史上最大的错误，就像潘多拉盒子一样，一旦打开，就再也收不回去了。但政府似乎对此并不担忧，由于无法基于预测确定公共政策，当前美国政府的态度还是支持人工智能发展，但会密切关注其中可能发生的风险。从政策的角度看，美国《世界政治》杂志刊登了一篇文章《Safety First: Entering the Age of Artificial Intelligence》，认为我们可能无法避免AI带来的灾难，原因是：首先，因为避免灾难是一种全球公共产品，所以市场在此方面投入不足。其次，短期选举周期这种压力确保了政治家们基本上没有什么动机为其主要受害者（今天的孩子们和未来几代人）目前无法投票表决的各种事件而投资于预防性政策。第三，在一种更加明显和更直接的挑战背景下，决策者们很容易驳回该问题，而且更容易忽视它。