曾毅：用可持续发展照亮AI善用之路

王秋蓉 于志宏

嘉宾简介

曾毅，类脑智能研究中心副主任、中英人工智能伦理与治理研究中心主任、北京智源人工智能研究院人工智能伦理与可持续发展中心主任。联合国教科文组织AI伦理特设专家组专家，世界卫生组织健康领域AI伦理与治理专家组专家。

技术始终是推动人类进步的重要力量。可持续发展目标的实现离不开技术的支撑，新一代人工智能技术（AI）作为引领科技革命和产业变革的战略性技术，更是被寄予厚望。从2017年国务院发布的《新一代人工智能发展规划》明确提出“推动以人类可持续发展为中心的智能化”，到今年越来越多机构聚焦AI 助力联合国可持续发展目标（SDGs），一股潮流正在涌现。

这股潮流之中，包括2018年成立的人工智能研发机构——北京智源人工智能研究院近期开展的一系列行动。6月22日，该研究院宣布成立面向可持续发展的人工智能智库，并发布面向可持续发展的人工智能（AI4SDGs）公益研究计划，希望通过新一代人工智能助力中国社会、经济和环境的可持续发展，推进全球可持续发展目标的全面实现;8月1日，该项公益研究计划在知名AI企业的资助与支持下面向全球发布首批项目申请。

8月3日，记者专访了中科院自动化所研究员、北京智源人工智能研究院“人工智能伦理与可持续发展研究中心”主任曾毅，共同探讨AI与可持续发展的全球动态和中国趋势。

Q |可持续发展经济导刊

A| 曾毅

推动AI for SDGs在中国是恰逢其时

Q：在新冠肺炎疫情蔓延之际，如何看待今年以来我国出现数个机构相继推动AI for SDGs的偶然性和必然性？

A：人工智能助力联合国可持续发展目标在国际上已形成共识，引起不同国家和地区的广泛关注，并得到大力推动。我国是负责任的创新大国，在人工智能方面也有一定的研发优势和产业优势，因此更应在实现人工智能助力全球愿景中做出应有的贡献。在新冠肺炎疫情期间，人工智能在防控疫情中发挥了重要的支撑作用，贡献于维护全球健康，可见AI造福人类的潜能巨大。因此，在我看来，今年在中国涌现出关注AI for SDGs的现象，是水到渠成、恰逢其时。

从我个人的角度，2019年有两件事对我触动很大，让我意识到中国AI发展不能缺少SDGs。第一件事是未来生命研究所2019年1月在波多黎各组织举办的“有益的通用人工智能2019（Beneficial AGI 2019）”国际会议。这是未来生命研究所第三次举办相关主题的人工智能系列会议，首次邀请中国代表参加，我和北大、清华以及来自腾讯等企业的代表受邀参加。从主题上看，2019年的这次会议主题已经不再停留在如何不让人工智能犯错，而是进一步思考人工智能怎么做才对，探讨实现通用人工智能对人类和生态的意义。

所谓通用人工智能（Artificial General Intelligence，AGI），是指人工智能的各项认知功能都达到人类水平。而在各项认知功能的表现都超越人类时，我们将迎来超级智能，即强人工智能（Strong AI）。现代的人工智能全部属于专用人工智能，即利用大数据智能分析、机器深度学习、语义知识推理等技术解决一个特定的问题，比如应对气候变化、识别特定类型的陆地和水下生物、推荐书籍与工作等。这次国际会议之所以聚焦通用人工智能，是因为专用人工智能未来必然发展到通用人工智能阶段，但是在这个过程中可能“走歪”，而通用人工智能若不能始终对人类和生态有益，则是危险的事情。因此，探讨如何发展人工智能使之向善、避免误用滥用，是非常关键的议题。

当时我深刻感受到，我们也亟需对人工智能将把人类带向何处进行深入思考和长远规划。这也是北京智源人工智能研究院创建面向可持续发展的人工智能智库和公益计划的重要原因。中国人工智能的发展需要与联合国可持续发展目标对接，在全球树立起中国新一代人工智能的发展支持可持续发展的全球愿景。

第二件事让我认识到如果缺乏利用技术解决社会重大难题的意識，拥有再先进的AI技术也没有意义。近期世界自然基金会（WWF）发布一份报告显示，2019-2020年发生的澳大利亚丛林大火，造成了近30亿只动物死亡或流离失所。这个数量近乎是地球上人类数量的一半，这样的灾难对于动物生态系统和生物多样性是极为沉重的打击，而我们几乎看不到人工智能等先进技术在阻止或降低灾难性后果上做出任何贡献，这是非常令人震惊和遗憾的。

正是这两件事让我迫切地感受到，无论是从国际趋势还是实际需求来看，都必须尽快引导中国企业AI发展走向助力可持续发展的轨道，推进人工智能的善用。而我个人很高兴看到今年越来越多志同道合者加入进来，合力推进中国AI for SDGs的落地和实践以及对全球的贡献。

AI发展从“安全”到“善用”的转变

Q：您是如何理解人工智能伦理与可持续发展？为何将人工智能伦理与安全研究中心更名为人工智能伦理与可持续发展研究中心？

A：去年5月成立的时候，命名为人工智能伦理与安全研究中心，初衷是想推动人工智能伦理和治理，发展安全有益的人工智能，避开人工智能可能引发的安全风险。今年更名为人工智能伦理与可持续发展研究中心，这是源自我们对人工智能发展理念的转变。“安全”强调人工智能发展的底线和红线，就是你不能干什么，应注意什么风险，但是我们更应该关注人工智能在确保安全的情况下应该做什么才是正确的，而可持续发展就是人工智能造福人类的正确方向。

我发现，现在很多企业与科研机构对可持续发展的理解存在偏差，认为只要做的事情跟联合国可持续发展17个目标相关，就是对可持续发展做贡献。其实不然，只有用可持续发展的视角推动AI for SDGs，才是对人类和生态长远发展有益。

比如，在“AI+教育”方面，将人脸识别技术应用于教室内学生表情、专注度等方面的识别虽然具有广泛的潜在应用场景，但却不是一个可持续发展的案例。即使表情特征能够通过计算准确反映学生状态，这类技术将有侵犯学生隐私的潜在风险，降低学生在课堂中的能动性，引起学生的反感，而此种情绪在整个教育阶段的积累甚至可能引起学生对人工智能技术的厌恶（如有相关技术的发展致力于使摄像头检测不到人脸信息）。所以，在我看来，表情的识别技术在教室里就是一种误用甚至是滥用，即使它跟SDGs相关。这并不是技术本身有问题，而是使用方式的问题。如果将其用于校园霸凌事件的检测，锁定冲突当事人，并辅以恰当的决策处理，就能够减少校园霸凌事件的激化甚至恶化。

因此，企业在利用AI推动SDGs时，要谨慎思考这一应用在实现目标的过程中对社会、环境的长期影响，在确定人工智能应用解决问题、达到效果的同时，还要评估负面、不可控的影响，避免可能的风险，才能有效推动人工智能助力可持续发展。

虽然SDGs领域的专家希望推动AI助力SDGs，但是技术本身或者商业本质，在操作的层面不免带来风险，对可持续发展目标的实现产生负面影响，希望引起各方的注意和重视，这也是北京智源人工智能伦理与可持续发展研究中心今后关注的重点。

构建AI利他之心至关重要

Q：您刚刚讲了AI对于实现可持续发展目标的负面案例。那么，您对于AI的发展有哪些思考和建议？

A：剑桥大学前年曾发起了“通用智能实现的不同途径及其可能存在的风险”项目，作为该项目国际顾问委员会的委员，我认为，任何一条人工智能实现的途径都有自己的风险，且风险类型是截然不同的。

有些人工智能研究仿生整个人类大脑，把人类好的坏的全都学了。我认为不能把人类恶的一面构建为人工智能的一部分，这是很危险的。在我的类脑人工智能实验室，正在开展人工智能风险防范的技术模型相关研究。比如，让人工智能系统可以换位思考，并具备认知共情和利他行为。我们在尝试构建人工智能模型，使机器人具有一定程度的基本自我意识，在此基础上发展认知共情和利他的认知功能，这是人工智能从智能体自身出发实现善用和对人类及生态有益的核心。

举一个极端的例子。比如，无人车送快递，如果给它的原则和指令是用最短的时间送最多的货。假设人工智能的程序設计不严谨，无人车为了短时间内获得更多的奖赏，看见小动物可以视而不见，对周围物体造成不可逆影响也是可以想象到的。但是如果人工智能具有思维揣测和利他机制，就可能避免这些问题。这不是天方夜谭，我们在技术上现在在做非常具体的探索。我认为，任何一个人工智能体都要有伦理框架，这是必选项。

应该说，人工智能伦理与可持续发展不是人工智能研究的一个分支，而是所有人工智能科研人员都应给予关注并付诸实践的，否则很难确保人工智能可持续的向善。

为AI从业者补上可持续发展这门课

Q：在您看来，我国人工智能从业者的伦理意识强吗？对于可持续发展的知晓度高吗？

A：可以说非常低。因为人工智能的从业者在教育阶段几乎没上过社会学课程，极少数的可能上过工程伦理课程，这就导致他们对于伦理所知甚少，绝大多数对可持续发展更是闻所未闻。从目前情况而言，我国人工智能的从业者缺的不只是人工智能伦理一门课，还有可持续发展这门课。因此，我认为大学应该开设人工智能伦理与可持续发展相关课程，引导高校本科生、研究生、博士生了解人工智能与SDGs，并能主动探索不同技术推进SDGs的实现，使每一个专业的学生在全球可持续发展愿景中都能找到自身的定位和贡献的方向与方式。

2018年开始，中国科学院大学专门面向工程领域的学生开设了人工智能哲学和伦理课程，希望他们了解人工智能是改变社会的使能技术。在这门课上，我跟学生说，有一件事，是我希望你们去做的，有一件事，是我希望你们不去做的，希望你们未来都能推动AI for SDGs，不希望你们利用人工智能开发致命性自主武器。

Q：正如您所说，在大学开展AI伦理和可持续发展的教学十分必要。那么，对于如今已经从事人工智能研究和实践的从业者，如何补上这一课？

A：这确实是我们要重视的问题。我国已经成为人工智能领域的超级大国之一，也是具有国际担当的负责任大国，AI从业者的理念要不断提升，与国际接轨。据报道，截至目前，内地人工智能领域的人才约有近7万人，对其进行教育和引导是实现AI for SDGs落地的关键。

关于如何补课，一方面各类媒体要加强对AI for SDGs的报道和宣传，提升社会各界的认识和了解;另一方面要加强探讨。每年我国都要举办不同主题的人工智能大会，建议这些大会开设AI for SDGs专题研讨会，深入探讨相关话题，凝聚共识，激发行动。今年北京和上海的人工智能大会都在初步尝试开展相关研讨，反响不错，我们要将这件事情持续性地做下去，真正发挥引导作用。

北京智源人工智能研究院今年6月发布面向可持续发展的人工智能智库、公益研究计划、国际协作网络，其中重要的目的就是引导更多的学者、企业共同参与和推动AI for SDGs。从某个意义上说，我们也是在将相关领域的学者和企业集结起来，为AI从业者“补课”。

AI for SDGs已经是国际共识，凡是有远见的人工智能企业都应该将其纳入企业发展愿景和战略规划，不会为了眼前的短期利益而牺牲人工智能对社会和生态带来的长远积极影响。北京智源人工智能研究院希望通过鼓励企业参与面向可持续发展的公益研究计划和国际协作网络（AI4SDGs Cooperation Network），向全球开放研究成果，特别是支持中低收入国家和地区、“一带一路”国家和地区，让中国的人工智能造福更多人，而不只是造福中国。我们一直强调，国际协作网络缘起中国，但不是仅为了中国，而是对世界各国免费开放，任何企业和学者只要愿意参与推动AI for SDGs，都欢迎加入。毕竟，SDGs是全人类的愿景，没有任何一个国家可以单独实现，需要各方合力推进。北京智源人工智能研究院和我们的合作伙伴希望通过自身的力量为推动AI for SDGs的全球愿景做出积极的贡献。

Q：您对未来我国AI for SDGs有什么样的期待？

A：新冠肺炎疫情对每一个SDG目标都造成了冲击，实现进程令人担忧，但是只要我们善用人工智能推进SDGs，2030年的美好愿景依然可期。更进一步地说，到2030实现SDGs并不是终点，而是更长远的人类社会与环境、生态共同愿景的新起点。我相信，人类在演化过程中将不断探索可持续发展，修正自身与环境、生态之间的关系，利用人工智能推进全球和谐发展，不仅是人类与技术的和谐，更是不同物种之间的和谐，从AI支持联合国可持续发展目标的实现到更长远、更广泛的面向可持续发展的人工智能的扩展与深化。希望未来通过各方的努力，我国人工智能的产业发展不只是关注商业盈利，还将建立更长远和坚实的愿景，推进贡献于全球社会、环境和生态的可持续发展。