人工智能的负责任创新研究

卢雨生

摘要：人工智能的发展极大地促进了社会的进步，但在发展过程中仍面临着局限。本文在介绍负责任创新的基础上，基于负责任创新四维度理论框架给人工智能的发展提供方法论上的启示。负责任创新理念是在一定理论基础上发展起来的，其对现实活动具有实践指导意义，因此对负责任创新的发展过程及实践的介绍也是必不可少的。

关键词：人工智能;负责任创新;责任

一、负责任创新的发展与实践

负责任创新（RI）理念并不是凭空产生的，而是在一定理论基础上的高度融合。首先我们可以在其他理论如责任伦理、技术评估中看到其相似之处，或是在实践中发现与其一致的观念。其次，负责任创新是对以往理论的一种综合，通过实践不断完善。负责任创新理念的核心即是“责任”。在英语中责任（responsibility）源于拉丁文（respondeo），其含义是对神的召唤的应答，与可回答（answerable）是同义的，意味着有能力承担、使之满意等。1在汉语语境中，负责任的行为大致分成积极与消极两种类型，所谓积极的负责任行为是行为者对具有内在价值的对象的主动回应，就如同康德在《道德形而上学》中所描述的，这是一种出于责任的行为，只有出于责任的行为才具有道德价值，这种行为不是出于行为主体的喜好与欲求的，而是出于对具有道德价值的事务的追求与持守，或者用康德的话说责任就是由于尊重规律而产生的行为的必要性。2消极的负责任行为则是被动遵守某些规范、条例，类似于康德的合乎责任。简言之出于责任是一种主动的责任，合乎责任则是无奈被动的选择。在实践中，主体大多采取合乎责任的行为模式，缺乏自主意识，难以出于自己的责任而承担更多。因此对于责任的解释更具有现实指导意义。

责任是一个既抽象又复杂的概念，具有多重意义，根据其意义可分为描述性责任与规范性责任、回顾性责任与前瞻性责任，对责任的理解也可分为消极性和积极性。对于创新而言，基于结果主义的责任观是重要的，但更需要转向一种积极的责任观，以应对创新本身的不确定性与风险性。3所谓描述性的责任是指明晰主体责任的形式，一般情况下有特殊指定的活动。在常规科学和技术发展的框架内，描述性责任是许多创新和研究实践所依赖的坚实基础。4但描述性责任具有一定的局限性，其发挥作用的前提需要一个相对稳定的条件，即环境、社会、经济等因素没有受到大的损害，只有这样才能在负责任创新中发挥作用。责任的规范性意义涉及对惯例和标准的评价，允许我们确立导致某种结果或事件链的个人或组织的责任。可以说，规范性责任是基于对好的（或其他标准的依据）以及被视为“善的”实践的规范性评价。5如果说，描述性意义所体现的是对责任的一种说明性，那么规范性意义体现的是一种指向于实践的规范性。因此，从实践的意义上来讲，规范性责任与RI最为相关——创新行动者应该依据怎样的标准和要求进行负责任的创新实践活动。6

负责任创新”可以视作“责任伦理”思想的积极拓展。自1979年汉斯·约纳斯（Hans Jonas）发表《责任原则——试论技术文明时代的伦理》一书以来，“责任伦理”在世界范围内产生了广泛影响。在对现代技术的可怕“权力”发出警示的基础上，借助于康德的绝对命令形式，约纳斯论证了当代人对未来人和“存在”的责任是一种出于义务的、积极的前瞻性责任;这种责任以未来为导向，即人们应该对其行为（特别是科学技术行为）的“可预见的后果”，甚至是“不可预测的后果”承担责任。责任伦理要求人们对自然生命与人类自身有着不可推卸的义务和责任，“在行为有很大风险时，绝不可将作为整体的人类存在或本质当做赌注”。然而，由于历史和理论的局限，“责任伦理”虽然喚醒了人们对人类“存在”风险的责任意识，提出了“恐惧的启迪”，但其基调更多地是一种抽象的形而上学责任观。也正是因为责任伦理的局限性，负责任创新才有大展拳脚的机会，负责任创新进一步丰富了责任伦理的内涵与意义，保留其核心前瞻性责任，向着更主动作为、积极的方向发展。

在负责任创新理念的追根溯源中，常涉及科学家与工程师伦理问题、科学研究对社会环境的影响。Stemerding、Gregorowius和Deplazes-Zemp分别指出TA、ELSI研究可以被视为“负责任研究与创新”的早期发展阶段和前身。传统的TA模式始于20世纪60年代末70年代初，并于20世纪70—90年代发展成为评估和调控新兴技术的主要方法。7格伦瓦尔德及其领导下的德国卡尔思鲁厄理工大学技术评估与系统分析研究所（ITAS-KIT）为代表。ITAS作为知名技术评估研究机构，致力于研究科学、技术与社会之间的复杂互动关系，对新兴科学技术的社会效应进行评估，通过组织专家商议和公众讨论等活动，为政府提供政策建议。8ITAS的主要研究领域有四个：环境与可持续性;创新过程和技术的影响;知识社会与知识政策;能源与资源技术系统。9技术评估的研究领域到现在也是指导负责任创新实践的主阵地，只是RI丰富了其内涵，不仅仅只强调评估，更在乎社会参与。多利益相关者合作、预期等维度。格伦瓦尔德在“负责任创新：集合技术评估、应用伦理学和STS研究”一文中指出10，负责任创新建立在技术评估的传统之上，包含评估程序、不同行动者参与、技术预见等内容，将伦理学——尤其是关于责任的方面——的反思加入到技术评估的各种方式和流程中来，同时还吸收了STS和STIS（指科学、技术、创新与社会）研究的理论成果，认为伦理反思和技术评估乃是科技研发项目中不可或缺的部分，科研资助机构和科学研究机构都开始主动将伦理反思和技术评估整合到他们的工作中，科技研发的治理过程也向更多的行动者、更多的反思角度、新的机遇和可能性开放。

大连港的负责任创新模式具有中国特色，也更符合中国国情和地方实际情况，大连港的负责任创新属于前瞻性的评估，并且是在政府宏观政策引导下，进行的自上而下的改革。大连港的负责任创新主要体现在对生态环境的有效保护，履行企业的担当，处理利益相关者的关系这几个方面。作为国有企业不仅追求经济利润，还把社会效益和生态效益统筹进改革规划。近些年来，大连港根据国家和上级主管部门的要求，分别实施了注重节能减排、注重企业责任、注重协调利益相关者相互关系等一系列发展战略。在节能减排与环境保护方面，大连港坚持走资源节约型、环境友好型的港口可持续发展之路，依靠绿色技术的使用和生态绿色实施项目的建设。使用绿色技术具体表现在：大规模采用“电场桥”技术，实施“油改电”技术改造，利用海水源热泵技术、绿色新能源技术、太阳能集热板技术。

大连港形成了“以强港兴市为己任，为股东、客户、员工和社会创造价值”的使命，秉承了“人为本、客为上、责为先”的核心价值观，本着“诚信、增值、安全、环保”的经营理念，为股东、客户、员工和社会创造价值，并建立了相应的企业社会责任评价监督管理机制。大连港的社会责任主要表现在诚信经营、关注顾客、安全生产、关心员工、社会公益等方面。在负责任创新具体案例中，大连港新港事故池工程坚持走自主创新之路，成立专家组立项研究。新港选址充分考虑成本、效率、环境等影响。大连港事故池充分结合新港区域的地形特点，巧妙利用已有设施，将新港区域内所有事故水收集设施串联起来，形成有机的系统，不仅使投资降到最低，更实现了“全覆盖、不遗漏”的目标。11

二、人工智能的发展局限和解决对策

与互联网、克隆、基因编辑等类似，人工智能作为一种颠覆性技术，其本身如同一把双刃剑，要让它在推动人类社会发展中发挥正向作用，趋利避害，关键在于科学治理。此前，国内外对于人工智能治理的探讨一直停留在“应该去做”的层面，这就是人工智能发展的第一个局限。新冠肺炎疫情期间，国内人工智能企业加紧技术研发，迅速实现了戴口罩人脸的高效识别。然而，这一技术在“走出去”的过程中遭遇了质疑，这让企业颇感郁闷。“类似是否需要戴口罩这类问题，中西方文化在理解上有着较大差异这种文化隔阂也限制了人工智能的发展，亟待解决。另外，单一主体管理也是人工智能的一个局限性。想要对人工智能技术进行有效监管，防止滥用，必须要有强大的技术手段作为支撑。在相关法律、规则、伦理尚未完全成型的前提下，产业界的深度参与让人工智能治理具有了更强的可操作性，企业正成为人工智能治理的主体。综上所述都是人工智能的发展局限，关于人工智能的解决对策应当是现在当下研究的主流。笔者认为应当从如下几个方面入手：

1.强化软件工程师等技术人员的责任担当

从预测的角度出发，对于整个技术的架构必须思考全面、客观。充分考虑相关利益者的诉求。在软件工程师嵌入代码等研发过程中要充分考虑社会、道德、法律等方面的影响。软件工程师受工科教育背景的束缚，工作中可能会轻视社会、伦理方面的问题，因此对人工智能的均衡发展产生不利的影响。若想解决人工智能的发展问题，强化软件工程师等技术人员的责任担当十分重要。

2.加强政府法律制度的支持

人工智能在法律制度层面上具有主体不明确、归责无标准、缺乏法律监管等特点。因此针对法律制度层面的对策应当在宏观维度上加强政府的支持，构建合适的道德伦理规则，并且规定研发人员在技术创新的过程中严格遵守规则。同时政府相关部门也应当提供前瞻性的伦理审查制度来规范人工智能在伦理道德问题方面的行为，此部分可以借鉴同有伦理发展困境的基因工程技术的发展经验。

3.增加利益相关者的参与度

在负责任创新的视角下，只有多元主体參与，客观理性分析，才能合理地确定技术的创新决策。因此一项技术从萌芽到发展再到成熟都离不开利益相关者的参与。在以往技术创新决策过程中，专家治理模式是主流。随着技术发展与社会生活的关系更加密切，依靠相关领域的专家决策显示出明显不足。当单一的技术问题结合社会和伦理问题时，就会变得十分复杂、难以解决，增加利益相关者的参与度或许是解决复杂问题的新思路。自动驾驶技术的发展涉及的多元主体有专家学者、政府管理者、企业、公众、媒体。由于每个主体所起作用的不同，承担的责任也有所不同。因此明确各主体的责任，是增加各主体参与度的关键。

4.培养企业的社会责任

企业是人工智能发展的推动者，但在传统商业领域多采取利益至上的商业眼光，即企业为了一己私利全然不顾社会公众的集体利益。例如领导权的争夺和专利大战，事实证明只有协商合作才是取得共赢的唯一方式。人工智能产业领导权的争夺导致各家企业加大研发投入，以便实现行业垄断。这对人工智能的快速发展是不利的。另外，在人工智能的发展黄金期，将更多的精力投入专利保护不利于技术创新。因此，人工智能所遇到的现实发展问题亟待解决。各个企业应当本着协商共赢的态度合作开发相关技术，让人工智能能够在更短时间、以更优惠的价格服务公众。

三、结语

人工智能的发展在长远的角度来说是可以促进人类社会进步的，但其发展的确面临着问题。负责任创新理念基于多元主体、协商原则，能够为人工智能的发展提供对策，同时也能为其他高新技术的发展带来方法论上的启示。

参考文献

[1] 王前.负责任创新的理论与实践[C].北京：科学出版社，2019.

[2] 大连理工大学.大连新港事故池工程环境影响报告书（简本）[R].大连：大连理工大学，2013.

[3] 贠兆恒，李建清.负责任创新语境下的责任解析[J].自然辩证法研究，2020.

[4] 廖苗.负责任（研究与）创新的概念辨析和学理脉络[J].自然辩证法通讯，2019.

[5] 晏萍，张卫，王前.“负责任创新”的理论与实践述评[J].科学技术哲学研究，2014，31（02）.

[6] 刘战雄.负责任创新研究综述：背景、现状与趋势[J].科技进步与对策，2015，32（11）.

本文系黑龙江大学2020年研究生创新科研资金项目

《人工智能的负责任创新研究》（项目编号：YJSCX2020-047HLJU）的研究成果。

注释：

王前.负责任创新的理论与实践[C].北京：科学出版社，2019：204-212.

2 康德.道德形而上学原理.苗力田译.上海：上海人民出版社，2018.

3 贠兆恒，李建清.负责任创新语境下的责任解析[J].自然辩证法研究，2020，36（10）：53-59.

4 Sophie P，Reber B.From Ethical Review to Responsible Research and Innovation[M].New York： John Wiley & Sons，Inc，2016.

5 Sophie P，Reber B.From Ethical Review to Responsible Research and Innovation[M].New York： John Wiley & Sons，Inc，2016.

6 贠兆恒，李建清.负责任创新语境下的责任解析[J].自然辩证法研究，2020，36（10）：53-59.

7 Grunwald A . Technology Assessment for Responsible Innovation[M].Berlin： Springer Science+Business Media，2014：15-31.

8 廖苗.负责任（研究与）创新的概念辨析和学理脉络[J].自然辩证法通讯，2019，41（11）：77-86.

9 Institute for Technology Assessment and Systems Analysis（ITAS） EB/OL]. https：//www.itas.kit.edu/english/index.php.2018-12-05.

10 Grunwald，A.'Responsible Innovation：Bringing together Technology Assessment，Applied Ethics，and STSresearch'[J].Enterprise and Work Innovation Studies，2011，7（11）：9-31.

11 大连理工大学.大连新港事故池工程环境影响报告书（简本）[R].大连：大连理工大学，2013.

黑龙江大学 哲学学院 哈尔滨 150000