困境与超越：人工智能的伦理审视

董子涵?任凤琴

摘  要：人工智能技术发展到21世纪，对现实社会的影响力与日俱增。但是，人工智能技术在带给人们全新生活体验的同时，也面临着人权困境、道德困境、责任困境及代际困境等伦理困境，而人工智能伦理制度缺失、人类主体责任意识淡薄及人工智能技术发展欠缺，则是产生这些伦理问题的主要原因。文章针对人工智能技术面临的伦理问题，提出价值引领、道德养成、制度规约及技术规范等对策，以期解决人工智能技术的伦理困境，引导人工智能朝着正确的方向发展。

关键词：人工智能；伦理困境；伦理审视

中图分类号：B82；TP18 文献标识码：A DOI：10.19881/j.cnki.1006-3676.2023.06.09

作者简介：董子涵，女，1999年生，硕士研究生，研究方向：思想政治教育创新与发展研究。任凤琴，女，1977年生，硕士，教授，硕士生导师，研究方向：思想政治教育。

“人工智能”自1956年在达特茅斯学会上被提出以来，历经三次高潮、两次寒冬，已成为21世纪最为前沿的技术之一。当前，人工智能技术在人类社会中扮演着“二重性”的角色：一方面，人工智能技术广泛应用于现代社会的各个领域，以高效率、高质量、智能化的方式推动了人力劳动的解放，促进了生产技术的变革；另一方面，人工智能技术的发展对当前社会生产关系中的伦理关系产生了重要影响，并对现实的伦理原则和价值观念造成了一定的冲击，引发了诸多伦理道德问题。如何识别、防范、管理这些人工智能带来的伦理风险，已成为人工智能时代的世纪难题。

一、人工智能面临的伦理困境

人工智能的产生和发展为人们带来了前所未有的便利和经济效益，但其作为一种深度合成类技术，自身所携带的不确定性不容小觑，当其深度应用于人类社会生产生活中，必然会对当下的社会伦理关系产生一定的冲击，引发人权伦理、道德伦理、责任伦理以及代际伦理等伦理困境，为将来社会发展埋下隐患。

（一）人工智能面临的人权伦理困境

近代以来，“人工生命”的相继问世，引发了关于人权伦理问题的探讨。高速发展的人工智能科学，为之前只能重复简单机械活动的机器人赋予了“人性”，使其成为拥有相当程度感知能力的“人性”智能机器人，而这些具有“人性”的智能机器人的出现，对“人权”造成了一定程度的挑战，主要体现在以下3个方面：

第一，人工智能的发展削弱了人类的主体地位。《人类简史》中提到，“人工智能技术的快速发展必然导致无用的阶层的兴起”，与之相对的是少数精英阶层。[1]人工智能融入社会生产生活的方方面面，取代人们完成了大部分工作，而习惯于被人工智能辅助的大部分人，则会逐渐沦为“无用的阶层”，这无疑是对人类主体性地位的一大挑战。

第二，人工智能的发展威胁了人类的隐私安全。从当前人工智能的发展情况来看，其已经可以利用大数据收集汇总人类的日常对话及行为等简单信息，从而对人类的思维想法进行解读。同时，人类的行踪也将会落入人工智能技术掌控者的眼中，毫无隐私可言。

第三，人工智能的发展，限制了人类自由而全面发展的权力。人工智能技术大规模应用于社会生产，促进了社会分工的细化，同时也提高了行业门槛，导致人们在日常工作、生活中只专注于某些领域的提升，丧失了全面发展的条件和意愿。在日常生活中，人工智能技术加持下的短视频、直播行业方興未艾，各种粗制滥造的影视作品充斥着人们的生活。人们被裹挟其中却不自知，久而久之，可能会丧失合理批判社会现实的能力，削弱人的主观能动性，由“自由而全面发展的人”变成“单向度的人”。

（二）人工智能面临的道德伦理困境

科学技术的进步，使互联网时代成为过去，人类社会已经步入人工智能时代。人工智能技术不但能够创造出模仿人类、具有智能化的产物，改变人类的生产生活方式，而且能够触发社会深层次联系的重大变革。既然人工智能能够引发人权问题的激烈讨论，那么当人工智能体与人体愈加相似时，对其社会道德地位进行客观定位就很有必要。

道德地位是人类区别于其他生物最主要的特质，当人工智能技术发展到一定高度，特别是被赋予了“人性”后，在道德地位层面，人类就没有理由不赋予其相应的道德地位。而如果将其纳入人类伦理道德体系内，就意味着人类对人工智能产品也具有了道德方面的义务与责任。不过，人工智能产品是否能够承担起相应的道德义务与道德责任，却无从得知。

如果人类简单否定人工智能产品的道德地位，就意味着人类可以用任意方式和手段对待它。例如，指使工厂中的智能机器人不分昼夜地进行繁复劳作，随意羞辱或指责服务行业的智能机器人等。一旦这样的场景在未来反复上演，人类将何以坚持传统的道德伦理？人工智能技术产生的现实异化，不仅使人类难以确定对人工智能的定位，也削弱了人类作为伦理行为主体的影响力。

（三）人工智能面临的责任伦理困境

人工智能技术发展产生的责任伦理困境，主要表现为由人工智能引发的事故责任难以判定。例如，近年来无人驾驶汽车发展较快，如果无人驾驶汽车在运行中引发交通事故，那么是由无人驾驶汽车制造商承担责任，还是由无人驾驶汽车的操作者承担责任？无人驾驶汽车作为没有生命的个体，应如何判定或承担相应的责任？现有的责任判定都是基于人的行为，至于人工智能的责任划分，迄今为止没有统一的定论和法律规定。

如今，人工智能已经融入生活的方方面面，在医学领域中，如果为病人进行治疗的机器人出现医疗事故，那么这个责任应该由谁来承担？在工厂中大量使用机器人，造成失业率持续上升，这个责任又由谁来承担？进一步来说，当人工智能技术发展到一定高度，人工智能越来越“智能”，这些超级智慧的机器人已经拥有学习能力和自我意识，那么出现问题，责任应该如何界定？责任伦理强调科学、公平地分配责任是社会良性运行的前提[2]。从当前的实际情况看，人工智能技术的确能够深刻改变人类社会的生产生活，促进社会的数字化、智能化发展，但技术发展所引发的责任伦理困境也会在一定程度上阻碍智能技术与人类社会发展的共生关系。因此，人工智能的责任划分问题仍有待进一步探讨，如果要使人工智能技术得到长期稳定发展，那就要求在对技术进行考量时，将技术置于伦理框架内。

（四）人工智能面临的代际伦理困境

社会伦理关系是一个纵横交错的伦理结构，对它可以从横向的、共时的角度加以审视，也应该从纵向的、历时的视角加以剖析。从纵向的、历时的视角所揭示的社会伦理关系，具有明显的代际特征，因此，这种伦理关系可用“代际伦理”来加以界定。[3]全球化进程的推进及科技的日益完善、成熟，使现代化的社会家庭结构随之发生了翻天覆地的变化。在大范围使用智能机器人的背景下，人类代和代之间产生的问题也更加明显。

第一，沟通方面出现问题。带有陪护功能的人工智能机器人进一步普及，推广和使用范围进一步扩大，人与人之间的交流与互动逐渐朝着智能陪护机器人和人类之间的交流、互动发展。人类对人工智能的依赖性越来越大，甚至对其寻求情感寄托，这将会严重阻碍人与人之间的交流往来，不利于人们的身心健康发展。

第二，可能会引发代际混乱问题。当前，人工智能依旧处于接受指令并执行的阶段，现今仍处于弱人工智能时代。但同其他新兴技术一样，人工智能未来的发展仍然具有极大的不确定性。从代际伦理的角度说，如果智能机器人大量存在于人类社会体系中，没有相关法律措施进行管理，就很容易产生社会群体代际混乱等方面的问题。事实上，这只是人工智能在伦理层面所出现问题的冰山一角，一旦人工智能技术发展到一定高度，具备了自我意识及自主学习能力后，人类的社会伦理将如何看待，人类的代际伦理又将如何发展，都将是人工智能所要面临的困境难题。

二、人工智能伦理困境的成因

人工智能技术发展至今，已经不仅仅是一个独立的技术系统，而是作为人类社会生产生活的一部分与政治、经济、文化系统紧密相连。通过对人工智能发展所面临的伦理困境追根溯源，探寻其产生伦理问题的根本原因在于人工智能监管规则缺失、人类主体责任意识淡薄以及人工智能技术发展欠缺，只有透过问题的表面究其本质，才能真正解决问题，突破困境。

（一）人工智能监管规则缺失

科学技术的发展要推动人类社会的进步，就必须符合社会道德的原则，即伦理规则。人工智能作为一种新兴的科学技术，在发展过程中面临着人权、道德、责任等伦理困境，仅仅依靠公众舆论及科学家的自身约束，是无法突破这些困境的，还需要更有力的方式解决这些问题。

在人工智能发展的早期阶段，美国科幻作家阿西莫夫就人工智能发展的技术规范问题提出了著名的“机器人学三定律”。[4]但随着时代的发展和人工智能技术的不断突破，关于人工智能技术的法律法规，却尚未形成一个完备的法律体系。首先，对研发人工智能产品的相关人员、人工智能产品的相关运营商及人工智能产品的消费者，目前尚没有明确的法律条文规定其所拥有的权利和义务，这在很大程度上将可能导致人工智能面临道德责任主体、道德判断等方面的伦理问题。其次，对人工智能产品不正当利用而产生的环境伦理问题、国际纠纷问题，尚没有明确的法律条文及相关法律案例可供参考。最后，对人工智能技术发展的规范问题，尚未形成一套科学化、理论化、系统化的监督体系，人工智能产品的设计、研发及使用的监管方案缺失，既没有国内外公认的验收标准，也没有人工智能技术的应用指南，这与人工智能技术的飞速发展是不相匹配的。

（二）人类主体责任意识淡薄

人类主体的责任意识不强，是导致人工智能时代面临伦理困境的一大原因。一方面，科研人员作为人工智能技术的研发者，天然肩地负着部分社会责任，这就要求他们必须具备一定的职业责任感和道德责任感。而某些科研工作者受到政治因素与经济利益的影响，忽视了应有的道德责任，不能以正确的价值导向指导其工作，从而导致伦理问题产生。人工智能在发展过程中产生的许多问题，是可以控制甚至避免的，但有些科研人员却经受不住利益诱惑，缺乏职业责任感，将人工智能运用在不正当或存在伦理争议的活动中，引发伦理问题。另一方面，人们研发人工智能技术的一大目的在于利用它，当人工智能的使用者责任感淡薄，道德感低下，也会引发一系列伦理问题。某些人工智能技术，如大数据技术、AI换脸技术、VR技术、AR技术等，其研发之初的目的在于方便人们的生产和生活，但某些使用者无视法律和道德的约束，利用大数据平台等一系列人工智能技术窃取他人隐私、倒卖他人信息甚至“换脸”开展诈骗活动。人工智能作为高新科技，其本质是一种工具，对人们认识世界、改造世界的客观活动起辅助作用，本身不具备“好”或者“坏”的性质，它所带来的正面或负面外部效应都是由它的研发者和使用者决定。因此，有必要增强人类应用主体的责任意识、增强道德观念，促使人工智能健康向上发展。

（三）人工智能技术发展欠缺

人工智能的应用，归根结底是技术应用，人工智能技术发展的不完善也是导致人工智能面临伦理问题的重要原因之一。一方面，人工智能技术还没有发展完善，本身具有一定的局限性，导致事故频发。当前，人工智能技术已经应用到各行各业当中，在为人类带来便利的同时，也引发了许多事故灾难，这表明当前人工智能技术的发展并不完善。当然，人工智能的发展时间较短，其技术发展仍处于初级水平，也使当前的技术还无法解决其出现的伦理问题。另一方面，人们过度追求经济利益，也导致了对技术的价值理念认识产生偏差。德国哲学家马克斯·韦伯提出工具理性与价值理性的观点，工具理性强调的是人类通过理性的计算，自由选择手段的合理性和有效性，而不管目的是否恰当；价值理性注重行为本身的价值，而非注重行为手段和结果。[5]不可否认的是，在现实社会中，人们越来越重视工具理性，做事情讲求效率和利益，忽略了对客观事物及其规律的正确把握和认识。人工智能本质是一种技术，对于其发展，要重视价值理性与工具理性相统一，要使价值理性为工具理性提供精神支持。如果一味追求技術发展和经济利益，重视其工具理性而忽略其价值理性，对技术的价值理念认识产生偏差，将可能会使人工智能技术面临一系列伦理困境。

三、破解人工智能伦理困境的对策

人工智能技术作为新一轮科技革命和产业变革的核心驱动力量，在为社会提供强大发展动力和支撑平台的同时，也暴露出一系列伦理问题。新兴技术革命的不确定性更是加重了科技伦理治理难度[6]。科学技术虽然是自然科学大范式下的理论与实践，但仍然离不开人文社会科学的规范和引导，人工智能伦理困境的突破也是如此。

（一）坚持正确伦理观念的价值引领

个人行为和决策的产生，是由其内在价值观所决定的。要解决人工智能伦理困境，首先就是加强思想引领，以正确的伦理观念感化人和引领人。

第一，应坚持马克思主义科技伦理观，正确运用科技的力量，推动社会发展。马克思主义始终坚持历史唯物主义的观点，将意识的物质前提与现实的历史文化背景有机结合起来，坚持有条件的认识论和方法论。在批判资本的过程中，马克思特别强调物质生产力的巨大革命作用，重视科学技术、机器工具的强大改造力量，但马克思不是“物质主义者”，更不是“机器决定论者”，他否定了机器的“纯物质性”，而是强调机器的本质不是一个“经济范畴”，只有实现与“人”（劳动力）的结合，机器才可能实现其本身的价值和力量。[7]人工智能技术的发展纵然面临重重伦理困境，却也不能直接将其“一刀切”，应以社会不同领域、不同行业的现实条件，规范系统地推进人工智能技术的发展。

第二，应坚持新时代中国特色社会主义科技伦理思想引领，注重科技创新，推动社会生产力的提高。党的二十大报告提出，“必须坚持科技是第一生产力、人才是第一资源、创新是第一动力”“完善科技创新体系”。在重视科技创新的同时，也应注重科技伦理对技术进步的护航作用，坚持科技要为人民服务。在人工智能的发展过程中，应“整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德”[8]。因此，在人工智能时代，应嵌入“以人为本”的伦理道德原则，对科技发展进行价值引导和伦理规约，促进其可持续发展。

（二）提高民众文化素养和道德责任

人工智能技术研发的初衷，是为人类生活提供便利，正确认识人工智能是科技进步、时代发展的需要，同时也是全人类的职责所在。

一方面，应提高民众的文化素养，使其能够正确认识人工智能。随着“人工智能威胁论”的不断扩散和各种人工智能影视作品的泛滥，部分民众对人工智能的印象变得扭曲，直接加深了人工智能伦理问题的严重程度。第一，应使广大民众认识到人工智能实质是一种“技术”而不是“法术”，其本身也没有优劣之分。第二，应使民众意识到人工智能是人类研发的，其目的是方便日常的生产生活。目前，人工智能仍处于弱人工智能时代，人工智能并不会像科幻电影中描述的那样，反过来控制人类，甚至取代人类。第三，应加强宣传，普及人工智能知识，引导人们树立客观的评价标准，学会辨别错误的信息和言论，不盲目跟风，这是解决人工智能面临的伦理困境的重要方式。

另一方面，应增强科研人员的道德责任感。人类是一切科学技术的创造者与推动者，人工智能的发展方向与相关科研人员的推动促进密不可分。科研人员作为引领人工智能技术发展的先驱，比人工智能产品更需要伦理规范的约束。第一，应培养其奉献精神和责任担当，引导其积极思考、不断反思，遵循科学活动本身的伦理道德规范。第二，应对其科学活动的社会后果进行客观、公正的评价，承担起相应的社会责任，阻止和终结违反人类文明发展的科学研究，加强对用户隐私安全的保护，科研人员与生产企业要严格遵守国家的法律法规、行业标准，树立客户至上的理念，保障用户的信息安全[9]。第三，应加强对科研人员的道德评价与社会监督，对违反法律法规和社会伦理规范的科研人员进行惩戒，以起到警示和震慑其他相关科研人员的作用。

（三）完善相关法律制度与监督体系

无规矩不成方圆，坚持以正确的伦理观念进行价值引领仍不能排除有不法分子利用人工智能进行违法犯罪活动，这就要求加强人工智能相关法律制度与监督体系建设，使其突破伦理困境，从而健康有序地发展，实现科技向善。

第一，应通过制定相关法律法规规范人工智能技术的发展。当前，人工智能技术发展迅速，为保证人工智能产品在社会中的顺利应用，关键在于制定相关法律条文规范其行为。一方面，应制定人工智能在相关领域应遵守的行为准则，在人脑芯片研发、声纹识别、面部识别、智能机器人和无人驾驶系统的研发、应用等方面制定严格的使用标准和安全准则，使人工智能产品的研发和应用“有法可依、有法必依”。另一方面，对人工智能技术应用过程中所产生的负面问题，应以法律的形式科学规定责任归属，并根据相关法律标准和实际情况进行调查分析，确定问题出现的环节，判定责任归属，建立起一套完整、科学的责任判定体系。因此，对人工智能所面临的伦理困境，亟须政府和相关部门组织引导，总结并出台相关法律法规及相关案例的适用规则促进其规范健康发展。

第二，应构建人工智能技术监督体系，降低其未来陷入伦理困境的风险。首先，在人工智能产品研发环节，应确保其研发和设计理念不侵犯人权，不违反社会道德伦理观念，不会对生态环境造成威胁。其次，应延长人工智能产品的试用期，确保其技术成熟后再投放市场，并随产品附带详细的使用说明书。最后，应建立起完善的人工智能产品售后服务体系，分析解决好消费者使用人工智能产品过程中所遇到的问题，并在以后的研发设计制造中避免产生该问题。总之，针对该领域相关产品的每一步流程，都应对其进行严格监督和管理，以此降低其今后可能面临的伦理风险。

（四）促进人工智能技术自身的发展

人工智能技术的不成熟，是引发其伦理风险的重要原因之一。人工智能技术发展到现在，已跻身为世界尖端科学技术之一，早已融入生活的方方面面。在巨额成本和各类人力物力的加持下，人工智能仍有很强的可塑性和光明的发展前景。因此，应加强国际技术交流与合作，促进人工智能技术发展。各国可根据自身的科技实际情况，总结自身技术优势，切实解决人工智能技术目前存在的一系列问题，从而提升该技术的可塑性和安全性，有效防范伦理风险。2017年，国务院印发《新一代人工智能发展规划》，表明人工智能的发展正式上升到国家层面，国家鼓励人工智能领域核心技术的發展，并积极寻求与发达国家围绕人工智能进行合作交流。此外，还应加强交叉学科领域的探讨。尽管人工智能已经在生活中发挥了巨大效用，但并不能就此否认其所面临的一系列伦理困境。对科研人员来说，其考量人工智能产品是否达标的主要因素是技术因素，对人工智能技术面临的伦理、道德、法治环境等问题，还不能面面俱到。这就需要大量法学专家、伦理学专家积极参与，与相关科研人员共同探讨和考量人工智能技术的发展规范，充分认识到某些人工智能技术一旦被不合理应用，对社会、环境及人类本身造成的冲击，从而有效规避人工智能的不可控性，降低其伦理风险。

四、结语

笔者分析了人工智能面临的人权、道德、责任及代际伦理困境的表征和原因，从价值引领、制度保障、道德养成及技术规范4个方面提出了相应的突围路径，以期能对人工智能的伦理治理提供可参考借鉴的思路。同时，人们也应意识到，在人工智能面临种种困境的当下，仅仅依靠学术探讨是不足以解决问题的。人工智能未来要获得更大的发展，应立足实践，具体问题具体分析，真正做到科技向善和为人民服务，这也是推动科技创新和人类社会向前发展的必由之路。

参考文献：

[1] 崔志根.人工智能伦理困境及其破解[D].北京：北京邮电大学，2021.

[2] 程东峰.责任论—关于当代中国责任理论与实践的思考[M].北京：中国林业出版社，1994：24.

[3] 廖小平.论伦理关系的代际特征[J].北京大学学报（哲学社会科学版），2004（01）：37-44.

[4] 阿西莫夫.我，机器人[M].北京：科学普及出版社，1981：1.

[5] 闫坤如.人工智能技术异化及其本质探源[J].上海师范大学学报（哲学社会科学版），2020（03）：100-107.

[6] 劉如，张惠娜.“一体两翼”科技伦理治理体系的构建路径及策略[J].科技智囊，2023（03）：65-69.

[7] 李琼琼，李振.智能时代“人机关系”辩证—马克思“人与机器”思想的当代回响[J].毛泽东邓小平理论研究，2021（01）：71-79，108.

[8] 推动我国新一代人工智能健康发展[J].科技传播，2018（21）：3.

[9] 胡明艳，谭润民.陪护机器人伦理问题及对策建议[J].科技智囊，2022（09）：70-76.

Dilemma and Transcendence：An Ethical Examination of Artificial Intelligence

Dong  Zihan    Ren  Fengqin

（College of Marxism，Shandong Agricultural University，Shandong，Taian，271018）

Abstract：With the development of artificial intelligence technology in the 21st century，its influence on the real society is increasing day by day. However，while bringing new life experience to people，artificial intelligence technology is also confronted with human rights dilemma，moral dilemma，responsibility dilemma and intergenerational dilemma，and the lack of artificial intelligence ethical system，the weak consciousness of human subject responsibility and the lack of artificial intelligence technology development are the main reasons for these ethical problems. In view of the ethical problems faced by artificial intelligence technology，the article proposes countermeasures such as value guidance， moral cultivation，institutional guarantee and technical norms，so as to solve the ethical dilemma of artificial intelligence technology and guide artificial intelligence to develop in the right direction.

Key words：Artificial intelligence；Ethical dilemma；Ethical examination