人工智能技术异化及其本质探源

闫坤如

摘 要： 马克思从人的异化和物的异化来阐释劳动异化，人工智能技术异化是马克思主义异化的当代表现形式，随着人工智能技术的发展，加深了人的自我异化危机，导致人类的主体性危机以及人类交往的异化形态。文章尝试从人工智能技术本身的原因以及人对技术的应用来追溯人工智能技术异化的思想源泉，从人工智能社会的数据主义盛行、客体主体化、算法权力化等方面深入分析导致人工智能异化的技术根源，从工具理性的泛滥与价值理性的缺失的主体性原因分析其思想基础。

关键词： 异化;劳动异化;人工智能;工具理性;价值理性

中图分类号：TP18

文献标识码：A

文章编号：1004-8634（2020）03-0100-（08）

DOI：10.13852/J.CNKI.JSHNU.2020.03.009

人工智能（以下简称“AI”）技术的广泛应用在促进社会进步的同时，负面效应凸显。例如，机器人应用导致失业现象，AI应用导致贫富差距现象，AI算法导致歧视现象，大数据的应用导致隐私泄露、人类精神生活退化现象，等等，这些都是随着AI技术的应用带来的社会问题。AI应用本来是为了造福人类、解放人类，帮助人类获得自由的，却导致人类依赖机器，受机器控制，产生异化现象。通过对异化理论的追溯，并结合马克思主义劳动异化的表现，本文旨在分析AI技术异化的本质问题。

一、异化理论的研究嬗变及表现形态

1.异化理论的追溯

“异化”一词来源于拉丁语alienatio，原意是让渡、疏远、脱离等。最早在神学中使用，用来表示信徒疏远上帝。后来逐渐应用到政治学领域和社会学领域。在政治学领域，“异化”表示权利的让渡。例如，霍布斯（Thomas Hobbes）在《利维坦》中讨论人类把自己的权利让渡给他人;卢梭（Jean-Jacques Rousseau）认为，如果人类要从自然状态过渡到政治状态，必须让渡自己的一部分个人权利，形成公共意志（general will）。卢梭在《论人类不平等的起源和基础》中论述了人如何由“自然状态”下的自由、平等，异化为“文明状态”下的被奴役、不平等。他指出：“由于私有制和法律的建立，不平等终于变得根深蒂固而成为合法的了。”

卢梭：《论人类不平等的起源和基础》，李常山译，商务印书馆1997年版，第149页。在社会学领域，异化表现出与他人、与社会等分离、疏远的意思。异化概念在法学、医学、心理学领域也有应用。异化在法学上的含义为转让、让与，有表示权利和财产的让渡的含义。在医学、心理学领域，异化则表现出精神错乱、精神病等含义。

“异化”作为哲学术语出现在17、18世纪的唯物主义启蒙思想家的著作中。费希特（Johann Gottlieb Fichte）用“fremd（异己的）”一词表述“自我”与“非我”。黑格尔（G. W. F. Hegel）也在哲学含义上使用“异化”，他区分异化（Engfremdung）和外化（EntauBerung），外化包含了劳动与各种社会活动相结合的复杂的主客关系，表征主客体的对立关系以及辩证运动。黑格尔在《精神现象学》中将“异化”作为“绝对精神”运动的内在机制，认为“绝对精神”发展到一定阶段就会转向自己的对立面，外化出异己的并制约自身发展的力量。费尔巴哈（Ludwig Andreas Feuerbach）将异化与人结合在一起，他在《基督教的本质》中指出，宗教的本质是人类“异化了的自我”。

2.马克思的劳动异化理论

马克思在批判和吸收黑格尔的异化思想、费尔巴哈的人本主义异化理论的基础上建立起劳动异化理论。他吸收和超越了黑格尔的“异化”与劳动之间的辩证关系，结合资本主义大生产，揭示出异化的本质是劳动异化，从而形成了劳动异化思想。

马克思的劳动异化理论主要体现在其著作《1844年经济学—哲学手稿》《神圣家族》《德意志意识形态》以及《资本论》等著作中。马克思认为，异化是人类在发展过程中创造的物质的或精神的东西，它成为异己的存在力量，并反过来控制、奴役人类自身。在马克思看来，异化包含两层含义：一是劳动异化必须从主体出发产生客体，二是客体与主体相对立并成为异己的统治主体的力量。马克思主要从劳动产品（劳动结果）与劳动者相异化、生产活动（劳动过程）与劳动者相异化、劳动者与他的类本质相异化以及人与人相异化四个方面阐释了他的劳动异化理论。下面我们就从这四个方面来分析马克思劳动异化理论的具体表现。

第一，劳动产品（劳动结果）与劳动者相异化。在马克思看来，劳动产品本来应该属于工人，但是因为私有制的缘故，劳动产品被资本家占有，资本家通过支付劳动者工资的形式掩盖了占有劳动者的劳动的事實。劳动者生产的产品“作为一种异己的存在物，作为不依赖于生产者的力量，同劳动相对立”。

马克思：《1844年经济学哲学手稿》，人民出版社1985年版，第48页。劳动产品同劳动者相异化，这是从劳动结果的视角对劳动异化表现的陈述。

第二，劳动过程同劳动者相异化。劳动者具有劳动能力，劳动过程是劳动者自愿付出、自我满足的过程，劳动过程应该没有外在压迫，是自由的，但是在资本主义生产关系中，劳动者的生产行为发生了变化。由于资本主义采取机器化大生产，机器开始支配人，人成为机器的一部分，甚至沦为机器的附属品，劳动不再是劳动者自我满足的过程，反而成为劳动者的负担。首先，劳动者的劳动是非本质的劳动。劳动者在劳动中不承认自己，觉得不幸福、不自由，“肉体受折磨，精神遭摧残”;

马克思：《1844年经济学哲学手稿》，第50页。其次，劳动者的劳动是被强制的劳动。劳动成为劳动者为了满足生存需要的一种手段，劳动者不劳动将无法生存;再次，劳动者的劳动是受他人支配的劳动。在资本主义生产过程中，劳动者在劳动中丧失了自身，失去了自由，产生了自我异化。劳动过程同劳动者的分离主要是从过程视角来考察劳动异化的。

第三，劳动者与人的类本质相异化。马克思认为人与动物的区别在于人有意识，人的类生活是有意识的自由活动，在劳动者的劳动结果和劳动过程异化之后，人就被降低为一种动物性的存在。首先，劳动成为人类维持肉体生存的手段。人的劳动不是有意识的劳动，“异化劳动把自主活动、自由活动贬低为手段，也就是把人的类生活变成维持人的肉体生存的手段”;

马克思、恩格斯：《马克思恩格斯文集》（第1卷），人民出版社2009年版，第163页。其次，人的精神类本质的异化。马克思认为劳动是劳动者自由、精神愉悦的活动，但在异化劳动中，劳动者不再具有劳动的主动性和愉悦性，劳动成为精神折磨;再次，人的创造性类本质的丧失。“劳动用机器代替了手工劳动，但是使一部分工人回到野蛮的劳动，并使另一部分工人变成机器。”

马克思：《1844年经济学哲学手稿》，第50页。人成为非人，并把非人的本质看成了人的本质，人丧失了自我实现的能力维度，人不再具有劳动的主动性、创造性。异化劳动让人的类本质异化了。

第四，人与人相异化。马克思认为在异化劳动的环境中，劳动产品不属于劳动者，却被异己力量资本家所占有，劳动使劳动者痛苦，资本家却通过攫取剩余价值享有无上的权力和快乐。劳动者生产出异己的人——资本家，这就是马克思劳动异化中人与人的异化。

通过前述分析我们可以看出，马克思劳动异化理论的第一个部分——劳动结果同劳动者相异化指的是物的异化，马克思异化理论的后三个部分指的是人的异化。在马克思劳动异化理论中，不管是劳动结果、劳动过程还是人的类本质异化，都是人的“自我异化”。马克思劳动异化理论由人的自我异化和人与人的异化两个层面构成。马克思把劳动异化的根源归为私有制和机器化大生产：生产资料资本家私人占有，劳动者失去了生产资料，机器化大生产的生产方式最终导致了劳动异化的出现。人类创造出机器本来是为了使人的生产和生活变得更美好，但机器却成为“它者”，成为异己的力量，人类被机器控制，受机器约束。在步入AI时代的今天，AI技术让机器取代人的劳动成为可能，如果模拟出人类智能，机器甚至将取代人的主体性地位。如果这些可能变为现实，那么人类将失去自由意志，失去幸福，AI的“利维坦”将使人类生活变成“敌托邦”。

二、AI技术异化——马克思异化理论的新呈现方式

AI是继蒸汽机发明、电气技术、网络技术应用之后的第四次工业革命。蒸汽机技术的应用实现了物质的自由移动，电气技术的应用实现了能量的自由转换，网络技术的应用实现了信息的自由传递，AI技术的发展与前三次工业革命具有同样的颠覆性作用，它的应用促进了社會进步和人类发展，但也带来一些意想不到的后果：越来越远离人类的控制，也就是AI技术的异化。

1.AI算法与算法设计者的分离

AI算法是AI算法设计者的劳动产品，然而在现实中，由于研发设计AI算法的生产资料即资本并不掌握在算法设计者的手中，AI算法设计者不占有AI算法，算法设计者也没有随意修改或支配算法的权利，算法设计者能够拥有的只有算法的部分使用权。算法设计者创造了AI算法，但是算法的所有权、支配权、使用权都不属于算法设计者。AI算法与算法设计者相疏离，这就是马克思所说的劳动产品和劳动者的异化。算法设计者设计的算法越完美，AI产品就越智能，在生活中的应用就越广泛，就越背离它的创造者，并极可能成为设计者的敌对力量。

2.AI机器加深了人的自我异化危机

随着AI机器被广泛地应用到人类生活的各种场景中，人的技能对生产的影响越来越小，相较于传统的机器生产，AI机器加深了劳动异化的广度和深度。

首先是机器取代人的危机。AI机器因其技术优势（决策速度快、准确率高、不受环境影响等），正在人类的生产和生活中被日益广泛地应用。比如，合成智能机器通过算法进行自主学习，能够自动分析和处理各种复杂数据，形成认知和决策，AI算法正在逐渐取代各种复杂技能的工作。工业机器人因其高效、自动化、智能化的特点，正在取代生产线上从事简单重复性劳动的工人;便捷、快速的移动支付正在取代银行雇员;医疗机器人正在取代部分医生;家政机器人已经登堂入室取代家政人员;无人机正在取代从事危险、繁重以及琐碎的低智能工作的“蜘蛛人”、分拣工，等等。劳动作为人的最基本的能力和权利，却面临着被机器剥夺的危险。人类正在逐步丧失部分劳动能力和劳动机会。

其次是机器控制人的危机。AI技术控制人的现象已悄然出现。据调查，半数网民对AI技术产生依赖。各种智能手机和智能App犹如“技术多巴胺”控制了部分网民的生活，让他们对技术产生强烈的精神依赖。AI技术像鸦片一样让人类痴迷，深陷其中不能自拔，“技术成瘾”正在控制部分人的行为、情绪、心理、社交等。AI还通过智能互动、智能推送等方式满足不同个体的个性化需要，从而控制人的精神世界，让人沉溺、上瘾，大量侵占人的休闲时间，使人的精神在泛娱乐化、泛消费主义的大众文化中日益被物化和匮乏化，人类的精神自由的丰富性被消解。正如弗洛姆（Erich Fromm）所言，“过去的危险是人成为奴隶，将来的危险是人可能成为机器人”。

弗洛姆：《健全的社会》，欧阳谦译，中国文联出版社1988年版，第370页。弗洛姆的这一预言正在成为现实。

AI技术不但控制了人类生活，还控制了人类工作，AI技术提供了新工作机会和新岗位，但是这些工作大多需要人来配合机器完成。比如，高铁在自动行驶中，为了安全需要，高铁司机必须每30秒踏一次踏板，否则高铁的自动驾驶系统就会减速停车，人类行为必须调整到配合高铁的自动驾驶，人类被机器控制。马克思说：“人只有在运用自身的动物机能——吃、喝、性行为等等的时候，才觉得自己是自由活动，而在运用人的机能时，却觉得自己不过是动物。”

马克思：《1844年经济学哲学手稿》，第51页。在AI机器控制的情况下，人被迫成为维持机器运转的齿轮，丧失了劳动的能动性和创造性。“在机器跟前的工人只专注于直接的目标，无暇也无兴趣去整个儿地思索生活。”

卡尔·雅斯贝尔斯：《时代的精神状况》，王德峰译，上海译文出版社1997年版，第42—43页。

AI机器加深了人的自我异化危机，无论是AI取代人的部分劳动还是部分控制人的心理和行为，都使人处在一种受支配的和不自由的生产关系中，在这种生产关系中，劳动是被动的、外在的，不属于劳动者自己，并反过来成为控制人类自身的力量。

3.AI机器加深了人的类本质异化

AI技术发展正在潜移默化地改变着人的认知方式、思维方式和生活方式，以及人类的自由劳动，人类对自然界的改造、对人类精神世界的拓展以及对人类能力提升的无限可能性正在被AI技术消解和取代，面临着主体被异化的危机。智能时代人的类本质同人的异化主要表现在以下三个方面：

首先，AI技术导致人的精神危机。随着AI技术对人类生活和生产的全面介入，导致人的精神异化。人们获取信息咨询的主要渠道是通过AI算法，而基于大数据的AI算法则可以提供个性化服务：一方面能够高效便捷地帮助人筛选出最优信息，满足其个性化需要的偏好。另一方面个性化算法也容易使“信息茧房（Information Cocoons）”效应扩大。“信息茧房”是由哈佛大学法学院凯斯·桑斯坦（Cass R. Sunstein）教授在《信息乌托邦——众人如何生产知识（infotopia-how many minds produce knowledge）》中提出来的，它指的是人们的信息领域会习惯性地被自己的兴趣所引导，从而将自己的生活桎梏于像蚕茧一般的“茧房”中的现象。“信息茧房”使人囿于封闭窄化的信息环境中，加深人思想认知的片面性和单一性，使人的主体性丧失，人的自由意志被物化，人成为单向度的人。

其次，AI机器导致人的能力危机。AI的发展，人类生产和生活中广泛应用各类机器人，人类放弃原有的技能配合机器劳动，服从机器的安排，人类的多种能力被机器的机械化、程式化取代，人和机器的主客体地位发生颠倒，这些现象均会导致人的主体地位丧失。AI机器的超强计算能力、数据处理能力、逻辑分析能力和完美的记忆能力等，在节省了使用者的时间、提升劳动者效率的同时，又极大地助长了劳动者的惰性，将本来属于人的能力转移给了机器：人只需简单的操作就能获取想要的结果，机器代替人做判断、分析和决策，机器取代人类成为理性判断和分析决策的主体，人类的学习、记忆、分析、归纳、思辨等能力逐渐被机器所取代。不管是AI技术导致人的精神危机还是AI机器导致人的能力危机都是AI时代人的主体性危机。

再次，AI算法剥夺了人类尊严。人脸识别、步态识别技术能够快速地捕捉、识别人的位置和信息，使人無处藏身;医疗数据、人类基因编码让人的身体信息赤裸裸地被展示，人类正穿着“皇帝的新装”集体裸奔;AI可以根据人的大脑波动图来分析和解读人的想法和行为。也许有一天，人最引以为傲的理性思维能力在机器面前将一览无遗，人的尊严在智能机器面前丧失殆尽。

4.AI机器加深人的交往危机

马克思认为，人同人自身的各种关系，都是通过人与人的关系来体现的，而与他人关系的实现又是通过交往关系来确证的。在AI环境下，人与人的关系也发生了异化，人的交往逐渐被置于智能机器的控制下，人成为透明人。

首先，交往危机表现在交往的透明性。AI算法使得每个个体成为透明人，人类交往也变得透明，无隐私可言。AI时代，个体热衷于晒家庭住址、旅游地点、收入以及其他个人隐私，人类交往基于网络痕迹和行为模式来准确推算和预测人的性格偏好和行为;不同个体具有不同的表达习惯和兴趣爱好，评论、转发、分享不同的言论，AI时代的交往根据不同的利益关系形成不同的小团体，形成“网络巴尔干（Cyber-balkanization）”，

M. V. Alstyne， E. Brynjolfsson， “Electronic communities： Global village or cyberbalkans？”， in Economic Theory， 1997.维护本群体利益，过滤和抵制非本群体利益，有可能导致AI时代的群体极化行为。

其次，交往危机表现在交往的虚拟性。AI机器还正在使人丧失“现实性”。传统意义上集中在一起的、有机的、统一性的劳动模式被消解，离群索居的“宅”生活及工作模式的可能性得以彰显。“机械化也把他们分裂成孤立的、抽象的原子，他们的工作不再把他们直接地有机地结合在一起”，

卢卡奇：《历史与阶级意识》，张西平译，重庆出版社1989年版，第100页。劳动者成为机器控制下的孤立个体。AI机器“傻瓜”型的使用方法，导致很多心智不成熟的人，特别是青少年，沉溺于网络的虚拟世界，疏离现实世界，加深了人的原子化危机。

再次，交往危机表现在交往的疏离性。AI时代加深了人与人的疏离，对于数据和AI算法的拥有程度、掌握程度、运用程度的不同，导致国际、区域间、人际间的数据鸿沟和算法鸿沟，造成信息落差和算法落差，造成国家间、地区间、人际间的关系疏离。网络空间交往“天涯若比邻”，智能App让人类上瘾、沉迷其中，但却缺少了父母儿女间的舐犊情深与承欢膝下，缺少了亲朋好友间的促膝长谈与推心置腹。网络的便捷性使人的工作时间无限地挤压人的自由支配时间，网络几乎全面地支配和控制了人的自由时间，使人陷入社交恐惧之中，加深了人与人的疏离。

三、AI技术异化的本质分析

AI技术的异化可以从技术本身的原因以及人类对技术的应用追溯其本质。AI技术异化源于数据主义盛行、AI技术导致主体客体化、算法权力和算法霸权、人对于AI技术应用中的工具理性泛滥，以及价值理性的缺失。

1.数据主义盛行

AI的基础是数据、算法和算力。数据主义者认为全人类是单一的数据处理系统，一切皆数据，《未来简史》的作者尤瓦尔·赫拉利（Y. N. Harari）认为，“数据主义”盛行导致“人本主义”的崩塌，“数据主义者认为，宇宙由数据流组成，任何现象或者实体的价值在于对数据处理的贡献”。

尤瓦尔·赫拉利：《未来简史——从智人到智神》，林俊宏译，中信出版集团2017年版，第333页。“大数据已经撼动了世界的方方面面，从商业科技到医疗、政府、教育、经济、人文以及社会的其他各个领域。”

维克托·迈尔-舍恩伯格，肯尼思·库克耶：《大数据时代》，盛杨燕、周涛译，浙江人民出版社2013年版，第15页。万物皆数据，数据经过分析和挖掘成为推动社会发展，特别是经济发展的新动力，整个社会的生产方式、经营方式、治理方式、思维方式等发生根本改变。首先，生产数据化。基于大数据驱动的个性化算法系统被广泛地应用到经济生活的各个领域，改变了企业传统的生产、销售模式。数据分析挖掘系统能使企业从繁杂的数据资源中洞察到消费者的真实需求，帮助企业进行有效的质量管理提升、服务改进和精准化营销，以促进消费，提升盈利空间。大数据已经成为企业提升自身竞争力的核心要素，“数字化经济”正在对经济进行模式转型。大数据在提升政府政策决策的科学性、执行的透明性、实施的有效性方面发挥了优势作用，对完善政府权力监督，实现政府信息共享和透明提供了极大助力。“数字化治理”正在成为政府和社会的共识。其次，社会数据化。数字化技术的发展，整个社会正在成为以数据为支撑和链接的共同体。数据化社会使智能算法系统在更广泛的领域发挥重要作用，数据挖掘、数据洞察经由智能算法渗入到社会生活的各个场景中。数据成为可以不断创造财富的资源，甚至成为控制社会的权力。数据搜集者通过互联网技术等收集、积累并占有大量的数据，形成数据垄断，用数据来获取最大化的商业价值和利润。大数据不但创造了经济财富，还可以通过个性化推送干扰到国家选举，“大数据是人们获得新的认知、创造新的价值的源泉;大数据还是改变市场、组织机构，以及政府与公民关系的方法”。

维克托·迈尔-舍恩伯格，肯尼思·库克耶：《大数据时代》，第9页。不但如此，大数据的发展改变了人类的认知，之前人类通过揭示自然界的因果关系来寻找宇宙奥秘，现在人类通过大数据来找到事物间的关联。数据主义以其前所未有的优势在改变着人类关系、人与自然的关系，剥夺了人类的生存空间和自由交流，限制了人类精神的解放，导致了“技术霸权”和数据异化现象。数据异化必然会导致以数据为驱动的AI的异化。

2.客体主体化

1950年AI先驱图灵（Alan Turing）在《计算机器与智能》一文中设想制造出能够思维的机器，这个机器可以具有人类意识，能够表现出人类的知觉行为，约翰·麦卡锡（John McCarthy）、西蒙（H.Simon）等AI的先驱致力于让机器“像人一样思考”“像人一样行动”“理性地思考”“理性地行动”等目标。玛格丽特·博登（Margaret Boden）在其著作《AI：人工智能的本质与未来》中将AI定义为“让计算机完成人类心智（mind）能做的各种事情”。

玛格丽特·博登：《AI：人工智能的本质与未来》，孙诗惠译，人民大学出版社2017年版，第1页。AI从不同进路出发致力于研究出具有人类智能的机器。AI的符号主义进路通过物理符号系统让机器像人类一样推理从而模拟人类智能;AI的联结主义进路致力于通过模拟神经网络以及神经网络之间的链接机制让机器像人类一样思考;AI的行为主义进路致力于通过控制论模拟人控制中的智能行为来模拟人类智能。AI的主要思路是模仿人的智能和模仿人的智能控制下的行为。因此，AI机器可以看成是在模仿人类的智能活动基础上制造出来的具有一定智能行为的人工系统。AI机器相比一般的机器，表现出某种类人的行为或活动的能动性，也就是某种“主体性”。简单机器是人能动地改造世界的工具，是人体功能的延伸，而AI机器不同于普通机器，无论是自动完成简单、重复劳动的人造机器，还是自动分析和处理各种复杂数据，形成认知和决策的合成智能机器，抑或是具有社交能力的陪伴型機器人、智能客服系统等，在行为、认知、交互等方面都表现出明显的类人的判断力和创造性，而能动地认识和改造世界正是人的主体性之所在。因此，相较一般机器，AI机器作为人所创造的客观对象，通过数据驱动的算法程序具有了类人的智能和行为能力，这使得智能机器的存在形式逐渐转化成具有主体生命结构和本质力量的某些因素，而拥有了主体的功能和属性，表现出明显的主体化趋势。目前AI技术处于弱人工智能（artificial narrow intelligence）阶段，智能机器在功能上能够模仿人的思维和行为，已经具备了人的某些方面的特征，如围棋机器强大的逻辑推演学习能力;智能专家系统分析挖掘数据的精准预测和决策能力;图像和语音的智能识别能力;陪伴机器人的情感感知和互动能力;等等，这些智能体都表现出了类人能力或者超人的能力，在日常的人机交互中人格化或属人化的特性明显。今天的AI仅限于完成具体任务，还没有表现出一般性的普适性智慧。AI技术的未来发展阶段为强人工智能阶段，届时人类将制造出真正的有知觉、有自我意识、能够自主推理、具有人类情感的机器，这种机器能产生如同人类一样的思维。机器一旦产生出和人类一样甚至超出人类的自主意识的思维，那么人作为主体的地位将受到严峻的挑战。

3.算法权力化

算法是AI的核心。AI算法专家科尔曼（Thomas H. Cormen）认为，“算法以某个值或一组值作为输入，并生成某个值或一组值作为输出。因此，算法是将输入转换为输出的一系列计算步骤”。

Thomas H. Cormen，Charles E. Leiserson， Ronald L. Rivest， CliffordStein， Introductionto Algorithms （3rd Edition）， Cambridge， Massachusetts London， England： The MIT Press，2009，p.5.算法就是基于计算机应用的程序模型，决定如何更高效、快捷地挖掘数据，并将洞察的结果以特定的方式呈现出来。因此，有人称算法为AI的“灵魂”，它决定了机器的性质和功能。当前，整个自然和人类社会的很多方面都被纳入基于大数据的智能算法的控制之下，算法正在逐渐成为人类社会生活的主导性力量，“一切皆算法”、“算法崇拜”等正在成为主流的认知。用英国社会学家斯科特·拉什（Scott Lash）的话来说：“在一个媒体和代码无处不在的社会，权力越来越存在于算法之中。”

Lash Scott， “Power after hegemony： cultural studies in mutation？”， in Theory， Culture & Society，2007，24（3）： 55-78.从微观层面的个人生活到中观层面的社会经济运行再到宏观层面的国家发展，无不渗透着基于大数据的智能算法的痕迹，整个社会和自然界被置于智能算法的框架之下，算法高效、精准的分析挖掘数据的预测、判断和决策能力正在重塑人们的思维方式、行为方式和生存方式，也在重塑整个社会的运行模式和治理模式，算法权力化成为必然。

开发AI机器的资本和技术掌握在少数人手中，资本家雇佣具有算法设计能力的人为其工作。算法设计能力可以通过学习获得，但必须要有非常扎实的数学和计算机知识，这使一些优秀的算法设计者可以优先占有更多的社会资源，将自己的智能转化为资本，成为人工智能行业社会分工的上层。然而，因为算法设计的门框非常高，大部分普通人可能终身都难以了解其运行原理，处于被算法控制、操纵的社会生产生活中，“算法鸿沟”不断加深。

算法的权利实际掌握在数据或者科技寡头手中，并形成行业垄断，割裂了其他企业或者资本进入该行业的途径和机会。算法设计者可以通过对算法设计模型的选择，引导和控制个人和群体的行为，甚至重塑他们对世界的认知，以达到最有利于自身利益的目的。算法权利因其霸权地位影响范围日益广泛，因算法设计者或主导者的偏好、利益诉求及“算法黑箱”而导致的算法歧视、算法不公平和算法滥用必将导致AI异化。

4.工具理性的泛滥与价值理性的缺失

导致AI异化的原因是复杂的和多方面的，但其源头在于技术理性和价值理性的背离。工具理性（Instrumental rationality）也称为工具合理性，由马克斯·韦伯（Max Weber）把其运用于社会学领域。工具理性强调的是人类通过理性的计算，自由选择手段的合理性和有效性，而不管目的是否恰当。工具理性只关注效率、功用、计算和手段，霍克海默（Max Horkheimer）、阿多诺（T.W.Adorno）、弗洛姆、马尔库塞（Herbert Marcuse）、哈贝马斯（Jürgen Habermas）等法兰克福学派的学者批评了马克斯·韦伯的工具理性，认为工具理性导致技术理性霸权，消解了人生存的价值基础。工具理性和技术理性成为理性的化身，知识即技术，技术的本质是工具，人类可以凭借技术依靠理性来征服和控制自然，并最终达成人类的自由和完善。马尔库塞指出：“技术理性这个概念本身可能就是意识形态的。不仅技术的应用，而且技术本身，就是（对自然和人）统治——有计划的、科学的、可靠的、慎重的控制。统治的特殊目的和利益并不是‘随后或者外在地强加于技术的;他们进入了技术机构的建构本身。技术总是一种社会—历史的工程;一个社会和它的统治利益打算对人和物所做的事情都在它里面设计着。”

马尔库塞：《单向度的人》，张峰、吕世平译，重庆出版社1988年版，第116页。马尔库塞认為技术理性正在转化为技术拜物教，把科学技术作为意识形态控制人类，必须用批判理性代替技术理性。

价值理性（Value Rational）注重行为本身的价值，而非注重行为手段和结果。在价值理性中，人是终极目的，价值理性凸显人存在的意义。随着AI的发展，价值理性日趋缺失。技术在创造巨大的物质财富的同时，并没有如人们所期待的那样带来人类的全面解放，反而使人类陷入了深刻的异化危机之中。AI机器，作为人所创造的技术人造物，智能化程度越高、功用越强大，在失控的情况下对人类造成的破坏可能就越大，这种破坏反映在人身上就是使人自身异化为非人。

技术因其内在规律的不可知性，人类理性认识的有限性以及技术风险的不可预测性导致技术后果的不确定性，技术理性难以把握。1980年，科林格里奇（David Collingridge）在《技术的社会控制》中提出科林格里奇困境（Collingridge dilemma），用以表明技术对人类的控制：“一项技术的社会后果不能在技术生命的早期被预料到。然而，当不希望的后果被发现时，技术却往往已经成为整个经济和社会结构的一部分，以至于对它的控制十分困难。”

D. Collingridge， The Social Control of Technology，New York： St. Martins Press，1981，p.11.由于技术发展不可知性导致技术失去控制，致使AI异化的本质呈现出自身的复杂性和独特性。

综上所述，通过对异化研究的嬗变的追溯以及其表现形态的揭示，我们分析了AI技术的异化现象，AI技术的发展加深了人的自我异化危机、加深了人的主体性异化危机，AI技术加深了人的交往危机。在此基础上，我们对于AI技术异化的本质进行追溯，认为数据主义盛行、客体主体化、算法权利化、工具理性的泛滥与价值理性的缺失导致了AI技术的异化。只有厘清AI技术异化的根源，才能够找到AI技术异化的消解路径。

（责任编辑：苏建军）