人工智能学科人才培养中人机信任关系的重要性

付宇鹏 闫文君 凌青 朱子强

摘要 随着现代信息技术的快速发展，与实战相结合的人工智能学科研究生高层次人才培养，已经成为信息化战场向智能化战场发展的迫切要求。文章从人机信任关系的角度探讨了目前人工智能学科研究生人才培养面临的问题和挑战，基于人机信任的人才培养模式的作用和意义，从科研理论创新、深入部队调研和引导身份转换三个方面对军事院校研究生人才培养给出建议，为提高军事院校研究生人才培养成效提供了新思路。

关键词 人机信任；人工智能；研究生培养；军事院校

中图分类号：G642文献标识码：ADOI：10.16400/j.cnki.kjdk.2023.6.025

随着人工智能、大数据、云计算等高新科技力量的迅猛发展，未来战争的作战方式必然更趋于信息化和智能化[1]。人机关系也正在发生深刻变化，人的角色逐渐转变为武器装备共享控制的合作者，由此引发的人工智能技术信任问题也成为实现人工智能军事应用所面临的最大挑战之一。随着武器装备智能化、无人化趋势日趋明显，军事环境的风险、脆弱性和不确定性，导致人工智能技术信任问题越来越受到重视。军事院校是军事人工智能技术、装备应用实现的前沿阵地，军事院校研究生学员更是这一过程的见证者和参与者，也是未来部队装备研发和教育教学工作的核心人员，因此人工智能学科人才培养必须切实响应实战化人才培养改革要求[2]。目前军事院校研究生人才培养模式未能从更深层次的创新型和应用型思维模式给予引导。前教育部副部长杜占元在未来教育大会上提出，“在机器能够思考的时代，教育应着重培养学生的自主学习能力、提出问题的能力、人际交往的能力、创新思维的能力及筹划未来的能力。”以此为启发，本文试析“以人为中心”的人工智能学科课程建设中人机信任关系的重要性和所面临的主要问题。

1基于人机信任关系的人才培养背景

人工智能已逐渐成为带动生产力和科技进步的战略性技术。在人工智能时代，重构人机关系，对于构建和谐共生的人机环境、“人机命运共同体”和美好和谐社会具有重要意义[3]，也是所有人工智能领域从业人员面临的哲学问题。人机信任关系的发展大致经历了单向度的信任关系阶段、单向度的不信任关系阶段与双向度的不信任关系阶段三个阶段，揭示了复杂智能算法向混合式智能算法的转变[4]。

以空战智能博弈理论军事应用背景为例，早在20世纪60年代美国国家航空航天局就开展了基于专家规则的智能空战系统研发，这一阶段可看作单向度的信任关系阶段；近些年随着算力的提升和技术的进步，以深度学习为代表的空战智能决策模型表现出巨大优势，表现出超越人类的水平[5]，人机关系也向不信任阶段发展。尽管机器学习类方法在解决空战决策问题方面潜力巨大，然而人工智能技术真正在实装项目落地仍面临较大困难，一方面前沿人工智能技术应用的成熟度较低，存在输入的数据质量低，算法缺陷、偏见等问题；另一方面技术应用部门对数据和人工智能在实战化训练中的可行性和效果缺乏理解和信任，导致了目前诸多人工智能技术“不能用、不敢用、不抗用”。该问题反映在军事院校教育体系中，直观表现为“战味”不够，在“学术化和实战化问题上还存在一些认识偏差”等问题[6]。从思维认知上讲，与从业人员对人机信任关系理解不透彻有着密切关系。因此教员应重视引导研究生学员主动思考，帮助其建立基本的以人为本、以实战为中心的思维模式。

2基于人机信任关系的人才培养面临的问题

2.1理论体系不完善

人机信任关系问题正成为人工智能领域研究和讨论的一个活跃课题。信任问题的研究起源于心理学、社会学等行为科学，其概念模型或解释模型能否运用于人机合作的信任研究中尚不明确。从现实角度讲，人机信任并非越高越好，而是与具体应用需求和智能体的智能水平息息相关。针对“什么因素影响了人对人工智能系统的信任，如何准确测量人对人工智能系统的信任”等问题的研究仍处于起步阶段，尚缺乏实证研究或缺乏严谨的行为科学实验方法[7]。因此，在目前的人工智能研究领域，人机信任关系的研究侧重于研究如何构建、实现和优化人工智能系统面对特定任务的计算能力与处理能力，实现人与智能体的单向或双向沟通，从而实现价值对齐。这也是基于人机信任的学科建设和人才培养模式研究面临的主要问题。

2.2部队调研不透彻

《军事人工智能》报告指出，未来作战方式会因为人工智能的崛起而发生质的变化。未来15年，人工智能技术的高速发展必将对战争带来重大而深遠影响。与此同时，人工智能技术的军事应用存在缺陷，决策能力并不完全可靠，且尚不具备政治判断能力；在敌我双方均使用人工智能的情况下，战争走向和后果尚不可预知。因此作战部队和科研人员应对人工智能技术军事应用保持谨慎态度。目前人工智能学科课程和研究工作缺乏切实的部队调研，未能充分考虑政治、军事、技术、作战人员思想等多维度的影响因素，导致建模仿真环境不逼真、专家经验知识库不完备等问题。诸多人工智能技术应用停留在理论文章、课本示例中，成果转化弱，基于人机信任导向的课程建设和人才培养模式缺乏有效数据支撑，课程教学资源建设、实验环节设计等不充分。

2.3学研结合不紧密

“在科研和实践中培养”是培养研究生的基本模式。“学研”结合范式是研究型课程教学活动的核心，教员和学员都应着眼于相关研究领域的应用背景、技术发展、未来走向[8]。但目前各课题组和研究团队并未充分调动课程中的研究生学员资源，课堂中，教员以“讲”为主，而课堂时间所传授内容与各类线上资源相仿，学员缺乏思考和实践，课下学员缺乏任务牵引的学习动力；课程涵盖面宽泛，知识主线不清晰，学员理解容易分散，人工智能导论、机器学习、大数据原理等课程尽管涉及知识面较广，内容纷繁，但学员在日后工作中研究方向收敛，大量知识未起到作用；工程和科研项目训练中，导师和教员指导有限，学员往往缺少全局意识，不了解任务需求而倾向于优化个别点的性能，容易陷入思维盲区或钻牛角尖。这些因素导致学员对技术应用背景和存在的问题不敏感，侧面制约了人机信任关系这一更高层次问题探讨的作用和深刻意义。

3基于人机信任关系的人才培养实践方法

3.1立足科研创新，以理论为基础

人机信任关系不仅仅是一个社会学、心理学问题，也是人工智能研究领域的一个重要课题，在有人无人协同、自动驾驶等领域有着重要研究价值，直接影响未来大规模部署的可行性。目前，人机合作的研究采用“以人为中心”的理念。在空战智能博弈领域，有人机―无人机协同训练是重要的子课题之一，在未来智能化战场增强人机信任具有重要意义，以此为契机开展人机信任关系研究工作。人际信任关系作為跨学科、深刻、复杂的问题，必须扎根理论基础，落到科研实处，才能使理论深入浅出，使学员学以致用，能力得到培养。例如，培养过程中以课题组在有人无人协同空战领域的科学研究和任务场景下人机信任关系的研究经验为示例，从军事应用背景，部队需求，人工智能技术发展、原理、实现方法，人因等多维度，对需要考虑的指标进行量化和建模，厘清影响技术落地的因素和探索未来技术的发展走向，并形成指标量表和量化方法，讲解如何实现基于数据建立动态信任关系模型，课程主旨紧贴以应用为导向的人才培养要求，引导学员思考“以人为中心”的人工智能技术实现所经历的研究过程，提高学员对理论问题、人机关系、思维创新的理解。

3.2深入部队需求，以实战为牵引

长期以来，军事院校借鉴地方研究生培养的经验，注重培养高层次学术型人才[9]，研究生学员中专业技术人才多、懂技术能指挥的复合型人才少，对学术前沿了解多、对部队现实需求研究少。应注意到具备指挥学和工程学背景二者优势的军事院校研究生学员人才培养在未来军事指挥和装备研发中将发挥重要作用，人才培养模式和课程建设应认真贯彻落实军委提出的“把培养应用型人才作为研究生教育发展的重点”的指示精神，紧跟信息化建设需求，紧盯新兴技术领域和新质战斗力生成，提高研究生学员军政综合素质、战略思维能力和领导管理水平。课题组承担模拟器建设和模拟飞行训练任务，与飞行学员和各训练单位长期保持深入沟通和密切合作，为研究生学员搭建了良好的沟通调研平台，保障研究生学员及时了解承训任务、训练需求、人员动态等“人因”要素，并通过训练反馈掌握模拟器装备、智能体模型等存在的问题和需求，为学习和科研打下基础。通过这一环节，研究生学员能够认识到人机信任在部队训练和实装落地中的重要性，对人工智能学科的军事应用也会有更深层次的理解。

3.3引导身份转变，以问题为导向

人机信任的人才培养模式和课程建设的基础在于学员对应用问题的准确把握，同时具有独立学习和研究的能力。在现有的培养模式下，学生以“听”为主，缺乏独立思考，侧重单一知识结构的系统学习和理论层面的科研创新，造成学术型人才多、应用型人才少，研究生的知识转化能力、岗位实践能力、解决实际问题的能力相对薄弱[10]。一方面学员对自身科研人员身份的转变不及时，认为学员以学为主，被动式地接受知识；另一方面教员的教学方法仍普遍存在“填鸭式”的传统问题，没有从组员、同行的角度对待学员。因此应突出学员作为课程建设和人才培养方案中主体的地位，相较于本科学员，研究生学员具有更高的自主学习、探索和实践的能力，人工智能学科各课程、研究前沿、学术材料的网络资源丰富，教员应充分调动研究生学员的能动性，自主学习相关技术理论知识，课堂、实践等环节则更多的是为教员和学员提供探究性学习的良好平台，以科研项目承担者的角度引导学员思考未来在科研岗位中的身份定位；以项目实施中的实际问题为导向，引起学员对“以人为中心”的人工智能技术应用和发展的共鸣。

4结语

新时代军事院校教育中，人工智能学科高层次应用型研究生人才在我国科技强军的进程中发挥着重要作用。目前人才培养模式中对人机信任的作用和意义尚缺乏深度挖掘。本文从人机信任面临的问题和挑战入手，浅析了人才培养模式和课程建设中引入心理学、社会学等领域成熟的实验研究范式的思考，优化人才培养模式。

参考文献

[1]邵希文.中国特色现代军校保障体系构架建设研究[J].国防，2018，394（12）：30-36.

[2]刘辉，李志辉，吴向君，等.以能力为导向的实战化课程教学改革与实践[J].实验室科学，2021，24（6）：108-113.

[3]余玉湖.重构人工智能时代“人机关系”的哲学思考[EB/OL]（2022-01-11）. http：//marx.cssn.cn/mkszy/yc/202201/t20220111_5387881.html.

[4]何江新，张萍萍.从“算法信任”到“人机信任”路径研究[J].自然辩证法研究，2020，36（11）：81-85.

[5]孙智孝，杨晟琦，朴海音，等.未来智能空战发展综述[J].航空学报， 2021，42（8）：35-49.

[6]陈曦.“战研训”融合式专业学位研究生课程体系探究[J].高等教育研究学报， 2020， 43（3）：3-39.

[7]朱翼.行为科学视角下人机信任的影响因素初探[J].国防科技， 2021，42（4）：4-9.

[8]唐田田，王海鹏，郭强，等.浅析大数据时代下的军事院校教学改革[J].科技咨询，2021（3）：40-43.

[9]王文龙，沈同强.试析军校研究生培养的四个转变[J].海军院校教育，2018，28（3）：71-72.

[10]鲁强，王智广.人工智能复合型本科人才培养方案探索[J].教育现代化，2021， 8（27）：56-58.