基于WOS的人机安全研究趋势及热点分析

杨雪,王世康,杨娟,姚雨佳

(华北水利水电大学 管理与经济学院,河南 郑州 450046)

安全生产始终是国内外学者高度关注的问题[1]。“工业4.0”时代的来临加速了新一代智能制造研究,为安全管理带来了新挑战,加之信息技术的纵深发展,各类人造机器将拥有越来越强的自主性和智能性,这使人工智能与人的关系发生了“辅助—互助—融合”的根本性变化。但有学者发现,在具有人机交互频繁特征的系统中,人机安全事故比重达到60%以上[2-3],说明由于人机交互而引发的安全事故处于一个较高的发生概率,人机安全成为现代企业安全管理的重要命题。

人工智能的蓬勃发展引起国内外学者对人机安全的关注,并进行了一系列研究,取得了丰富的研究成果。在传统安全管理领域,如煤矿安全管理,国内自1996年至今陆续颁布安全管理文件以规范煤矿安全管理工作,主要集中于推进煤矿安全生产标准化、煤矿安全监察落实、智能化示范煤矿建设等方面,安全生产事故发生率明显下降[4]。在无人驾驶、航空航天等先进制造业领域,快速发展的计算机技术使自动化系统更智能,在安全生产中自动化代理系统和机器的应用从根本上改变了人与机器的关系。基于此,陈善广等学者从人因工程视角总结归纳了人因失误在人机安全中的严重影响[5]。Patriarca等学者将人机安全事故原因概括为人机交互及任务环境、不安全行为、人因可靠性等[6]。已有学者对该领域的知识结构和研究热点进行了初步探究,但形式较为单一、文献数量有限。因此,有必要对现有的人机安全问题进行全面梳理,总结人机安全研究取得的重要成果,厘清其薄弱环节和空白,推动国内学者了解当前领域的核心研究命题、理论基础和未来研究方向。

鉴于此,借助文献计量软件CiteSpace,分析来源于Web of Science核心合集数据库“人机交互”“人机安全”主题的文献,分别从发文量、国家和机构、期刊共被引、关键词共现、文献共被引聚类等角度,对人机安全研究文献进行可视化分析,定量梳理、科学归纳该领域内的研究现状、研究热点,了解全球范围内学者和机构对人机安全领域研究的进展情况,以期为安全生产管理实践提供借鉴。

一、数据来源与研究方法

(一)数据来源

以Web of Science(以下简称WOS)核心合集数据库为基础进行文献检索,检索主题词是“Human-computer interaction”“Human-machine interaction”“Security”“Safety”,文献检索的时间跨度设置为2010—2021年,文献类型选择“Article”,语种选择“English”,此方式可以剔除报告、会议、约稿启事、工作总结、出版物介绍及声明等非研究性文献,保证数据的代表性与权威性。结果显示,共检索出578篇文章。将CiteSpace的除重功能与人工剔除的方式相结合,剔除信息重复及缺失的文献,最终得到有效文献464篇,以此为基础展开研究。

(二)研究方法

采用CiteSpace可视化知识图谱分析的研究方法,将文献计量与科学知识图谱相结合。依托CiteSpace,通过国家/机构合作网络、关键词共现、文献共被引等分析功能,以知识图谱的形式科学地反映某一研究领域的研究现状、研究热点和研究趋势[7]。本研究从发文量、国家和机构、期刊共被引、关键词共现、文献共被引聚类等角度,对人机安全研究领域的文献进行可视化计量分析,识别该研究领域的研究现状以及研究热点。

二、研究现状分析

(一)人机安全研究发文量分析

人机安全领域的研究发文量和研究引文数年度分布如图1所示。从总体的发展趋势来看,人机安全领域发文量呈逐年递增态势。人机安全研究大体可以划分为3个阶段：萌芽期(2010年以前)、温和成长期(2010—2017年)、快速成长期(2018年至今)。

第一,萌芽期(2010年以前)。在WOS中检索主题文献,剔除无效文献后发现,在人机安全领域国外最早的研究起源于20世纪90年代移动设备的兴起[8],至此相关研究开始出现。由于2010年以前发文量处于一个不稳定的时期,发文量较低,研究热度不高,2010年之后发文量开始稳定增长。为充分说明研究问题,将2010年之前划分为人机安全研究萌芽期。

第二,温和成长期(2010—2017年)。2010—2017年,人机安全研究发文量逐步增多,人机安全研究引文数逐年增加,总体发文量相对增多但增速较为平稳。这说明从2010年开始,受“工业4.0”浪潮影响,智能生产不断发展,人机安全相关研究热度不断上升,逐渐成为学术研究热点。

第三,快速成长期(2018年至今)。2018年至今,人机安全发文量和引文量继续呈增长趋势且增长速度加快,研究进入快速成长期。2018年10月,美国国防情报局局长Robert Ashley在美国陆军协会年度会议上表示,人机融合是颠覆性技术的一个关键领域,将会影响美国的国家安全[9-10]。2017年10月,党的十九大明确提出,树立安全发展理念,完善安全生产责任制,坚决遏制重特大安全事故。也正是从这一时期开始,发文量和引文量都大幅上升,进入快速增长期,研究热度再度提高。

图1 人机安全研究发文量与引文量年度分布

(二)国家和机构合作网络分析

借助CiteSpace生成人机安全研究国家及机构合作网络知识图谱,分析研究主题在世界上不同国家和机构的分布,如图2所示。同时,将发文量排名前10的国家和研究机构进行统计,如表1所示。

图2 人机安全研究国家及机构合作网络

如图2所示,每个节点代表一个国家或者研究机构,节点的大小代表发文量的多少,节点之间的连线代表不同国家或者机构之间的联系,本研究将分别从人机安全发文量和发文时间进行讨论。在发文量方面,以美国和中国最为集中,其次是英国、德国、澳大利亚。美国和中国的发文量几乎占检索文献的50%,说明其为该领域的理论发展作出了一定的贡献;从研究机构的发文量来看,第一为清华大学,其次是北京航空航天大学和中国科学院,其中与上海交通大学、西安交通大学等高校也有合作,国外以麻省理工学院和哈佛大学为主导。在发文时间方面,以美国为代表的发达国家发文时间集中于2010年前后,中国多在2015年之后,说明美国等发达国家在人机安全领域方面的研究起步较早,有较强影响力;中国起步相对较晚,但随着“工业4.0”时代的来临和相关政策文件的颁布,其研究发文量后来居上。由图2可知,通过国家和机构之间的连线可以发现,研究合作主要围绕美国、中国和英国3个国家展开,与其他国家或机构之间合作较少,且国内研究机构的合作也主要集中于985高校,合作程度比较低。

表1 人机安全研究国家或机构发文数量及年份统计表

(三)作者合作网络分析

针对某个研究主题,通过作者合作网络分析可以获取全球范围内学者的合作程度以及该领域内的领军人物。本研究借助CiteSpace生成人机安全研究作者合作网络知识图谱,见图3。同时,列出发文量排名前10的作者信息,如表2所示。

图3直观反映出人机安全领域的研究学者较多,但大多为独立的个体,呈点状分布,相互之间的研究交叉并不紧密,网状结构较少。这说明在人机安全领域学者的研究多在同机构内进行合作,与其他机构的学者合作较少,合作程度较低。未来研究逐渐倾向于多学科的交叉研究,以增强不同机构内学者的合作,提高研究成果的科学性、全面性和权威性。

图3 人机安全研究作者合作网络

表2 人机安全研究作者发文数量及年份统计表

如表2所示,人机安全研究领域发文量排名前10的作者中有9位是中国学者,以“LIN XIN”“LI JUN”“LI YURONG”为代表,分别从人机交互界面设计的可靠性、人机交互框架建立的必要性、人机交互中的神经网络应用等方面展开了一系列研究。相关学者们基于风险感知进行智能飞行计划的设计,为后续学者的研究提供了理论基础,为人机安全领域的研究作出了一定的理论贡献。虽然中国对此领域的研究较发达国家起步较晚,但后来居上,近3年研究成果逐渐增多,符合国内智能制造行业发展现状。

(四)期刊共被引分析

为了更好地掌握人机安全研究发文期刊情况,本文借助CiteSpace中“Cited Journal”功能生成人机安全研究期刊共被引知识图谱,如图4所示。同时根据不同期刊的共被引次数以及发表文章的初始年份绘制了文章被引次数排名前10的统计表,如表3所示。

图4 人机安全研究期刊共被引知识图谱

表3 人机安全研究共被引期刊次数统计表

其中,LECTURENOTESINCOMPUTERSCIENCE共被引次数最高,说明其是人机安全领域研究的核心期刊,一定程度上代表了该领域的研究热点和研究趋势。HUMANFACTORS,ERGONOMICS,APPLIEDERGONOMICS等期刊的被引次数相对也比较高,说明其也是人机安全领域的重要期刊,刊登了比较重要的学术理论成果。SAFETYSCIENCE,NATURE,SCIENCE等权威期刊虽然没有很高的共被引次数,但由图4可以发现,其与其他期刊也存在共被引关系。同时,工程技术类期刊IEEEACCESS从2018年开始刊登人机安全主题的文章,说明此领域的发文期刊范围广,这些期刊也为人机安全领域的发展作出重要理论贡献。

三、研究热点与趋势分析

(一)关键词共现分析

关键词共现分析是认识概念间关系的一种有效方法,隐含着该领域的研究热点、发展前沿及趋势等线索[11]。通过CiteSpace进行关键词共现分析,得到人机安全研究关键词共现知识图谱,如图5所示。人机安全关键词共现知识图谱中最大的节点为system(系统)和human-computer interaction(人机交互)。整个知识网络以此为核心向四周发散,说明其为人机安全研究领域的核心主题和热点。system(系统)作为改善和提高人机安全水平的一个必需要素,不论是以人还是以机器为研究对象,系统各方面的改进均是一个必要路径。对于机器来说,自动化水平、透明度、易用性等都是影响人机系统安全性和性能的因素,进一步影响了与机器进行互动的人的行为状态,最终影响人机安全协作行为[12]。human-computer interaction(人机交互)作为检索主题词,其他关键词围绕其形成发散。

图5 人机安全研究关键词共现知识图谱

在核心关键词之外,model(模型)、safety(安全)和design(设计)出现的频率也较高,一定程度上反映了人机安全领域的研究方向和研究热点,表明现阶段人机安全的相关研究是围绕建立模型、改善和提升系统设计来达到人机安全协作的目的。除此之外,围绕在核心关键词外围的若干个比较独立的小节点代表了近两年研究的新兴主题,比如task(任务)、human error(人因失误)、privacy(隐私)和road safety(道路安全)等。说明在核心研究主题之外,学者也开始将研究的关注点聚焦至工人工作任务和工作压力、隐私保护、人因失误和道路安全(无人/自动驾驶)等方面。通过关键词共现分析可以发现,人机安全研究热点主题集中在人机安全系统设计与改进、人机安全模型建立、人机隐私安全和道路安全3个方面。

(二)文献共被引聚类分析

文献共被引分析能够揭示人机安全研究聚类知识结构,利用CiteSpace聚类功能进行文献共被引聚类分析,可以挖掘相似文献的共同主题以及热点主题演化情况。因此,选用LLR算法对人机安全领域相关文献进行主题聚类分析,得到人机安全研究文献聚类分析图,如图6所示。图中每一个“#”号代表人机安全研究的一个聚类主题,呈现了包括human factors(人因)、usability(易用性)、privacy(隐私)、automated vehicles(自动驾驶汽车)、trust(信任)、human-computer interaction(人机交互)在内的6个聚类,反映了人机安全领域的研究热点。

图6 人机安全研究聚类分析图

聚类0号的标题是human factors(人因)。经梳理文献发现,人的不安全行为是造成事故的一个主要原因,设计机器/系统时要重点关注人的心理及其行为,挖掘影响其不安全行为的影响因素。比如,在医疗卫生系统中对手术环境以及手术计划进行重新设计、对应用的医疗新程序进行用户评估等[13-14],提高用户体验,对症下药,提升人机交互水平进而保证安全。目前,随着自动化系统的引入和普及,人的角色逐渐从自动化的主要控制者转变为与其共享控制的合作者,员工对于自动化系统的情绪会造成员工在实际操作中出现偏差从而产生不安全协作行为。

聚类1号的标题是usability(易用性)。经梳理文献发现,该聚类下的文献大多与人机交互界面设计有关,如何提高系统的易用性使之更好地契合用户,提高用户体验,确保安全性是主要的研究问题。研究领域多集中在自动驾驶领域,比如,设计外部人机界面来提高行人与自动驾驶汽车的信号交流水平以确保通行效率和安全,设计易用的交互方式便于驾驶员和自动驾驶汽车更好地交流等[15-16]。Mcgreevey等学者从易用性、可靠性等物理角度阐述了与系统警报管理相关的一系列考虑因素,认为警报管理计划必须以改善患者护理为目标,同时要减轻临床医生的警报负担[17]。

聚类2号的标题是privacy(隐私)。经梳理文献发现,该聚类下的文献大多与人机交互下隐私保护研究有关。人工智能的快速发展使得各类电子产品层出不穷,获取用户的各类权限也成为其被正常使用的一个前提,物联网和虚拟现实的发展会推动未来关于隐私和安全等主题的研究,针对用户数据的安全和隐私提出不同的保护方法会是未来的一个研究方向。De Guzman等学者为确保 MR(混合现实)中用户和数据的安全和隐私提出了不同保护方法[18]。

聚类3号的标题是automated vehicles(自动驾驶汽车),聚类5号的标题是human-computer interaction(人机交互)。经梳理文献发现,该聚类下的文献大多与自动驾驶背景下人机交互安全研究有关,保证自动驾驶系统在不同驾驶条件下的安全性和稳定性。近几年的研究集中于设计和改进人-自动驾驶汽车共享控制的系统框架、驾驶员状态/交通状态对自动驾驶安全性的影响、复杂交通环境下行人和自动驾驶汽车的信号交流机制等[19-22]。Graichen等学者认为自动驾驶汽车需要以道路使用者接受的方式在混合交通中行驶,这种成功的先决条件可能是自动驾驶汽车能够在复杂的交通环境中与其他道路使用者有效沟通[23]。

聚类4号的标题是trust(信任)。经梳理文献发现,该聚类下的文献大多与人机信任量表构建、自动化信任有关。研究的内容聚焦于信任度量工具的建立、人机信任量表维度的构建、信任程度对人机交互的影响等[24-26]。Kalayci等学者基于自动化驾驶的角度,认为过低的信任度可能导致对环境的过度关注或不使用自动化功能,而过于信任则可能因为没有充分关注甚至不关注周围环境而导致危险的驾驶情况[27];Chiou等学者指出,未来关于自动化信任的研究不仅要考虑个人特征和自动化如何影响人,还要考虑人如何影响自动化以及相互依赖的互动如何影响信任自动化[28]。

通过文献共被引聚类分析,人机安全领域的研究热点从生产效率的单一研究逐渐过渡到以系统易用性为代表的设计学科、自动驾驶汽车为代表的道路安全学科、人机信任衡量的认知学科的交叉研究。

(三)研究热点突现趋势分析

根据突现词在时间段内的变化可以判断出人机安全研究的前沿和发展趋势。本研究借助CiteSpace中“Burstness”功能进行关键词突现分析,提取到如表4所示的排名前10的人机安全研究关键词。表4涉及每个突现词的强度、开始年份和结束年份。如表4所示,system(系统)的突现强度最大,且持续时间较长,开始出现的时间最早;2013年以来,error(错误)开始出现,体现在人因失误方面;2016年以来,safety(安全)、mental workload(精神负担)、classification(分类)等成为突现强度较大的关键词。这些突现词的变化体现了人机安全领域不同时期的研究热点以及演化趋势,从仅关注人机系统问题延伸到人的身心健康问题。除此之外,trust(信任)、task(任务)、security(安全)和deep learning(深度学习)这几个关键词突现的时间都是从2018年至今,且前两者突现强度较大,说明人机信任、人机任务分配是该领域研究的前沿问题,深度学习是解决此类问题逐渐应用的方法。

表4 人机安全研究关键词突现情况

四、研究结论与展望

(一)研究结论

将文献计量与科学知识图谱相结合,通过CiteSpace从发文量、国家和机构、期刊共被引、关键词共现、文献共被引聚类等角度,基于WOS对人机安全研究领域的主题文献进行了可视化分析,得出以下结论。

第一,通过关键词共现分析,人机安全领域研究热点主题主要体现在人机安全系统设计与改进、人机安全模型建立、人机隐私安全和道路安全3个方面。

第二,通过文献共被引聚类分析,得到包括human factors(人因)等在内的6个聚类。研究热点从仅关注人机系统问题延伸到人的身心健康问题,从生产效率的单一研究逐渐过渡到以系统易用性为代表的设计学科、自动驾驶汽车为代表的道路安全学科、人机信任衡量的认知学科的交叉研究。

第三,通过对关键词的突现分析,人机信任和人机任务分配是该领域研究的前沿问题,深度学习是解决此类问题逐渐应用的创新方法。

(二)研究展望

近几年,人工智能的蓬勃发展引起国内外学者对人机安全的持续关注,并进行了一系列研究。通过对人机安全领域研究现状及热点的分析,未来研究可能有以下几个方面。

第一,高危行业的人机安全研究。人工智能的快速发展使机器和自动化系统被应用于各个领域,已不仅仅局限于航空航天、无人驾驶汽车等先进制造业领域。在国内,高危型生产企业对智能化设备加大投入比例,煤矿开采、建筑施工等传统性高危生产企业也面临相应的人机安全隐患,基于煤矿生产实际的人机安全理论与方法创新有待深入探索。

第二,人机安全研究方法创新研究。对于人机安全领域中复杂系统特征分析或决策等问题,仅运用系统动力学、结构方程模型等单一定量方法不能充分揭示其背后原因,需要立足具体生产实际,运用深度学习方法解决实际问题。

第三,人机安全影响因素研究。现有研究集中于人机安全系统设计与改进、人机安全模型建立、人机隐私安全和道路安全等方面,涵盖设备易用性、人机交互界面设计、人机信任等,关于人机安全影响因素的研究较少。未来研究可以聚焦人机安全影响因素研究,从机器状态(自动化水平、可靠性、易用性等)、人的不安全行为(精神压力、人机信任等)、组织(人机任务分配等)、环境(安全氛围)等角度出发,探索人机安全关键影响因素,深入研究不同因素组合重构对人机安全的影响。

现有研究在为安全生产管理实践提供借鉴的同时,研究设计方面还存在不足。本研究选取的文献数据来源于Web of Science核心合集数据库,文献类型选择的是“Article”,这可能会导致部分数据的缺失,未来研究可以将CNKI数据库以及会议类型的文章考虑进去,扩大数据来源。