面向6G的智能物联网关键技术

2021-11-28 10:49WaiCHEN鲍媛媛
中兴通讯技术 2021年2期
关键词:异构图谱样本

Wai CHEN 鲍媛媛

摘要:6G技术将提供更高的速率、更多的连接,以及更广的网络覆盖,以满足在高度动态环境中的各类应用需求。人工智能(AI)是推动6G不断演进的核心技术,而6G也将会使能一系列需要超低时延、超高可靠的智能物联网应用,如未来智能交通系统、智慧城市等。围绕智能物联网实际应用需求,梳理了智能物联网面临的技术挑战,提出智能物联网涉及的重要技术领域,包括新型机器学习范式、物联网知识图谱技术、异构协同计算架构等,并对智能物联网的未来发展进行了展望。

关键词:6G移动通信;智能物联网;边缘智能;机器学习;知识图谱;边缘计算

Abstract: 6G is expected to bring networking technologies with higher throughput, massive connections, and pervasive coverage in highly-dynamic environments to fulfill diverse application requirements. It is believed that artificial intelligence (AI) will be a central driver in the evolution towards 6G, and 6G will enable a new generation of Internet-of-Intelligent-Things(IoIT) applications that require ultra-low delay and ultra-high reliability, such as future intelligent transport systems (ITS) and smart cities. The technical challenges faced by the IoIT are discussed, and the important technical fields involved in the IoIT are put forward, including the new machine learning paradigm, the knowledge map technology of the Internet of things, and the heterogeneous collaborative computing architecture. The future development of IoIT is also predicted.

Keywords: 6G mobile communication; Internet-of-Intelligent-Things; edge intelligence; machine learning; knowledge map; edge computing

和4G相比,5G通信系统的基于大规模多输入多输出(MIMO)、网络切片等关键技术指标有了质的飞跃:理论峰值传输速度可以达到10~20 Gbit/s,空口时延低至1 ms。然而,这些性能指标仍无法完全满足未来智慧城市的通信需求,如远程医疗、增强现实等应用均要求空口时延小于0.1 ms。为了满足未来智慧社会的智能管理、高等级无人驾驶等需求,世界各国竞相开展6G研究。6G将会提供更高的速率、更多的连接、更广阔的网络覆盖。

在6G移动通信的众多场景中,物联网是最为核心的应用。根据全球移动通信系统联盟(GSMA)预测,2025年全球网联设备总量将达到250亿台,其中和智能制造、智慧办公楼宇、精细规模农业等领域相关的设备量将达到138亿台,首次超过消费级物联网的设备量。物联网设备量将会保持持续增长趋势。海量的物联网设备量和巨大的系统规模都决定了未来智能物联网应用的终极形态是完全自主化的。传统物联网应用形式大多都是状态监测、远程控制类的具有单一功能的产品,应用范围受限,智能程度低;而未来智能物联网的应用形式应该会是多功能集成的物联网平台式产品,智能程度高,并可对物联网系统进行实时监测,能够在开放的环境中持续学习、进化,不断满足用户个性化的需求,提升服务质量,具体如图1所示。也就是说,在连接的基础上,未来物联网将更强调网联设备的智能,将会实现从传统物联网向智能物联网的演进,极大地拓宽物联网的应用范围。

智能物联网具有智能化、自主化和共享化的特征。物联网的智能化体现在:(1)节点有更强的感知能力;(2)能够实时处理多种类型的数据;(3)具有更快的处理速度和更高层次的理解能力;(4)通过节点交互創造出更多的应用场景。物联网的自主化体现在:在无人值守的应用环境中,具备极强的环境适应能力和自我管理能力,可以依据现有环境进行自组织和自重构,主动处理环境中节点的故障、移动及迭代升级等动态变化,并学习服务对象的个性化特征。物联网的共享化体现在:不仅能够实现节点间综合资源的共享,包括数据、知识、算力、通信、电力资源等,使物联网能及时处理更大规模的数据和更加复杂的任务,还可以通过资源共享来增强物联网的容错性,使任务处理变得更加可靠。

目前,云侧智能是物联网智能化的主要实现方式,但仍存在3个问题:(1)传输时延较长。云侧智能将数据传输、汇总至集中式云计算中心以进行集群计算,这会造成较高的网络延迟,因此难以满足对实时性要求较高(10 ms以内)的计算任务和应用需求。(2)带宽占用较多。大规模原始数据上传至云计算中心需要占用大量带宽资源,这给有限的传输带宽带来巨大压力。(3)存在数据隐私风险和安全问题。在数据传输的过程中,用户隐私数据有可能会被泄露,同时云端服务器上隐私数据也存在安全隐患。云侧智能方式并不适用于机会性、分布式、异构的未来物联网环境,因此边缘智能应运而生。

边缘智能是指将智能下沉至数据近端设备,在定制化硬件上而不是云计算中心部署人工智能算法。边缘智能具有如下优势:(1)从根本上解决数据隐私问题。用户隐私数据无须上传至公用云服务器,上传至边缘智能节点即可,这从根本上保护了数据隐私和数据安全。(2)缩短响应时间,提升处理效率。专用的边缘智能节点离数据产生端更近,极大地缩短数据的传输时延,同时个性化的算法能够提升数据处理效率。因此,相对于云侧智能,未来智能物联网的实现方式将更多的智能下沉至边缘侧,依赖于边缘智能技术来更好地推动智能物联网的实现。

1 智能物联网的技术挑战

传统机器学习范式不足以支撑智能物联网应用的实现。目前的物联网应用大多基于局限性较大的传统机器学习范式,这存在如下问题:(1)在模型构建方面,通常需要大量的标注数据进行支撑,如果训练数据数量不足模型就无法得到充分训练,从而出现过拟合、泛化能力差的问题,严重影响准确率;(2)模型可解释性差,未来设备代替人类做决策,难以解释的推理过程容易产生不可预估的结果,且难以获得用户的信任;(3)在模型推理方面,深度学习需要进行大量的浮点运算,电能消耗量大,严重缩短受限设备的待机时间;(4)模型环境适应性差,封闭静态环境下获取的感知能力无法应对多样复杂的实际环境,尤其在训练假设未覆盖的数据空间,原模型容易造成漏判和错判,无法满足应用要求。

传统知识图谱技术不能满足智能物联网的要求。知识的完备性、先进性和准确性直接决定智能化水平,而智能物联网目标是实现自主决策。知识图谱在提高物联网智能化方面发挥了重要作用,但传统知识图谱技术存在如下问题:(1)物联网场景的个性化特征显著,知识更新速度快,因此,目前基于知识和经验的手工构建图谱的方式无法满足智能物联网自主决策的需求;(2)现阶段物联网中的知识图谱普遍为静态知识图谱,而物联网场景是随时间变化的,这就要求知识图谱必须持续更新才能避免知识失效;(3)与互联网中知识图谱主要用于辅助检索不同,物联网知识图谱最大的价值在于指导设备的智能交互,这对知识的准确性要求更高,需要建立一套可信性评价机制来过滤图谱中的错误知识。

传统计算架构不能满足智能物联网的需求。以云计算为代表的传统计算架构尽管可以满足计算密集型的深度学习任务对算力和存储资源的需求,但并不适用于对时延、可靠性、隐私等较为敏感的物联网场景:(1)在计算模式方面,传统计算架构和云计算需要用户将大量数据传输至数据中心。这种集中式计算模式依赖于网络连接,产生的时延较高,且存在安全隐患。而无人车、实时语音翻译等对响应时间有极高要求的应用,更倾向于将计算能力部署在离数据源更近的位置。这样可以产生更快的网络响应,满足行业在实时业务、应用智能、安全隐私等方面的需求。(2)在计算资源虚拟化方面,多设备的接入带来了大量的计算资源和存储资源,但接入物联网的设备往往是异构的、空间相互独立且处于动态变化中的。这会造成闲散资源不能被及时发现与利用,从而带来资源使用效率较低、业务服务质量较差、设备运营维护成本较高等问题。(3)在计算任务分配方面,当前任务分配策略主要基于一些贪婪启发式方法,存在任务切分粒度过大、不能自适应调整、难以与底层异构资源最优匹配等问题,无法满足应用任务丰富、动态变化的物聯网应用场景。

2 智能物联网重点研究领域

在未来智能物联网的场景中,物联网设备需要智能地与外部环境进行交互,实时监测外部环境变化,在开放的环境中持续学习、进化,以不断满足用户个性化的需求,提升服务质量,从而对外部环境变化做出自主、智能地反馈。面对未来智能物联网的挑战,学习引擎需要对感知到的实时数据进行分析,以完成对环境状态的认知;决策引擎需要在已积累知识的基础上实现推理、预测等。学习引擎和决策引擎的实现需要异构协同计算架构的支撑,具体如图2所示。传统机器学习范式、知识图谱技术、计算架构不足以支撑智能物联网场景中的应用服务,因此需要新型机器学习、物联网知识图谱、异构协同计算架构等核心技术的支撑。

2.1 新型机器学习范式

智能物联网应用的实现需要基于新型学习范式,而新型学习范式需要满足以下几方面:(1)能够在小样本数据的情况下快速完成模型构建;(2)构建的模型具有可解释性,能够说明输出的合理性和安全性;(3)能够在计算资源、存储资源、能量受限的物联网设备上实现快速模型推理;(4)能够在数据分布、数据类别、外部环境等发生变化时,快速适应环境并实现模型更新调整,维持稳定的性能。

2.1.1 模型构建

(1)小样本学习。借鉴人类从少量标签数据、无标签数据中快速学习的能力,小样本学习能够基于少量样本建立较强泛化性模型。多伦多大学提出一种用于小样本学习的原型网络,利用浅层神经网络学习特征空间到原型空间的非线性映射,并基于原型空间中的距离函数实现小样本学习[1];文献[2]提出基于元学习的小样本学习方法,利用一个不依赖模型结构的元学习器,通过在多个相关任务上的迭代训练得到泛化能力强的模型,实现小样本学习;文献[3]提出通过生成式对抗网络生成新样本,实现数据增强,解决小样本的生成和分类问题。

(2)协作学习。协作学习通过设备与设备间的知识迁移,实现任务模型在无人干预时的自主重建。根据传递知识的类型,协作学习方法分为基于模型参数迁移、特征表示迁移和标签分布迁移3种机制。S. A. ROKNI等[4]基于模型参数迁移提出一种动态环境下的自动学习方法,通过对齐源领域和目标领域的输入空间,使原来的协作模型可以被直接复用;A. AKBARI等[5]基于特征迁移提出一种表示特征提取方法,将源领域中优秀的特征迁移到目标领域,从而省去特征学习过程;S. A. ROKNI等[6]提出基于标签修正的标签分布迁移方法,通过迁移学习方法实现自动化数据标注,但这种方法会存在源模型预测失误、传播机制缺陷等负传播问题。随后,样本选择[7]和蒸馏学习[8]等改进方法被相继提出,以提升目标模型的准确率和训练效率。目前在协作学习的研究中,参与协作的设备需要具有完全一致的任务目标,但实际物联网中设备的任务可能部分重合或互相补充。这就需要更复杂的协作机制,使物联网在获取动态多样化的设备信息后,能够自主获取高层次的感知能力,以提供稳定可靠的应用服务。

(3)知识驱动型学习。知识驱动型学习利用人类已掌握的先验知识,如科学规律、领域常识、语义嵌入、知识图谱、不确定性分析等,实现对数据驱动模型的特征空间、参数空间及输出空间的约束,加快模型的训练过程,降低训练样本需求,减少潜在违反常识的决策结果。S. RUSSELL等[9]提出利用自由落体公式、速度公式等物理定律,以及人为制定规则代替训练数据的方法,直接约束监督神经网络的输出空间;FANG Y.等提出一种基于知识图谱的目标检测方法[10],利用知识图谱修正模型的损失函数,结合图像特征和语义一致性提升目标检测准确率;WANG X.等提出一种基于语义嵌入和知识图谱的零样本学习方法[11],在不增加训练样本的情况下,基于知识图谱和语义嵌入知识,以已知类别的模型实现对未知类别模型的表征,实现新任务模型构建。

2.1.2 模型推理

(1)模型压缩。在模型准确率损失可接受的前提下,模型压缩通过减少神经网络中冗余参数、精简网络结构等方法,实现对模型尺寸的压缩以及推理计算的加速,进而降低深度学习模型物联网终端侧部署的门槛。HE Y.等[12]寻找卷积核中若干的几何中位数点,并以此为样本中心修剪邻域内的卷积核;WAN D. W.等[13]通过对权重的二值化与输入的三值化处理,大幅压缩模型尺寸,同时通过采用位运算进一步提高计算效率;TAN M. X.等[14]提出神经网络架构搜索技术,通过优化网络架构空间,引入终端内存压力、计算时延至模型优化过程,实现自主轻量化神经网络设计。未来的研究将会聚焦于整合已验证的有效技术、将多种技术人工或自动地组合成一个整体,以实现更高效的模型压缩结果。现有的模型压缩研究也会更快地下沉至生产过程中。另外,之后也会有更多针对特定场景、特定任务的模型压缩研究成果。

(2)持续学习。持续学习是一种能够克服传统机器学习中“灾难性遗忘”的问题(指一旦使用新的数据集去训练已有的模型,该模型将会失去对原数据集识别的能力),且在新环境中能够不断吸收新知识、保留旧知识的学习机制。2017年LI Z. Z.和D. HOIEM提出了一种不需要旧数据就能完成持续学习的方法[15]。该算法中,部分新类样本首先利用旧模型打上旧类数据的伪标签,然后和新样本数据一起训练以实现模型的持续更新。S. A. REBUFFI等[16]在同年提出了一种经典的iCaRL持续学习算法,将特征学习与分类器解耦,并借助样本点集和知识蒸馏等方式完成模型的持续学习。多伦多大学提出了一种基于注意力机制的类增小样本学习方法[17],在持续学习阶段引入注意力机制,并设计了一种基于注意力吸引因子的网络结构,利用元学习思想,在不需要旧类数据的前提下,实现了基于小样本新类数据的持续学习。TAO X. Y.等[18]提出了一种基于小样本的类增学习方法,基于神经气体网络和拓扑结构,实现无需大量样本的新类学习。当前的持续学习技术大部分是指多任务类增学习,即通过使已学习的旧类样本在新类训练中不再出现,来检验模型对抗遗忘的能力。在实际应用中,新、旧类别的样本是交叉出现的,模型应在避免遗忘的基础上,具有自我巩固的能力。

2.2 物联网知识图谱

在智能物联网中,设备将不再局限于被动接受控制,而是像人一样能够基于数据进行自动化的场景分析、数据处理和系统配置,依据掌握的知识智能地发起与其他设备的交互,通过彼此间的协作完成复杂的场景任务。为了实现这个要求,除了赋予设备自学习能力外,还需要设备能够像人的大脑一样对知识进行表达和存储。知识图谱作为推动人工智能发展的核心驱动技术之一,提供了一种从海量数据中抽取结构化知识并利用图分析进行关系挖掘的手段[19]。知识图谱可以对知识进行有效组织,为设备的智能协作提供一个共同的知识模型,从而实现设备之间知识共享和语义互通,最终支持设备的智能思考与自主决策。

2.2.1 知识图谱自动化构建

针对现有知识图谱构建技术普遍存在的效率低、限制多、拓展性差等问题,一些学者已经尝试通过自然语言处理技术自动地从多模态的异构数据中提取出实体、属性以及实体间的相互关系,在此基础上形成网络化的知识表达并完成知识图谱的构建。碎片化的农业百科数据能够自动识别农业领域实体,并抽取出城市与气候的影响关系、气候与植物的种植关系等三元组关系。CHEN Y. Z.等[20]构建面向智慧农业的知识图谱及其应用系统,支撑农业领域的信息检索、智能问答、辅助决策等应用。LI L. F.等[21]以大规模电子病历为数据源,利用命名实体识别、实体关系抽取和图嵌入等技术自动化地构建医疗知识图谱,将其应用于智能问诊、病历质量评估、医生诊疗辅助等智慧医疗应用。该图谱包含疾病、症状等9个类别的22 508个实体,以及579 094 条实体关系。刘瑞宏等[22]以结构化、半结构化的网络数据和非结构化的产品文档、故障案例文档等为数据源,构建电信领域知识图谱,将电信网络领域零散的专家经验及产品、案例知识和故障数据有效关联,并应用知识图谱推理技术,进行网络故障智能诊断,辅助解决网络运维领域的故障问题。

2.2.2 知识图谱持续更新

静态知识图谱缺乏持续更新能力,无法为动态改变的场景提供准确的知识推理。针对此问题,研究者尝试将知识图谱与时间信息关联,形成随时间动态更新的语义网络,以提升知识的先进性。YOU S. J.等[23]通过向知识图譜的三元组中增加时间维度信息,将静态知识图谱升级为动态时序知识图谱,并结合长短期记忆(LSTM)神经网络学习智能家居中用户动态变化的行为习惯,以进一步预测物联网设备状态的变化,指导设备的自主决策。基于电子病历构建临床领域时序知识图谱,陈德华等[24]通过对实例和关系进行序列化扩展,得到一定时间段内按照时间排序的三元组列表,来表达病程发展随时间变化的时序特性,还结合LSTM序列学习技术预测时序图谱中实体之间的链接,以支撑疾病的诊断和并发症的挖掘等应用。

2.2.3 知识图谱可信性验证

知识图谱可信性验证是对知识图谱中每个三元组所表达知识的可信程度进行评估,以提高知识图谱表达精度。以TransE[25]为代表的知识图谱向量化表示模型的提出,为更多知识图谱的研究和应用创造了条件。一些研究者尝试将知识可信性评估嵌入知识图谱实体和关系的向量学习过程中,以提升知识图谱节点和关系向量表征精度,并在此基础上获得图谱中每个三元组的置信度评分。XIE R. B.等[26]提出一种基于置信度的知识表示学习算法,该模型在TransE的目标函数中增加了三元组的置信度评分,并且在训练的过程中利用实体与实体之间的所有路径信息,动态地学习三元组的置信度以及实体和关系的向量表示,以进一步发现知识图谱中潜在的错误知识。JIA S. B.等[27]提出了一种知识图谱置信度评估模型,增加了基于实体初度、入度、路径深度等信息计算的实体关联强度,将实体关联强度与基于路径信息计算的可信度值联合输入至交叉熵的神经网络中进行融合,得到三元组可信性的综合评价值。ZHAO Y.等[28]利用知识图谱中的实体类型信息以及实体描述信息分别计算三元组置信度值,通过对两者进行加权,最终得到三元组整体的置信度。

2.3 异构协同计算

异构协同计算聚焦于利用边缘侧异构计算资源执行深度学习任务,具体包含3个关键技术:异构协同计算架构模式、资源虚拟化技术,以及异构资源图与任务图智能匹配的资源分配机制。

2.3.1 异构协同计算架构

异构协同计算架构主要包括中心化架构、去中心化架构、混合模式。中心化架构即以边服务器为中心执行深度学习任务,将边缘数据中心作为数据生产者和消费者的中继。应用服务可以直接在边缘完成响应,并返回终端设备[29]。去中心化架构即通过设备协作训练模型自组网,借助区块链技术为边缘计算提供新的可信计算范式。区块链技术一方面可以评估边缘服务器平台的安全,另一方面可以通过白名单、数字证书等进行服务安全性验证,最终确保终端可从安全的去中心化边缘服务端获取安全的服务[30]。混合模式即包括端边、边云、端边云等在内的多种协作模式。该模式的网络层级一般可以分为终端层、边缘计算层、云计算层。其中,终端层主要完成各种物联网设备原始数据收集及上报;边缘计算层分布在终端设备与计算中心之间,可以是智能终端设备本身也可以被部署在网络连接中;云计算层仍然是最强大的数据处理中心,它可以完成边缘计算层无法处理分析的任务[31]。

2.3.2 资源虚拟化

单一设备上的有限资源不足以完成智能物联网的计算密集型任务,因此需要充分利用多个设备上的闲散资源。物联网端侧设备往往具有异构特征,且处在动态变化中。为实现设备资源的充分利用及统一调度,需要对异构设备资源进行软件定义及虚拟化抽象,構建边缘资源池,以实现对底层设备资源的动态感知与协同。资源虚拟化技术主要用来解决异构设备资源服务能力描述的问题,其最终目标是打破异构硬件之间的界限,实现对多种多样的物理设备的资源感知、抽象和虚拟化[32],并将其映射到可被平台调度的逻辑设备上的虚拟资源节点中。软件定义技术可以将设备虚拟和抽象成计算、存储等服务能力节点,从而实现资源的统一管理和编排,促进跨异构物联网设备的资源调度,提高物联网设备端的整体服务能力[33]。

2.3.3 计算任务智能分配

计算任务智能分配的方式主要有两种:数据并行方式和模型并行方式。数据并行方式是将训练数据集进行切分,搭载完整模型的分布式设备,并利用不同数据子集进行训练。以联邦学习为例,其设计目标是在保障大数据交换时信息安全及数据安全隐私的前提下,多参与方或多计算节点之间只上传各自数据子集训练出的模型参数而非原始数据,从而开展高效率的机器学习[34]。模型并行的方式是将模型进行切分,从而共享全部数据集[35]。这两种方式在物联网场景下均面临任务切分粒度过大、难以与底层异构资源最优匹配等问题,且任务划分维度固定,难以满足应用任务丰富、动态变化的物联网应用场景。WU Q.等[36]提出一种基于图卷积网络的智能任务分配算法。该算法包含资源子图构建、计算任务图分解,以及基于图匹配算法的系统性能预测等方面,对上实现深度学习任务的细粒度分解,对下实现异构边缘计算资源的统一管理和任务的智能分配,实现深度学习模型的高效训练和推理,提高资源利用率和整体系统性能。

3 未来研究展望

(1)重视强化学习理论。未来智能物联网场景对模型可靠性、可解释性要求很高。相对于可解释性差的深度学习,具有强逻辑性和强可解释性的强化学习更具优势。强化学习强调有机体如何在环境给予的奖励或惩罚的刺激下,逐步形成对刺激的预期,产生能获得最大利益的习惯性行为。不同于其他学习范式,强化学习不要求预先给定任何数据,而是通过接收环境对动作的反馈获得学习信息并更新模型参数。在未来的研究中,多智能体强化学习将是重点研究方向,同时强化学习与知识图谱、迁移学习等相关技术的有机结合是构建快速学习能力的关键。

(2)重视领域知识价值。数据是知识的外延和具象化,知识是数据的内涵和抽象化。数据驱动有助于对细节的把握,知识驱动更有助于对全局的认知,因此需要将数据驱动和知识驱动融合起来,探索由全局到局部的渐进式学习机制。

(3)重视多设备资源协同。针对物联网设备资源受限问题,目前业界利用模型压缩、小样本学习等方法在单一设备层面解决高效学习问题。但物联网中有海量设备,而不同级别设备又具有不同的数据资源、计算能力、领域知识。因此,如何有效协同多设备资源完成计算任务是一个很有潜力的方向。在多设备协同学习中,设备之间可能存在合作、竞争等多种关系,因此需要考虑借助博弈论、多智能体等理论尝试对多设备协同学习问题进行研究及建模,以便达到最优组合。

(4)重视人机增强智能。人是物联网应用环境中的一部分,在设备学习过程中应该充分发挥人这一高级智能体的作用。人机交互的方式可以帮助设备构建反馈回路,实现智能水平的提升。另外,我们还需要借鉴人脑的学习机理,构建受脑启发的学习范式和计算模型。

4 結束语

智能物联网是6G最为核心的应用领域,它对处理时延、功耗、数据隐私保护等提出更高要求。智能物联网的实现依赖于边缘智能技术的进一步发展。本文首先对智能物联网带来的技术挑战进行了讨论,其次对智能物联网涉及的重要技术领域进行了梳理与分析,包括新型机器学习范式、物联网知识图谱技术、异构协同计算等,最后对智能物联网未来发展进行了展望和总结。

参考文献

[1] JAKE S, SWERSKY K, ZEMEL R. Prototypical networks for few-shot learning [C]//Advances in Neural Information Processing Systems(NeurIPS). Long Beach, CA, USA: ACM, 2017: 4077-4087

[2] FINN C, ABBEEL P, LEVINE S. Model-agnostic meta-learning for fast adaptation of deep networks [C]//ICML17: Proceedings of the 34th International Conference on Machine Learning. Sydney, Australia: ACM, 2017: 1126-1135

[3] ALI-GOMBE A, ELYAN E, SAVOYE Y, et al. Few-shot classifier GAN [C]//2018 International Joint Conference on Neural Networks(IJCNN). Rio de Janeiro, Brazil: IEEE, 2018: 1-8. DOI:10.1109/IJCNN.2018.8489387

[4] ROKNI S A, GHASEMZADEH H. Autonomous sensor-context learning in dynamic human-centered Internet-of-Things environments [C]. 2016 IEEE/ACM international conference on computer-aided design (ICCAD). Austin, TX, USA: IEEE, 2016: 1-6

[5] AKBARI A, JAFARI R. Transferring activity recognition models for new wearable sensors with deep generative domain adaptation [C]//Proceedings of the 18th International Conference on Information Processing in Sensor Networks. New York, NY, USA: ACM, 2019: 85-96. DOI: 10.1145/3302506.3310391

[6] ROKNI S A, GHASEMZADEH H. Synchronous dynamic view learning: A framework for autonomous training of activity recognition models using wearable sensors [C]//IPSN‘17: Proceedings of the 16th ACM/IEEE International Conference on Information Processing in Sensor Networks. New York, NY, USA: ACM, 2017: 79-90. DOI: 10.1145/3055031.3055087

[7] BAO Y Y, MA L Q, CHEN W. SSL: synchronous self-paced learning for Internet-of-things devices [C]//Proceedings of the 1st ACM International Workshop on Smart Cities and Fog Computing. New York, NY, USA: ACM, 2018: 13-18. DOI: 10.1145/3277893.3277898

[8] KONG D Q, BAO Y Y, CHEN W. Collaborative learning based on centroid-distance-vector for wearable devices [J]. Knowledge-based systems, 2020, 194: 105569. DOI: 10.1016/ j.knosys.2020.105569

[9] STEWART R, ERMON S. Label-free supervision of neural networks with physics and domain knowledge [EB/OL]. (2016-09-18)[2021-02-10]. https://arxiv.org/abs/1609.05566

[10] FANG Y, KUAN K, LIN J, et al. Object detection meets knowledge graphs [C]//Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence. Melbourne, Australia: International Joint Conferences on Artificial Intelligence Organization, 2017: 1661-1667. DOI: 10.24963/ ijcai.2017/230

[11] WANG X L, YE Y F, GUPTA A. Zero-shot recognition via semantic embeddings and knowledge graphs [C]//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Salt Lake City, UT, USA: IEEE, 2018: 6857-6866. DOI: 10.1109/CVPR.2018.00717

[12] HE Y, LIU P, WANG Z W, et al. Filter pruning via geometric Median for deep convolutional neural networks acceleration [C]//2019 IEEE/ CVF Conference on Computer Vision and Pattern Recognition (CVPR). Long Beach, CA, USA: IEEE, 2019: 4335-4344. DOI: 10.1109/ CVPR.2019.00447

[13] WAN D W, SHEN F M, LIU L, et al. TBN: convolutional neural network with ternary inputs and binary weights [M]//Computer Vision-ECCV 2018. Cham, Switzerland: Springer International Publishing, 2018: 322-339. DOI: 10.1007/978-3-030-01216-8_20

[14] TAN M X, CHEN B, PANG R M, et al. MnasNet: platform-aware neural architecture search for mobile [C]//2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Long Beach, CA, USA: IEEE, 2019: 2815-2823. DOI: 10.1109/ CVPR.2019.00293

[15] LI Z Z, HOIEM D. Learning without forgetting[J]. IEEE transactions on pattern analysis and machine intelligence, 2018, 40(12): 2935-2947. DOI: 10.1109/TPAMI.2017.2773081

[16] REBUFFI S A, KOLESNIKOV A, SPERL G, et al. iCaRL: incremental classifier and representation learning [C]//2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR). Honolulu, HI, USA: IEEE, 2017: 5533-5542. DOI: 10.1109/CVPR.2017.587

[17] REN M, LIAL R, FETAYA E, et al. Incremental few-shot learning with attention attractor networks [C]//Proceedings of the Advances in Neural Information Processing Systems. USA: IEEE, 2019: 5276-5286

[18] TAO X Y, HONG X P, CHANG X Y, et al. Fewshot class-incremental learning [C]//2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Seattle, WA, USA: IEEE, 2020: 12180-12189. DOI: 10.1109/CVPR42600.2020.01220

[19] 符山, 呂艾临, 闫树. 知识图谱的概念与应用 [J].信息通信技术与政策, 2019, (5): 10-13

[20] CHEN Y Z, KUANG J, CHENG D, et al. AgriKG: an agricultural knowledge graph and its applications [C]//Proceedings of DASFAA. Chiang Mai, Thailand, 2019: 533-537

[21] LI L F, WANG P, YAN J, et al. Real-world data medical knowledge graph: construction and applications [J]. Artificial intelligence in medicine, 2020, 103: 101817. DOI: 10.1016/ j.artmed.2020.101817

[22] 刘瑞宏, 谢国强, 苑宗港, 等. 基于知识图谱的智能故障诊断研究 [J]. 邮电设计技术, 2020,(10): 30-35

[23] YOU S J, LI X T, CHEN W. Intelligent prediction for device status based on IoT temporal knowledge graph [C]//2020 IEEE/ CIC International Conference on Communications in China (ICCC). Chongqing, China: IEEE, 2020: 560-565. DOI: 10.1109/ ICCC49849.2020.9238860

[24] 陈德华, 殷苏娜, 乐嘉锦, 等. 一种面向临床领域时序知识图谱的链接预测模型 [J]. 计算机研究与发展, 2017, 54(12): 2687-2697

[25] ANTOINE B, NICOLAS U. Translating embeddings for modeling multi-relational data [C]// Proceedings of Neural Information Processing Systems (NeurIPS). 2013: 2787-2795

[26] XIE R B, LIU Z, LIU F, et al. Triple trustworthiness measurement for knowledge graph[EB/OL]. (2017-05-09)[2021-01-27]. https:// arxiv.org/abs/1705.03202

[27] JIA S B, XIANG Y, CHEN X J, et al. Triple trustworthiness measurement for knowledge graph [C]//Proceedings of the 28th International Conference on World Wide Web, 2019: 2865-2871

[28] ZHAO Y, FENG H L, GALLINARI P. Embedding learning with triple trustiness on noisy knowledge graph [J]. Entropy, 2019, 21(11): 1083. DOI: 10.3390/e21111083

[29] 施巍松, 孫辉, 曹杰, 等. 边缘计算: 万物互联时代新型计算模型 [J]. 计算机研究与发展, 2017, 54(5): 907-924

[30] 张云勇, 程刚, 安岗, 等. 区块链在电信运营商的应用[J]. 电信科学, 36(5): 1-7. DOI: 10.11959/j.issn.1000-0801.2020151

[31] TALEB T, SAMDANIS K, MADA B, et al. On multi-access edge computing: A survey of the emerging 5G network edge cloud architecture and orchestration [J]. IEEE communications surveys & tutorials, 2017, 19(3): 1657-1681. DOI: 10.1109/ COMST.2017.2705720

[32] FARACI G, LOMBARDO A. An NFV approach to share home multimedia devices [C]//2017 IEEE Conference on Network Softwarization(NetSoft). USA: IEEE, 2017: 1-6

[33] HU P F, CHEN W, HE C M, et al. Soft- ware-defined edge computing (SDEC): principle, open IoT system architecture, applications, and challenges [J]. IEEE Internet of Things journal, 2020, 7(7): 5934-5945. DOI: 10.1109/JIOT.2019.2954528

[34] LIM W Y B, LUONG N C, HOANG D T, et al. Federated learning in mobile edge networks: a comprehensive survey [J]. IEEE communications surveys & tutorials, 2020, 22(3): 2031-2063. DOI: 10.1109/COMST.2020.2986024

[35] WANG X F, HAN Y W, LEUNG V C M, et al. Convergence of edge computing and deep learning: a comprehensive survey [J]. IEEE communications surveys & tutorials, 2020, 22(2): 869-904. DOI: 10.1109/ COMST.2020.2970550

[36] QU W, DING X L, YANG K, et al. IDEC: intelligent distributed edge computing system architecture enabling deep learning across heterogeneous IoT devices [C]//2020 IEEE 6th International Conference on Computer and Communications (ICCC). Chengdu, China: IEEE, 2020: 926-933. DOI: 10.1109/ ICCC51575.2020.9345083

作者简介

Wai CHEN,国家特聘专家,中国移动研究院首席科学家;拥有30多年前瞻技术研究经历,主要研究领域为机器智能、边缘计算、下一代车联网及智能交通;在车路协同V2X、机器智能和边缘计算等方面发表论文100余篇,并出版了1本关于车辆通信和网络的著作,拥有36项美国专利。

鲍媛媛,中国移动研究院高级研究员;主要研究领域为机器智能、边缘计算;已发表论文40余篇。

猜你喜欢
异构图谱样本
离散异构线性多智能体系统的输出一致性
基于CiteSpace的我国文化“走出去”研究的知识图谱分析(2001-2020)
试论同课异构之“同”与“异”
深度揭示小数本质的课堂教学——四位名师《小数的意义》同课异构的分析与启示
凝聚与铺张——孙绍振教授《以丑、呆为美》两岸同课异构教学观摩后记
图表
直击高考中的用样本估计总体
随机微分方程的样本Lyapunov二次型估计
最精确人类大脑图谱出炉
基于支持向量机的测厚仪CS值电压漂移故障判定及处理