迁移学习在6G无线通信中的应用综述*

2022-05-26 03:04:14王美玉林云司光振
移动通信 2022年4期
关键词:源域无线领域

王美玉,林云,司光振

(哈尔滨工程大学信息与通信工程学院,黑龙江 哈尔滨 150001)

0 引言

无线通信的发展经历了从仅支持基本覆盖的第一代无线通信到大规模商用的大型复杂的第五代(5G)无线通信,即将迎来“一念天地、万物随心”的第六代(6G)无线通信[1-2]。6G 既要延续前几代的趋势[3],又要克服5G 面临新挑战的局限性。6G 的关键驱动力将是过去所有功能的集成,如网络致密化、高吞吐量、高定位精度、能效优化和大容量连接。关于6G 的工作业界对大规模链路、复杂结构和能源效率提出了严格的要求,也提出了一些潜在的技术,如人工智能(AI,Artificial Intelligence)[4-5]、多输入多输出(MIMO,Multiple-In Multiple-Out)[6-7]、量 子 通 信(QC,Quantum Communication)[8]、随机接入[9]、设备通信[10]、太赫兹通信[11]、大规模多址[12]、100 GHz 以上频段的使用[7]、自动驾驶[13]和无人机(UAVs,Unmanned Aerial Vehicles)[14-15]。

如何在节约成本的同时提高工作效率是未来6G 无线通信领域最重要的研究方向之一,从经验中学习是实现这一愿景的重要途径。迁移学习鼓励新的任务/ 领域向有经验的任务/ 领域学习,以帮助新任务变得更快、更高效。在无线通信的许多领域中,迁移学习可以利用不同任务之间的相关性和相似性信息来节能及提高效率,因此将迁移学习应用于未来6G 通信是一个非常有价值的课题[16]。关于6G 的很多研究只把迁移学习作为AI 方法的一个分支,而没有详细分析迁移学习在6G 中的潜在应用。基于此,本文对不同无线通信领域的迁移学习算法进行全面综述,并详细讨论迁移学习与6G 通信之间相互关系的未来研究方向,最后提出将迁移学习融入到6G 中的挑战和未来问题。

1 迁移学习技术

1.1 迁移学习一般过程

迁移学习利用已有的数据、模型和知识,在领域相似性的基础上“举一反三”,把学到的通用经验适配到新的领域、场景和任务上。一般情况下,可以将迁移学习任务分为三个阶段:何处迁移、何时迁移、怎么迁移。由此可以概括迁移学习的一般过程如图1 所示,获取到所需数据后,对数据进行可迁移性分析,然后便是迁移过程。一个迁移学习过程结束后,需要按照特定的模型选择方法对迁移学习模型和参数进行选择,选择出最优模型后要对模型进行部署与评估。这些模块并不一定是顺序进行,在系统运行过程中存在经验推理与反馈机制[17]。

图1 迁移学习的一般过程

1.2 迁移学习方法分类

根据不同的研究对象,迁移学习方法可以分为两大类:数据知识迁移和工具模型迁移,具体如图2 所示。数据知识迁移需要统计实例、特征、内核空间特征等数据知识,将其作为迁移对象帮助目标域完成数据标注;工具模型迁移是指获取模型参数、网络结构等,将其作为迁移对象来辅助目标域模型的构建。

图2 迁移学习方法分类

(1)数据知识迁移学习:原始数据分布代表了环境或任务的本质,进行数据知识迁移是从根本上挖掘源域和目标域的潜在共有成分,这部分算法对源域和目标域分布差异要求较高,且计算复杂度较大。

(2)工具模型迁移学习:一个好的工具可以事半功倍。工具模型迁移学习直接提取在源数据上完成的模型的有用部分,应用于目标域模型训练。这些模型参数可以用作目标模型的初始值,甚至可以用作目标模型的一部分。

2 迁移学习在无线通信中的典型应用

下面将全面回顾在无线通信领域中基于迁移学习模型来提高系统效率、降低系统能耗、提高定位精度等方面的工作。后续研究将进一步结合6G 需求,挖掘这些研究工作的潜在价值。

(1)迁移学习应用于Base Stations/Access Points(BSs/APs)切换能源效率

蜂窝网络中基站和无线网络中接入点的切换是最耗能的单元。一般情况下,为了避免由于基站始终处于活动状态而导致负载能力达到峰值所产生的高能耗问题,BSs/APs 切换的节能工作主要依赖基于流量状况的动态开/ 关动作。强化学习方法因不需要流量负载的先验知识而被广泛应用于BSs/APs 动态切换动作中。进一步针对在新环境、新任务中强化学习模型收敛速度慢的问题,强化迁移学习模型——TACT 模型被提出,其利用流量负载的时间和空间相关性,将历史时间或相邻区域(源任务)的BSs 切换操作策略应用于目标任务[18-19],在Wi-Fi 网络[20]、由宏基站和小基站组成的异质网络[21]也同样适用。

(2)迁移学习应用于频谱资源动态分配

在基于Q-learning 的迁移学习应用于频谱资源分配的前期工作中,探索了分布式认知代理通过知识迁移来分享其动态频谱管理经验的关键问题,包括迁移的地点、内容和时间[22-23]。后来,在灾后和临时事件场景中快速部署机会网络的频谱和拓扑管理场景下,基于Q-learning的迁移学习将早期阶段学习动态无线环境传递给后期网络部署,保持网络结构在临时事件中高度的灵活性[24]。此外,基于Q-learning 的迁移学习还被用于从用户的角度选择合适基站小区[25],新用户通过向相邻有经验的用户学习来加快决策过程[26],多个经验用户将知识迁移给一个新用户,使其做出更成熟的适应策略[27]。TACT 也用于新的用户向有经验的用户学习[28]。

(3)迁移学习应用于内容流行度预测

内容流行度预测在主动缓存网络和推荐系统中发挥着重要作用。然而,它们都面临着类似的数据稀疏问题,并且为了准确预测,需要花费大量时间来计算大量数据。最早使用迁移学习在该领域是在源域通过协同过滤算法进行训练和预测,然后在任务相似的目标域共享内容流行度矩阵[29],并进一步发展出了基于迁移学习的协同缓存策略[30]。后来,为了缩短导出内容流行度预测模型的时间,一种新的迁移学习途径是将用户与社区互动中获得的知识作为源域、用户的请求作为目标域[31]。

(4)迁移学习应用于室内无线定位

基于机器学习的室内无线定位方法大多依赖于收集大量的标注数据,离线训练一个精确的定位模型供在线使用。然而,即使在相同的环境中,同一时期收集的信号强度数据也可能不同于另一个时期,因此在新环境中校准本地化定位模型是费时费力的。基于流行学习的迁移学习模型[32-33]、迁移核学习[34]、多源域迁移[35]等在该领域很好地解决了上述问题,这些方法利用历史数据作为源域、在线实时采集数据作为目标域,或者源域和目标域来自两个不同空间的室内定位系统。

(5)迁移学习应用于网络入侵检测

迁移学习在网络入侵检测中的应用可以根据判断源域和目标域的特征是否同构来划分。最初研究的基于迁移学习的入侵检测模型中,假设源域和目标域具有同质特征,采用基于实例的迁移学习方法[36]。但是,这种假设并不适用于快速变化的网络环境,源域和目标域来自不同时期的网络被看作是异构数据之间的迁移学习,因此面向异构数据的迁移学习方法在该领域得到广泛应用[37-39]。

(6)其他应用

迁移学习在无线通信领域的一些新鲜领域也有一些初步尝试。例如,在无人机通信中应用迁移学习来预测场景或频率变化时数据的有限路径损耗[14];在无线电信号分类中解决小样本训练问题[40];在具有不同特征空间的不同类型对象之间迁移知识来评估物联网网络环境[41];在VR(Virtual Reality)资源管理中,迁移学习模型可以将已经学习到的资源分配策略迁移到新的资源分配任务中,当用户请求分配和数据相关性发生变化时更快地提高收敛速度[42];在自动驾驶系统中协助多感知信息融合[43]。

本文从迁移学习过程三个基本问题出发,将迁移学习在无线通信中的应用汇总如表1 所示,这些研究是未来迁移学习应用于6G 通信的基础,也说明迁移学习对于6G 通信是不可或缺的。

3 迁移学习服务于6G无线通信的愿景

目前6G 还处于规划和发展阶段,其应用服务需求和支撑技术的研究大多以任务驱动的方式在已有技术的基础上进行创新。本文根据迁移学习在无线通信领域的已有工作,将6G 无线通信中可能与迁移学习技术有关的服务需求分成五大类,具体如下:

(1)高效率:是一个综合问题,包括高传输速率、高容量、大规模数据处理能力和高精确的预测结果。在6G 技术研究中,对应于高效率的支撑技术有动态频谱分配、动态网络切片、智能天线系统、大数据分析和高容量回程网络。

(2)无缝衔接:是指实现多领域衔接无障碍,使6G 通信更加流畅和快速。具体实现雷达技术与移动技术、无线信息和能量传输、感知与通信、接入网和回程网等成对信息或技术的无缝衔接。

(3)高精度定位:是未来6G 中虚拟现实、上下文感知、推荐系统等分布式模型能够准确运行的前提,由于移动设备和移动用户的增加,通信环境将变得越来越复杂,噪音和障碍物的影响将更加强烈,高精度定位也会更加困难。

(4)超级连接:包括智能连接、深度连接、全息连接和泛在连接,6G 将把无线技术的发展从“物联网”更新为“互联智能”。在集空、天、地、海于一体的三维(3-D,3-Dimension)连接发展的推动下,未来将会有通过无人机、低轨卫星接入网络和核心网的功能,可以称之为超级3-D 连接。

(5)绿色安全:是指6G 通信既需要节能,也需要隐私。在6G 网络中,一切都是互连的,设备是可互操作的,这对生物认证、隐私保护和入侵检测提出了新的挑战。

面对以上6G 无线通信应用服务需要,迁移学习技术可用于从多个不同的角度促进实现愿景。如图3 所示,展示出了6G 无线通信中迁移学习的可能场景,相信这些场景只是6G 中未来迁移学习应用的一小部分。迁移学习将使6G 更加安全可靠、更快、更智能、更准确和节能,并促进绿色通信的发展。下面将重点阐述迁移学习在6G中的应用愿景。

(1)基于远域迁移的大型异构平台:远域迁移学习利用源域和目标域之间的中间域进行多跳迁移,放松了源域和目标域之间的紧密关系[49]。6G 将涉及各种各样的异构通信系统,如频带、通信拓扑和服务交付。此外,接入点和移动终端的硬件设置也会有很大不同。因此,将所有通信系统集成到一个平台将具有挑战性。如果能将远域迁移学习应用到这个大型异构平台上,不仅可以紧密连接异构设备相互学习,还可以避免重复训练带来的损失。

(2)基于在线迁移学习实时信息处理:6G 无线通信中对很多场景下的实时处理效率要求将会非常严格,如无单元通信、动态网络切片以及集成传感和通信。在线迁移学习支持目标域数据以流的形式增长,结合源域来综合考量目标域数据分布变化[50],对6G 无线通信中的在线实时信息处理将会起到很大的作用。

(3)基于联邦迁移学习安全协同通信:联邦迁移学习允许用户协作学习共享模型,并保留未共享的私有数据,隐私是联邦迁移学习的基本属性之一[51]。无线移动设备不断增长的计算和存储能力将为6G 本地处理数据提供机会,然而不稳定的无线信道无法保证数据的隐私性和安全性,成为移动设备上分布式训练的重要瓶颈。联邦迁移学习将为大规模紧密结合的独立网络结构提供一种非常重要的互联学习和隐私保护方式。

(4)基于多维域迁移的3-D 连接:6G 系统将扩大通信覆盖的广度和深度,即在传统蜂窝网络的基础上分别与卫星通信和深海、远洋通信深度融合,通过低轨卫星和无人机组成三维网,以支持用户在垂直扩展中的通信。多维域迁移学习可以促进维度沟通,帮助卫星系统协同以及卫星系统与地基系统的协同,大大提升整体系统性能,降低时延,提高系统效率。

(5)基于融合人类经验迁移的自主无线系统:6G系统将为自动系统提供全面支持,如自动驾驶汽车、UAVs 和基于AI 的工业4.0。为了创建自治的无线系统,需要混合不同的软件子系统(如自治计算、互操作流程、ML、自治云)和不同的异构硬件系统,整个系统之间的协作非常重要。融合人类经验的迁移学习可以将人的体验转化给自动化系统,如驾驶员的驾驶体验、工人的操作体验等,降低了从零开始学习的难度和挑战。

(6)基于学习迁移的大规模自适应衔接:6G 系统中无线衔接复杂多样,包括能量与信息衔接、跨时空衔接和硬件与软件衔接,不同场景下所适用的迁移学习算法不同,手动选择不仅耗时,有时还不够精确,学习迁移模型(L2T,Learning to Transfer)可以利用先前的迁移学习经验来自适应选择迁移模型[52]。因此,建立6G无线通信需求下的迁移学习方法库,应用学习迁移模型,根据不同的环境需求,自动匹配库中的最优迁移学习方法,实现复杂无线通信环境下的大规模自适应衔接。

4 挑战与展望

尽管迁移学习在6G 无线通信中有巨大潜力,但也存在巨大挑战,本文将其分为三大方向:源域大规模数据获取、源域与目标域相似性度量以及迁移过程中安全隐私与模型效率的冲突。第一,尽管迁移学习可以解决数据稀疏的问题,大大减轻目标域网络实体和BSs 的计算负担,但它无法避免源域对数据量和丰富模型训练经验的需求;第二,源域和目标域的匹配程度将直接影响迁移模型的效果,但随着网络规模的扩大和节点任务的增加,源域和目标域的相似性度量将变得越来越复杂;第三,在源域信息向目标域迁移过程中,如何平衡隐私信息保护与迁移模型有效性和成本消耗之间的关系也是一大难题。迁移学习服务于6G 无线通信挑战与展望如图4 所示:

图4 迁移学习服务于6G无线通信挑战与展望

具体阐述如下:

(1)丰富实测数据集的收集和开放访问:从以往的研究中发现,迁移学习在无线通信中的应用大多基于该领域的机器学习模型,尤其是对强化学习的依赖。源域中的机器学习模型在训练过程中需要大量的数据,不得不承认在各种应用环境中,大量可访问的测量数据集是技术兴起的重要源泉,如计算机视觉领域最著名的“ImageNet”,这些开放存取数据集为同一领域不同学习算法的比较提供了支持。然而这种可访问的无线通信数据集仍在开发中,开放获取真实通信数据的难点在于数据保护和隐私法规。迁移学习可以减少对数据量的需求,因为它能够避免重复工作,而不是毫无根据地创建数据,这是在无线通信领域应用迁移学习时需要认识到的一个事实。

(2)复杂的相似性度量分析:寻找相似的源域是正迁移学习的前提,否则会造成负迁移等不良影响。到目前为止,迁移学习应用于无线通信时,源域和目标域的搭配只是通过简单的相似性分析或人工选择。但6G 网络结构将更大、异构性更强,业务类型和应用场景也将更加复杂多变,导致终端和网络设备的类型更多。环境越复杂,相似性分析就越困难,在未来应该更加重视相似性分析即源域和目标域的匹配。

(3)迁移学习过程中的隐私保护:隐私和安全是有效技术的先决条件。目前迁移学习在无线通信的应用中隐私保护问题没有得到足够的重视,原因可能是目前的迁移场景还比较简单。迁移过程中的隐私保护是一个非常困难的问题,因为它涉及多个方面,如源域知识选择、模型定义、迁移知识获取等,并且这些因素需要相互协调以确保有效性和控制成本。

5 结束语

无线通信需要更灵活、更节能、更快、更大规模,迁移学习在无线通信中扮演着越来越不可或缺的角色,并将为未来6G 研究带来巨大价值。本文重点讨论两个科学问题:首先,为什么6G 通信需要迁移学习?在6G 无线通信中许多需求与技术要求是相互矛盾的,如高效率和高密度、安全隐私与大规模连接,迁移学习不仅可以缓解这些矛盾,而且还将提升6G 服务性能。其次,如何在6G 通信中应用迁移学习?本文详细回顾了基于迁移学习的无线通信领域的前沿工作,并重点介绍了迁移学习在BSs/APs 切换能源效率、频谱资源动态分配、内容流行度预测、室内无线定位和网络入侵检测等六个不同应用背景下的突出贡献,这些研究是未来迁移学习推动6G 自适应无线通信的基石。迁移学习技术和6G无线通信时代需求必须是相互促进、共同发展的,希望本文能为迁移学习在6G 通信未来的应用提供一些思路和启发。

猜你喜欢
源域无线领域
多源域适应方法综述
《无线互联科技》征稿词(2021)
基于参数字典的多源域自适应学习算法
领域·对峙
青年生活(2019年23期)2019-09-10 12:55:43
无线追踪3
基于ARM的无线WiFi插排的设计
电子制作(2018年23期)2018-12-26 01:01:08
ADF7021-N在无线寻呼发射系统中的应用
电子制作(2016年15期)2017-01-15 13:39:03
可迁移测度准则下的协变量偏移修正多源集成方法
新常态下推动多层次多领域依法治理初探
肯定与质疑:“慕课”在基础教育领域的应用