张泽中 刘沛西 朱光旭
摘要:针对多场景多设备与单场景多视角两类代表性的协作感知场景,提出了针对性的基于联邦学习的协作感知学习框架,并针对在无线通信场景下,通信与感知资源有限以及信道随机性等挑战,提出了相对应的资源分配方案与用户调度策略。保证了提出的学习算法能够在无线网络下实现高质量且稳定的协同感知,并通过仿真验证并分析了算法的正确性与有效性。
关键词:通信感知一体化;联邦学习;资源分配;用户调度
Abstract: Two typical cooperative sensing scenarios, including multiple-scene-multiple-device and single-scene-multiple-view are consid? ered, and specific federated learning architectures for the two cooperative sensing scenarios are proposed. Moreover, under the situation where the communication and sensing resources are limited and the channel conditions are stochastic, a resource allocation scheme and a user scheduling policy for the two learning architectures are respectively proposed. It shows that the proposed algorithms can guarantee high-quality and robust cooperative sensing, and verify the effectiveness of the algorithms through simulations.
Keywords: integrated sensing and communication; federated learning; resource allocation; user scheduling
近年來,随着无线通信与互联网技术的蓬勃发展,远程医疗、智能驾驶、智慧城市等新兴技术不断涌现并逐步融入日常生活[1-2]。这些新兴技术都需要稳健且高精度的感知能力,并依赖于快速且稳定的无线通信技术。因此,研究以高效感知为目标的新型无线通信技术以及通信感知一体化技术,对实现对6G网络下各类新兴应用的技术支撑具有重要的意义[3]。
随着边缘计算与物联网技术的兴起,各类新兴应用呈现出个人化、社区化的特征,生成的数据也呈现出边缘化与分布式的特征,这也使得数据的聚集与统一化处理变得难以实现。一方面,单个设备或单个视角收集到的数据受到周围特定环境影响,可靠性较低,因此需要联合多个设备收集到的数据进行协作处理,以实现高精度的可靠的智能感知;另一方面,应用数量与使用频率的急剧增长,使得分布在网络边缘的数据量大幅增加,并且由于数据隐私受到越来越广泛的关注,数据的收集与分享变得越发困难。考虑到上述挑战,现阶段亟需开发在不影响数据隐私的前提下,能够实现高效智能感知的分布式算法。作为边缘智能中的一类重要学习范式,联邦学习旨在不涉及原始数据转移的情况下实现多设备间的协作训练[4],因此将联邦学习范式用于协作感知任务是目前热门的研究方向之一。由于不同场景下数据的分布情况不同,因此我们需要设计针对性的联邦学习架构以匹配相应的数据分布情况。本工作中,我们考虑的是多场景多设备与单场景多视角两类代表性的场景,它们分别对应以下两种典型的数据分布情况[5]。
(1)数据横向分布:不同设备中的数据处于相同特征空间,但区分于样本空间;
(2)数据纵向分布:不同设备中的数据处于相同的样本空间,但区分于特征空间。
针对以上两类场景,我们分别采用对应的横向联邦学习与纵向联邦学习架构,以联合边缘设备进行模型训练,从而实现基于学习模型的智能感知。考虑到无线网络下通信与感知往往都依赖于无线信号的收发,而时频资源有限,因此需要对系统中的通信、感知、计算资源进行联合优化,达成合理的资源分配,以实现高质量感知。同时,由于信道状态具有不确定性,少数信道衰落严重的链路会导致单个通信回合时延过大,因此需要结合适当的用户调度策略以降低模型训练的时延,实现快速准确的感知。在本工作中,针对上述挑战,我们分别设计了相应的资源分配方案与用户调度策略,并通过具体的分析与仿真验证了算法的正确性与有效性。
1横向协作感知
针对多个设备分布于不同场景且采集的数据处于相同特征空间的情况,如图1(a)所示,我们考虑基于无线反射信号的动作识别感知任务,采用横向联邦学习架构,并设计了相应的通感算资源分配策略。
1.1系统模型及性能指标
1.1.1横向联邦学习架构
方案1,采用最大通信功率,其他參数按提出的最优方案设置;
方案2,每回合采用相同的感知样本数,其他参数按提出的最优方案设置;
方案3,每回合采用递减的感知样本数,其他参数按提出的最优方案设置。
图6给出了所提的资源配置优化方案与各对照方案在训练集与测试集上的对比效果。其中,所提的资源优化方案的收敛速度明显快于对照方案1。其原因是方案1分配了过多的功率用于通信,这导致感知样本数量较少,更快地耗尽能量,提前终止训练过程。另外,相比于对照方案2和3,所提方案具有更好的收敛效果,这体现了提出的感知样本数量调节设置能够有效地加快训练过程的收敛。
另外,在纵向联邦学习架构下,考虑频谱联合感知任务,我们验证了2.2节中的用户调度策略与神经网络设计的实际效果,具体如图7所示。
观察图9后我们可知,采用用户调度方案能够有效加速整体训练过程,且设备激活概率在一个较大范围([0.1,0.8])内调节均可以达到或接近最优收敛速率的效果。另外,对比图8和图9可知,采用神经网络2结构时能够取得更为稳定的收敛效果,其原因是在神经网络2结构中中心神经网络占更大比重,因此即使遇到用户调度策略设置得较为极端的情况,也能够保证训练过程的收敛不会过慢,这与2.2.3节中的设计准则2相吻合。另外,在该频谱联合感知任务中,需感知发射机的位置信息,我们考虑两台发射机的情况,并在图10中体现了增加感知机设备数量对感知准确度的影响。由图10中的结果对比可知,增加感知机数量能够有效提升感知准确度,这也是采用纵向联邦学习架构进行联合感知相较于传统单感知机方案的主要优势所在。
4结束语
在B5G及未来的6G时代,边缘网络中基于无线通信的感知相关的智能应用将成为主流。因此,探索新型分布式学习架构,并设计与之相匹配的无线通信方案,联合优化系统资源分配,实现感知准确度与感知响应速率的有效提升,是未来通信技术发展的一个重要方向。本文提供的设计是通信感知一体化道路上的初步尝试,也为未来更为系统化多样化的设计提供了思路。
参考文献
[1] ZHOU Z, CHEN X, LI E, et al. Edge intelligence: paving the last mile of artificial intelligence with edge computing [J]. Proceedings of the IEEE, 2019, 107(8): 1738-1762. DOI: 10.1109/JPROC.2019.2918951
[2] ZHANG T, WANG S, LI G L, et al. Accelerating edge intelligence via integrated sensing and communication [C]//Proceedings of ICC 2022-IEEE International Conference on Communications. IEEE: 1586-1592. DOI: 10.1109/ICC45855.2022.9839016
[3] LIUF,CUIYH,MASOUROSC,etal.Integratedsensingand communications: toward dual-functional wireless networks for 6G and beyond [J]. IEEE journal on selected areas in communications, 2022, 40(6): 1728-1767. DOI: 10.1109/JSAC.2022.3156632
[4] MCMANHAN B, MOORE E, RAMAGE D, et al. Communication-efficient learning of deep networks from decentralized data[C]//Artificial Intelligence and Statistics. PMLR, 2017: 1273-1282
[5] YANG Q, LIU Y, CHEN T J, et al. Federated machine learning [J]. ACM transactions on intelligent systems and technology, 2019, 10(2): 1-19. DOI: 10.1145/3298981
[6] GRADSHTEYN I S, RYZHIK I M, ROMER R H. Tables of integrals, series, and products [J]. American journal of physics, 1988, 56(10): 958. DOI: 10.1119/1.15756
[7] LIU P, ZHU G, WANG S, et al. Toward ambient intelligence: federated edge learning with task-oriented sensing, computation, and communication integration [EB/OL]. (2022-06-13) [2022-08-10]. https://arxiv. org/abs/ 2206.05949v1
[8] MAO Y Y, ZHANG J, LETAIEF K B. Dynamic computation offloading for mobile-edge computing with energy harvesting devices [J]. IEEE journal on selected areas in communications, 2016, 34(12): 3590-3605. DOI: 10.1109/ JSAC.2016.2611964
[9] LIU Y, KANG Y, ZHANG X W, et al. A communication efficient collaborative learning framework for distributed features [EB/OL]. [2022-09-20]. https:// arxiv.org/abs/1912.11187
[10] ZHU G X, WANG Y, HUANG K B. Broadband analog aggregation for lowlatency federated edge learning [J]. IEEE transactions on wireless communications, 2020, 19(1): 491-506. DOI: 10.1109/TWC.2019.2946245
[11] ZHANG Z, ZHU G, CUI S. Low-latency cooperative spectrum sensing via truncated vertical federated learning [EB/OL]. (2022-08-07)[2022-09-20]. https://arxiv.org/abs/2208.03694v1
作者簡介
张泽中,香港中文大学(深圳)博士后,工学博士;主要研究领域为边缘智能、联邦学习、车联网及通信感知一体化等前沿技术;已发表论文17篇,拥有专利5项。
刘沛西,北京大学电子学院博士毕业生;主要研究领域为联邦边缘学习、通信感知计算一体化等;已发表论文7篇。
朱光旭,深圳市大数据研究院副研究员;主要从事无线通信理论研究,包括智能通信、5G/B5G通信技术等;先后主持国家自然科学基金、广东省面上基金等资助,并作为骨干成员参与国家重点研发计划及广东省重点领域项目;曾获香港政府奖学金资助,获国际会议(WCSP)最佳论文奖;发表论文50余篇。