联邦边缘学习的低功耗带宽分配与用户调度

周天依，潘春雨，郑 镛，李学华

(北京信息科技大学 信息与通信工程学院，北京 100101)

0 引言

随着移动通信和物联网的发展，智能手机和物联网传感器等设备产生的边缘数据量呈爆炸式增长的趋势。而传统集中式的机器学习算法，需要将大量数据上传至中心节点，导致较大的传输时延和上行链路拥塞[1]。联邦边缘学习(federated edge learning,FEL)的提出为上述问题提供了解决方案。FEL允许智能边缘设备利用本地数据集进行模型训练，且只需上传本地模型参数至服务器。服务器对局部模型参数进行聚合，更新全局模型后，下发给智能边缘设备[2-4]。FEL算法减少了数据的传输，减轻了上行链路的压力。与传统的分布式机器学习算法相比，参与FEL的边缘设备无需共享本地数据集，边缘服务器无法干预各边缘设备的自主训练过程，因此对于数据隐私的保护更具优势[5-7]。

然而，在边缘设备中执行联邦学习算法并上传模型参数，对边缘设备的能耗以及上行链路资源的合理分配提出了严峻挑战。与此同时，边缘设备的异构性将导致局部模型在训练完成时间上存在差异，影响全局模型的聚合，增大每轮的迭代时延及系统能耗[8]。近年来，已有相关工作对FEL的无线传输进行了研究。Tran等[9]提出了一种针对通信时延和计算资源分配的联合优化算法。Ghasempour等[10]提出了3种不同的调度策略来加速联邦学习算法的收敛性，以最小化系统能耗。Chen等[11]旨在最小化无线通信影响下的全局联邦学习损失函数，但并没有考虑联邦学习局部模型的传输时延。Vu等[12]联合考虑了算法的局部模型训练精度、发射功率和设备的处理频率，以此来最小化训练时间。Wadu[13]等在不完全信道状态信息的场景中，联合优化了联邦学习中的用户调度和无线资源分配，以减小联邦学习模型的损耗。综上所述，现有针对FEL无线传输的相关研究，较少联合考虑多服务场景下的信道干扰以及本地用户训练延迟对FEL系统性能造成的影响。

本文考虑在多服务器共存的移动边缘网络中，通过联合优化无线资源和用户调度来最大化网络收益。针对一个由宏基站和多个小基站组成的移动边缘计算(mobile edge computing，MEC)网络中低功耗无线资源分配优化问题复杂非凸，难以直接求解[14]的情况，使用低功耗的带宽分配(bandwidth allocation,BA)策略推导出了能耗最小化的最优策略收敛形式的解析解；使用用户调度策略对参与参数上传的边缘设备进行筛选，减少设备全局模型聚合的等待时间，降低了系统的传输功率。

1 系统模型

本文研究一个由多个宏基站和多个小基站构成的多服务器的FEL系统，每个宏基站配备一个边缘服务器，进行全局模型的聚合和更新。FEL的迭代过程分为以下两个步骤：边缘设备利用本地数据进行局部模型训练，并通过上行链路将局部模型参数传输至边缘服务器；边缘服务器收集各边缘设备上传的局部模型参数后，聚合参数，生成全局模型，并将更新后的全局模型下发至边缘设备。假设边缘服务器可以通过反馈获得模型大小、多用户信道增益和本地计算能力等信息。边缘服务器利用上述信息确定每次迭代过程的带宽分配及用户调度策略。

1.1 计算任务模型

1.2 参数上传任务模型

(1)

(2)

(3)

(4)

∀u∈U

(5)

2 低功耗的带宽分配策略

(6)

(6a)

0≤tu≤Tu∀u∈U

(6b)

引理1问题(6)的目标函数是关于tu和δu的非增函数，∀u∈U。

定理1最优的BA策略可表示为

(7)

式中:W(·)是朗伯W函数；v*为拉格朗日乘子；e为欧拉数。

因为上述问题是个凸问题，通过对不等式约束δ0，其中δ=[δ1,δ2,…，δu]T,引入拉格朗日乘子μ*=u，KKT约束可以被写为：

通过求解上述等式，可以得到

证毕。

接下来，为了易于求解，给出一个推论。

证毕。

由推论1易知，计算能力较弱的边缘设备，即Tu较小的边缘设备将限制模型参数的同步更新，故为实现能耗最小化应给该类边缘设备分配较大带宽。具体而言，通过分配较大带宽，可使计算能力较弱的设备在传输约束时间内完成模型参数上传的同时，降低传输功率。此外，不难看出，对于信道状态较差的设备应分配更大带宽。克服信道条件较差问题可以通过提高传输功率或增大带宽来解决，本文采用增大带宽的办法来实现能耗最小化的目标。

3 低功耗的用户调度算法

低功耗的用户调度算法通过用户调度和选择，减少异构设备局部模型参数上传的时间差，提高全局模型的聚合效率。该算法的主要思想是基于边缘服务器和边缘设备的双向反馈，在保证局部模型和全局模型精度的基础上，高效调度本地设备完成局部模型参数上传和全局模型聚合，降低边缘设备能耗。

3.1 时间平均筛选算法

时间平均筛选算法主要面向边缘设备本地数据量差异较大的场景。假设该场景下，设备训练时间在较大区间内服从均匀分布。算法描述如下：

1)边缘服务器生成初始化全局模型。通过反馈获得边缘设备本地数据量、多用户信道增益和本地计算能力。

2)预测该单元内所有边缘设备的本地训练时延后，计算平均训练时延。

3)选择预测时延小于平均训练时延的用户进行局部模型训练，并上传模型参数。

4)选定设备进行实际训练后反馈训练时延，满足时延限制则允许上传，否则舍弃。

3.2 时间峰值筛选算法

时间峰值筛选算法主要面向部分边缘设备本地数据量近似的场景。考虑该场景下，单元内的设备训练时间满足正态分布。算法描述如下：

1)边缘服务器生成初始化全局模型。通过反馈获得边缘设备本地数据量、多用户信道增益和本地计算能力。

2)预测该单元内所有边缘设备的本地训练时延后，根据正态分布3σ准则，划定时间筛选范围为(μ-σ,μ+σ)。

3)选择预测时延在限定时间范围内的用户进行局部模型训练，并上传模型参数。

4)选定设备进行实际训练后反馈训练时延，满足时延限制则允许上传，否则舍弃。

4 仿真实验

4.1 低功耗的带宽分配策略评估

将本文提出的BA策略的实用性能与平均带宽分配、随机带宽分配等算法进行比较。平均带宽分配策略将上行链路带宽平均分配给参与上传的边缘设备，所有设备具有相同的上行链路带宽；随机分配带宽策略，将上行链路带宽以随机比例分配给参与上传的边缘设备。根据推论1，本文从最大传输时间和信道状态两方面验证BA策略的有效性。

1)边缘设备的上传功率Pu、上传能耗Eu与传输时间T的关系曲线分别如图1和图2所示。从图中可以看出，3种带宽分配策略下，功率和能耗均随着T的增大而减小，传输时间越长能耗越小。

图1 边缘设备的上传功率Pu与传输时间T的关系曲线

图2 边缘设备的上传能耗Eu与传输时间T的关系曲线

图3 边缘设备的上传功率Pu与上行链路增益的关系曲线

图4 边缘设备的上传能耗Eu与上行链路增益的关系曲线

从图1～4中可以看出，优化BA策略的传输功率和传输能耗均低于其他两种算法。该算法通过为计算能力较弱及信道状态较差的设备分配较大的带宽，使其在传输约束时间内完成模型参数上传的同时，降低传输功率。与随机带宽分配策略相比，优化BA策略传输功率最大降低了43.5%，传输能耗最大降低了17.7%；与平均带宽分配策略基线相比，优化BA策略传输功率最大降低了27.4%,传输能耗最大降低了9.3%。

4.2 低功耗的用户调度算法评估

由于本地边缘设备存在异构的特性，针对边缘设备数据量差异较大和数据量近似相等两类不同场景，分别采用时间平均筛选算法以及时间峰值筛选算法进行仿真评估。

1)本地边缘设备的数据量差异较大时，本地训练时间的差异也会变大。由于基站覆盖范围内边缘设备较多，假设本地训练时间在较大时间范围(0～0.7 s)内服从均匀分布。图5和图6分别为边缘设备的上传功率Pu、上传能耗Eu与传输时间T的关系曲线。从图中可以看出，利用时间平均筛选算法后，仅选择部分设备上传本地模型参数，相对于等待全部设备完成训练后再进行参数上传，设备传输功率和传输能耗都有大幅下降，分别降低34.7%和14.6%。

图5 是否采用用户调度算法的参数上传功率对比

图6 是否采用用户调度算法的参数上传能耗对比

2)针对实际应用场景中部分设备本地数据量近似相等的情况，本文分别利用时间平均筛选算法和峰值筛选算法进行优化测试。假设设备的训练时间大多分布在0～10 ms之间，用户本地训练时间通过μ=0.5，σ2=0.5的正态分布进行模拟。图7和图8分别为边缘设备的上传功率Pu、上传能耗Eu与传输时间T的关系曲线。两类调度筛选优化算法相对于等待全部设备完成训练后再进行参数上传的方法，设备传输功率和传输能耗都有大幅度的下降，且均值优化的效果要比峰值优化的效果更好。这是因为采用均值优化后的设备具有相对近似的局部模型训练时间以及相对严格的时间阈值，参数上传的时间差较小；峰值优化为了保证全局模型精度，基于正态分布3σ准则进行用户调度，传输时间差相对较大，等待时间较长进而导致了更大能耗。本地边缘设备数据量近似的场景下，与未筛选的设备进行对比，峰值优化后的设备传输功率降低了13.42%，设备传输能耗则降低了5%；而均值优化后的设备，其设备传输功率则是降低了56.5%，设备传输能耗降低了22%。

图7 不同模式下的参数上传功率对比

图8 不同模式下的参数上传能耗对比

综上所述，本文提出的两类用户调度筛选优化算法，在提高全局模型聚合速率的基础上，降低了边缘设备能耗，且时间平均优化算法具有更好的优化效果。

5 结束语

本文提出了一种在多服务器的智能边缘网络中用于FEL的无线资源分配和用户调度联合优化策略。首先，在多服务器干扰的基础上，通过适应边缘设备的信道状态及计算能力来调节带宽分配，该策略为计算能力较弱、信道条件较差的边缘设备提供了更大带宽，可以有效降低边缘设备的能耗。为了加快联邦学习的全局模型聚合速度，进一步降低系统能耗，又提出了低功耗的用户调度策略。针对两类不同场景，分别采用时间平均筛选算法和时间峰值筛选算法对用户调度进行优化，仿真结果显示了两类算法的有效性，与参考算法相比，系统能耗得到了显著的降低。在未来的研究中，可以进一步考虑用户调度对模型精度的影响，在保证收敛速度和低功耗的前提下，优化联邦学习算法的全局模型精度。