边缘网络中去中心化的内容扩散系统设计

2020-03-13 10:56薛寒星尤佳莉王劲林
计算机应用与软件 2020年3期
关键词:副本邻域覆盖率

薛寒星 尤佳莉 王劲林

(中国科学院声学研究所国家网络新媒体工程技术研究中心 北京 100190) (中国科学院大学 北京 100190)

0 引 言

内容的分发和获取作为目前互联网中的主要应用,占据了网络中的绝大部分流量。负责将内容传输到请求用户或网络边缘的内容扩散系统对内容服务的质量有很大的影响。同时,大量靠近用户的终端设备构建的边缘覆盖网络作为最靠近服务请求发起端的网络,可以向用户提供低时延的快速服务响应,典型的场景包括智能路由器[1]。不同于传统的网络层的路由器,智能路由器是距离用户最近的家用智能设备。它拥有更强的处理能力和存储能力,可以向本地用户和边缘网络中的邻居智能路由器提供低时延的内容服务。因此,在边缘网络中扩散部分热门请求内容的副本,使用户可以直接从本地或邻域边缘设备处获取内容服务[2]。系统服务质量得到保障的同时骨干网络的负载压力也得到了缓解。因此,边缘网络中的内容扩散有重要的研究意义。因为边缘设备具有高度的自治性,边缘网络中的内容扩散需要一种去中心化的扩散方式。例如物联网、车联网、无线传感器网络等一些终端设备组成的边缘覆盖网络中的内容扩散均采用了去中心化的方式。

基于已有的对用户请求的分析可知,不同内容的请求数量服从长尾分布,即大部分的请求集中在流行的内容上[3]。因此,针对热门的内容,本文为边缘网络设计了一种去中心化的内容扩散系统。通过模拟谣言传播来实现去中心化的扩散,即边缘设备向边缘网络中的邻居节点扩散内容的副本或消息。收到消息或副本的边缘设备在自身的邻域中进行进一步的扩散。直至内容的副本和消息扩散至边缘网络中的所有设备。为了合理地控制内容副本的冗余,系统根据内容的流行度定义了相应的邻域覆盖率要求。边缘设备根据邻居数量和内容的覆盖率要求在邻居节点中自适应地扩散一定数量的内容副本。仿真实验结果表明,本文设计的去中心化的扩散算法可以在边缘网络中实现快速的内容扩散。同时,扩散完成后的边缘网络可以极大地改善用户的访问效率。用户可以以极高的概率在一跳邻域内直接获取热门内容的服务。

1 相关工作

本文研究的去中心化的内容扩散系统的实质是将热门内容的副本自适应地预扩散到边缘设备构成的边缘网络中。因此,相关的研究包括内容的预取、复制和扩散策略。

现有的内容预取策略针对不同的应用场景进行了研究。在移动网络中,Ma等[4]提出通过预测用户的兴趣、移动性和吞吐量来选择合适的预取内容和缓存节点。在社交网络中,Li等[5]提出可以根据用户的兴趣来预取内容的部分前缀数据块,进而缓解用户的启动时延。在CDN和P2P混合的视频服务系统中,Zhang等[6]提出预测内容的稀缺程度和节点的能力,提前在能力充足的节点上部署未来稀缺的内容副本。上述的预取策略的研究都是从个体用户的兴趣来选择更合适的内容进行预部署,并未考虑全局内容的流行情况和大量内容的扩散。不同于已有的内容预取策略的研究,本文从全局网络中的热门内容出发,通过去中心化的扩散实现热门内容的在整个边缘覆盖网中的预部署。

分布式服务系统经常会在覆盖网中部署部分内容的副本来改善服务的质量,例如部署热门内容的副本减少内容检索的路径长度和流量,部署稀有内容的副本来提高检索的成功率[7]。无结构覆盖网络中内容的副本数量常见策略为全部相同或者正比于内容的流行度[8]。DHT覆盖网络中,节点可以通过哈希函数被划分到不同的区域,进而内容的副本被放置到不同的区域来提高检索的成功率[9]。现有的内容复制策略的问题在于需要手动配置副本数量等参数,边缘设备不能根据邻域的网络和兴趣情况进行自适应的调节。本文提出了覆盖率的定义来反映内容副本在节点邻域的覆盖情况。边缘设备可以根据覆盖率需求和邻域情况自适应调整副本的数量。

内容扩散系统中的内容传输的实现方式包括“推”(Push)和“拉”(Pull)两种方式。Push策略适用于热门内容的主动下发和推送,Pull策略适用于用户被动拉取稀少的内容副本。本文设计的扩散系统通过Push的方式实现副本消息的扩散和缓存节点的选择,通过Pull策略实现进一步的内容传输。在内容传输过程的具体细节部分,现有扩散的研究是基于数据包或数据流的传输模型[10],研究如何在更短的时间内将副本从单个种子节点扩散到指定的接受副本的节点集合[11-12]。快速扩散的策略包括在扩散过程中的内容源节点优先选择带宽更高的接收节点或最稀缺的内容片段来传输,尽可能地减少完成扩散所需要的时间。在本文的分布式系统中,节点很难时刻获取到全局的内容稀缺程度或已缓存副本的节点信息。通过设计一种类似谣言传播的机制使得节点尽可能获取更多的局部信息来做出较好的传输决策。

2 系统设计

2.1 系统结构

整个内容服务系统主要由两部分组成:管理系统和边缘设备构成的边缘网络。图1所示为系统的功能结构。管理系统主要负责节点管理和内容管理。它的具体工作包括:通过推荐邻居列表来辅助设备加入边缘网络,采集并分析用户请求信息,根据分析结果选择合适的扩散内容并制定相应的扩散目标,随机选择一个边缘设备作为种子节点来部署需要扩散的内容。边缘终端设备是整个内容服务系统的关键。边缘设备之间通过邻居维护构建了边缘覆盖网。在边缘网络中,边缘设备通过信息交互实现邻居间的内容扩散和内容服务。种子节点在收到内容副本后会主动在邻域内进行内容的自扩散。

图1 系统功能结构

2.2 热门内容的覆盖率设计

本文的内容服务系统的设计目标是希望边缘设备可以直接在边缘网络中的邻域设备处获取到热门内容的服务。因此,邻域中内容副本的数量对系统的服务表现有重要的影响。本文首先定义了内容副本在邻域的覆盖率:

(1)

式中:Ci,j(t)表示节点i关于内容j在时刻t的覆盖率;Neii表示节点i的邻居节点的集合;xi,j(t)表示节点i在时刻t是否缓存了内容j的副本,若已缓存,xi,j(t)=1,否则xi,j(t)=0。

覆盖率反映了在t时刻,内容副本在边缘设备的邻域的覆盖情况。覆盖率越大表示邻域中缓存该内容副本的边缘设备数量的比例越高。本文通过设定合理的覆盖率需求来指导边缘设备在邻域中的内容扩散。因为不同内容有不同的流行度,并且流行度会随着时间不断变化,管理系统需要周期性的分析内容的请求情况来为不同的内容设计合理的分发目标,即需求覆盖率。假设局部的边缘设备对不同内容的请求分布和全局的请求分布相近。系统的管理服务器将根据系统中一段时间内的内容访问数量来为每个内容计算相应的覆盖率需求:

(2)

式中:Cd(j)表示内容j的需求覆盖率;NRj表示内容j的请求数量;F表示系统中所有的内容集合。可以合理地假设内容在邻域的覆盖率大于需求覆盖率时,邻域中该内容的副本数量足以向邻域节点提供一跳的内容服务。

3 去中心化的扩散算法设计

3.1 设计思路

内容扩散系统的扩散目标是将热门内容的副本按照一定的覆盖率要求扩散至每个边缘设备的邻域内。因为边缘覆盖网络中的每个边缘设备有很高的自治性,本文设计了一种类似于谣言传播的去中心化的内容扩散算法来实现扩散目标。在扩散开始时,管理系统会随机选择一个边缘设备作为种子节点来部署需要扩散的内容。种子节点完成内容副本的缓存后会根据扩散算法开始内容的去中心化扩散。

扩散算法的具体思路是每个边缘设备向维护的邻域节点扩散内容的消息或副本。副本数量由节点的邻居数量和内容的覆盖率要求来决定。收到相应消息和副本的节点再使用同样的策略在自己的邻域中进行扩散。通过这种类似谣言传播的方式,热门内容的副本和消息会从种子节点逐步扩散至边缘网络中的所有边缘设备。值得注意的是,为了避免形成广播风暴,如果内容的覆盖率要求等相关信息没有改变,所有的边缘设备只会处理和转发一次该内容的消息。同时,为了充分利用所有边缘设备的资源,在扩散过程中边缘设备会优先选取空闲存储空间较大的邻居来缓存副本。如果所有邻居都没有空闲的存储空间,边缘设备会随机选取邻居来缓存副本。被选择的邻居执行相应的缓存替换策略来选择已缓存的副本进行替换。因为本系统中的覆盖率要求反映了内容在当前时刻的流行度,边缘设备可以选择拥有最小覆盖率要求的已缓存的副本进行替换。

3.2 具体实现

为了实现边缘设备间的去中心化内容扩散,系统将所有的消息分为四种类型:扩散消息(Diffusion Message)、缓存消息(Store Message)、请求消息(Request Message)、内容数据消息(Content Data Message)。边缘设备会根据收到的具体消息类型自适应地执行对应的扩散操作。以下为系统部分基本数据结构,包括边缘节点、扩散内容和不同类型消息的数据结构。其中,缓存消息和扩散消息的数据结构相同。

简化的去中心化的内容扩散算法如算法1所示。其中,四种类型的消息具有不同的功能。扩散消息是整个扩散过程中的核心消息,包含了内容的ID、大小、覆盖率需求和已缓存该内容副本的节点地址等基本信息。边缘设备收到扩散消息后会执行具体的扩散过程,包括选择邻居发送缓存消息直至邻域中该内容的覆盖率满足要求。如果没有合适的邻居可以缓存副本,边缘设备也会停止缓存消息的发送。边缘节点在邻域中的扩散过程结束后,它会向其余邻居继续广播该内容的扩散消息。缓存消息负责通知节点缓存内容的副本。收到缓存消息的边缘设备会明确是否存在足够的存储空间来缓存内容副本。若存在,设备会向已缓存的边缘设备发送请求信息。若不存在,设备执行缓存替换策略来确定是否可以缓存副本。边缘设备发送的扩散消息和缓存消息都必须携带本地已知的多个确认缓存该内容副本的边缘设备地址,使得需要缓存副本的设备可以获取多个内容源节点的地址进行内容请求。

算法1去中心化的内容扩散算法

Input: 节点i收到关于文件j的数据包

[主程序]:

Switch(数据包类型):

Case DiffusionMessage: DiffusionProcess(j)

Case StoreMessage: StoreProcess(j)

Case RequestMessage: SendContentData(j)

Case ContentDataMessage:

If completeCache(j): DiffusionProcess(j);

endSwitch

DiffusionProcess(fileid j):

ifAlreadyDiffuse(j)andCd(j)unchanged:return;

Ci,j(t)=ComputeCovRate(j);

whileCi,j(t)

x=SelectNei(CandidateNeiList,j); SendStoreMsg(x,j);

CandidateNeiList.RemoveNode(x);

ifAgreeCache(x,j):Ci,j(t)=ComputeCovRate(j);

endwhile

节点i向Candidate NeiList中的其余邻居节点广播DiffusionMessage消息;

endDiffusionProcess

StoreProcess(fileid j):

ifFreeStorage(i)

SendAgreeCache(j); SendRequest(j);

endStoreProcess

请求消息和内容数据消息用来实现缓存副本的数据传输过程。确认缓存内容副本的设备会向已知的确认缓存该内容副本的多个边缘设备发送请求消息。如果被请求的边缘设备已经完成了内容数据的接收并且拥有足够空闲的上传带宽,该边缘设备会与请求的边缘设备进行通信确认内容数据消息的发送。请求的边缘设备会从最快回复的内容源设备处接受内容数据。同时,在边缘设备完成某个内容的副本缓存后也会自动执行内容扩散过程。需要注意的是,因为每个边缘设备会缓存多个内容的副本,可能会同时收到来自不同设备关于不同内容的多个请求。此时边缘设备会采用轮询(Polling)策略选择传输的片段和接收的设备,即边缘设备会确认已经完成缓存的副本,从请求队列中针对每个内容选取一个请求设备并依次处理,周期性地重复上述的处理流程直至所有的请求都处理完成。

3.3 去中心化的内容扩散实例

图2展示了一个去中心化的内容扩散算法的简单实例,8个边缘设备构建了一个边缘网络。假设文件1(F1)的覆盖率需求为0.3,N1作为F1的种子节点开始进行相应的内容扩散。在第一个时刻,N1计算得到当前F1的邻域覆盖率为0.25,并不满足0.3的要求。N1选择N2来缓存F1的副本,即发送缓存消息。通过请求消息和内容数据的传输,N2完成了副本的缓存。在第二个时刻,N1对F1的邻域覆盖率已满足要求,继续向N3和N4发送扩散消息。因为N2对F1的覆盖率(0.4)也满足要求,所以N2向N5、N6和N7发送扩散消息。因为N6的覆盖率不满足要求,N8被选择来缓存F1的副本。N8根据收到的缓存消息中携带的内容源的地址(N2的地址),向N2发送请求消息。N2发送内容数据完成传输。至此,所有节点关于F1的邻域覆盖率均满足了它的覆盖率需求(0.3)。整个去中心化的内容扩散过程结束。

图2 去中心化内容扩散的实例

4 仿真实验

4.1 实验设计

本文使用网络仿真器Peersim实现了整个内容分发系统在大规模网络下的仿真。假设每个边缘设备是同构的,即拥有相同的存储空间和带宽。采用两种不同的覆盖网络作为边缘网络来验证内容扩散系统的性能,包括BA网络和随机网络。因为边缘设备的能力有限,实验中将随机网络中的每个节点的邻居数量都粗略地限定在一定范围内来减轻边缘设备的负载。表1列出了具体的实验参数和对应的默认值。BA网络的K表示新边缘设备加入网络中后连接的邻居数量。同时,根据上文中的文件的覆盖率需求的计算方式,假设网络中共有10 000个文件,可以根据已有的用户对文件的请求分布计算相应的覆盖率需求。图3为100个文件对应的覆盖率需求。

表1 扩散参数默认取值

图3 热门文件的覆盖率需求

4.2 仿真结果

因为本文设计的是一个全新的去中心化的内容扩散系统,没有较为相近的系统进行比较。故在实验评估部分,本文从扩散速率、副本数量和用户访问效率等三个方面对系统在不同网络拓扑下的性能进行了评估。

4.2.1内容扩散速率分析

假设边缘设备完成一次内容副本传输所需的时间为一个时间单元。管理系统在每个时间单元向边缘覆盖网络注入一个新的文件,文件的覆盖率要求为图4中的覆盖率。图4展示了1个文件和100个文件在扩散的过程中,网络中的副本总量随着时间单元增加的变化情况。

图4 网络中的副本总量在不同时间单元的变化趋势

对图4中几条曲线重合度比较高的地方进行了局部放大。从放大的区域可知,在网络中只有1个文件在扩散时,文件的副本数量变化趋势与以2为底的幂指数曲线基本重合,实现了较为理想的快速扩散。在第11个时间单元,单个文件就完成了在网络中的内容扩散,即所有边缘设备的邻域都满足了该文件的覆盖率要求。当网络中有100个文件在扩散时,在第11个时间单元前,副本的总量都大于以2为底的幂指数,这是因为网络中每个时刻都会有一个新的文件加入网络中进行快速的扩散,即网络中同时存在多个文件在扩散。在第12个时间单元后,网络中的副本数量从指数增长趋势变为近似线性的增长趋势。这是因为第12个时间单元后每个时间单元都会有文件已经完成扩散,即该文件的副本数量不会再增加。BA网络和随机网络的增长速率不同是因为同一文件在两种网络拓扑中完成扩散的副本数量不同。

4.2.2扩散后的副本分析

在扩散完成后,不同内容的副本数量反映了副本的冗余情况。图5展示了扩散完成后不同文件在整个边缘网络中的副本数量。可以看出,最热门的5个内容在BA网络中的副本数量要明显小于它们在随机网络中的副本数量,这是因为BA网络中的边缘节点的邻居数量服从幂律分布,存在部分邻居数量很大的边缘设备。将内容的副本部署在这些边缘设备上将会增加更多边缘设备对该内容的覆盖率,相应的满足覆盖率需求的副本数量也会减少。但是其余大部分文件在BA网络中的副本数量却大于随机网络。这是因为目前的系统为了尽可能利用边缘设备资源采用了基于空闲存储资源的缓存节点选择策略,边缘设备会优先选择拥有更多空闲存储空间的邻居来存储内容的副本。因此,在扩散了部分内容后,BA网络中的后续扩散可能会经常选择邻居数量较少但存储资源较多的节点来缓存副本。相应内容的副本数量则会增加很多。在本文的随机网络中,边缘设备的邻居数量被限制在一定范围内,边缘设备的邻居数量差异不大,所以不会存在与BA网络中类似的大幅波动。在随机网络中,不同内容的副本数量与内容的覆盖率要求的有相同的趋势。

图5 扩散完成后不同文件的副本总量

表2统计了分发完成后所有文件的副本总量和边缘设备存储副本数量的标准差。副本总量反映了分发的带宽和存储资源的消耗,副本数量越大,边缘设备的带宽和存储资源的消耗越多。每个设备存储副本数量的标准差反映了边缘设备之间的存储负载差异,数值越小表示设备间的存储负载越均衡。根据表2中统计的数据可知,相对于BA网络,内容扩散系统在随机网络中有更好的表现,使用更少的资源就可以满足所有设备对扩散内容的覆盖率要求。由于缓存节点的选择策略,BA网络中的内容扩散产生了较多的副本冗余。真实情况中,拥有较多邻居的边缘设备往往拥有更强的能力(存储,带宽资源)。因此,边缘设备异构的BA网络中内容扩散系统也会有很好的表现。根据存储副本数量的标准差可知,扩散系统在两种网络下都可以很好地均衡边缘设备的存储负载。

表2 文件的副本数量分析

4.2.3用户访问效率分析

本文设计的内容扩散系统将热门内容的副本扩散至每个边缘设备的邻域内,希望用户可以在一跳邻居内直接获取热门内容的服务。在边缘网络中,用户首先在本地设备和边缘网络中的邻居设备检索请求的内容。在邻域内有请求内容的副本且该缓存设备有空闲上传带宽时,用户可以直接从边缘网络中获取低时延的内容服务。否则,用户向CDN服务器请求内容服务。假设每个边缘设备的上传带宽可以同时向一个邻居设备提供服务,边缘设备在收到多个邻居的请求时,将采用先到先服务(FCFS)的策略选择请求来提供服务。本文将边缘请求成功率定义为用户在边缘网络中成功获取服务的请求数量与总的用户请求数量的比值。边缘请求成功率的数值越高表示更多的用户请求可以直接在邻域内获取高效的服务,用户访问效率越高。

本节在扩散完成后模拟用户高峰期的请求情况,即所有用户同时发起内容的请求。通过边缘请求成功率来评估扩散完成后的用户访问效率。请求的内容范围为网络中的10 000个内容,不同内容的请求数量服从Zipf分布。实验在两种拓扑下分别模拟了10次高峰期的用户请求。表3统计了10次实验中的平均边缘请求成功率。表中的“理论最优”为边缘请求成功率的上限,即所有的用户请求中关于扩散完成的100个热门内容的请求数量所占的比例。

表3 扩散完成后的平均边缘请求成功率

由表3中数据可知,两种网络拓扑在内容扩散完成后的边缘请求成功率约为52.0%,非常接近理论最优53.0%。结果证明基于覆盖率需求的内容扩散完成后,针对已经扩散过的热门内容的请求,用户在边缘网络中以约98.1%的概率直接在邻域内获取内容服务。用户的访问在边缘网络中得到了高效的服务。同时,约52%的内容流量从骨干网络卸载到边缘网络,骨干网络的负载压力也得到了极大的缓解。其中,边缘请求成功率略低于理论最优的数值。原因可能是极少部分局部区域对部分内容的请求频率略高于全局请求频率,导致依据全局请求情况设定的覆盖率需求不能完全满足局部的请求需求。

5 结 语

本文为边缘网络设计了一个去中心化的内容扩散系统。首先定义了一种邻域覆盖率来反映内容副本在邻域的覆盖情况。系统可以根据内容的请求数量设定合适的覆盖率需求,进而模拟谣言传播的方式将内容的副本在网络中进行扩散。实验证明,去中心化的系统可以实现快速的内容扩散。基于设备空闲存储资源的选择策略也均衡了边缘设备的存储负载。基于覆盖率的内容扩散完成后,用户在边缘网络可以拥有接近理论最优的边缘请求成功率。对于已完成扩散的内容的请求,用户有约98.1%的概率直接在邻域内获取高效的内容服务。目前的内容扩散系统中还存在管理系统来设定内容的覆盖率需求。在下一步,会进一步利用边缘节点的自治特性,取消管理系统,设计一个完全去中心化的内容扩散系统。边缘节点可以根据获取的局部信息自适应地调整内容的覆盖率需求,每个内容扩散完成后的副本数量也会尽可能正比于内容的流行度。

猜你喜欢
副本邻域覆盖率
民政部等16部门:到2025年村级综合服务设施覆盖率超80%
混合型数据的邻域条件互信息熵属性约简算法
基于混合变邻域的自动化滴灌轮灌分组算法
我国全面实施种业振兴行动 农作物良种覆盖率超过96%
含例邻域逻辑的萨奎斯特对应理论
国家知识产权局公告:专利证书改版
电信800M与移动联通4G网络测试对比分析
新副本“战歌之城”怨灵BOSS面面观
《口袋西游—蓝龙》新副本“幽冥界”五大萌点
邻域平均法对矢量图平滑处理