高速缓存设备应用及其性能分析

文 /王石 董琰 杨贵福 李向龙

高速缓存设备（Cache）可以缓存互联网资源，缩短用户对内容的访问距离，将互联网内容本地化，大大提升用户用网体验，因而逐渐成为网络应用热点。

校园网用户的与日俱增，校园网面临的压力越来越大。体现为带宽日趋紧张，尤其BT、P2P下载、在线视频、音乐、网络游戏等网络应用占用大量带宽，严重影响教学、科研、办公活动，导致用户用网体验下降。

多数高校采取限应用、限速、限连接数等手段加以调控，虽有效果但配置不够灵活，同时网络用户反响也相对激烈。本文从新的角度阐述这种问题，通过布置高速缓存设备（Cache）以疏导的方式缓解带宽压力，并提出Cache性能分析方法以证明这种方案对用户用网体验有较大提升。

Cache工作原理

Cache设备能实现自动按需缓存内容，在网络使用高峰期减少HTTP下载，视频下载和P2P下载等对互联网骨干的流量压力，帮助用户获得更高的网络带宽使用效率。系统还有效地改进对HTTP、视频、P2P和非P2P等应用的网络响应速度，增加了用户体验。

对于经常使用P2P下载和在线视频的用户，他们可以用更快的速度透明地从系统中访问到已缓存的内容，而无需占用互联网骨干带宽。系统通过疏导的方式而不只通过限制和禁止等手段来控制HTTP下载视频观看和P2P下载对网络的影响。Cache把占用大量带宽的HTTP、视频和P2P流量限制在宽带网络内部，帮助用户优化网络流量，为提供更多更好的服务创造更好条件。

Cache提供HTTP与流媒体加速服务的整个业务流程可以通过图1描述：

1.客户端发起HTTP请求到原始网站下载文件或视频；

2.交换机将HTTP请求镜像到Cache监听网卡，Cache截获了用户的访问请求；

3.如果Cache已经缓存有该用户请求的资源，Cache通过通信网卡向客户端发出HTTP302重定向，客户端执行重定向动作，发起新的HTTP请求到Cache下载；如果Cache上没有缓存该用户请求的资源，则执行第4步；

4.如果Cache尚未缓存该用户请求的资源，属于访问未命中，Cache不会给用户发送任何报文，也不影响用户从外网正常下载，而是在系统中增加一次访问请求记录；Cache上有一个触发缓存的阈值，默认2次（可以在界面修改），当Cache监测到不同的两个用户请求同一个资源时，会触发Cache对资源进行缓存，缓存后如果再有用户请求，就进行第3步，引导用户将直接从Cache下载资源。

图1 Cache业务流程

图2 部署Cache后的网络拓扑

图3 缓存效益比例随时间变化

基于校园网的Cache应用

布置方案

如图2所示，CNC是校区1某运营商网络出口，TEL是校区2另一运营商网络出口。Switch1和Switch2分别是两个校区核心交换机。设备Cache1和Cache2分别代表校区1和校区2待测Cache。s1和s2分别代表Cache1和Cache2的服务流量，即从Cache流向校园网的流量；d1和d2分别代表Cache1和Cache2从因特网下载的流量；g1和g2分别代表校区1和校区2的用户访问因特网的上行流量；在两台核心交换机上分别设置mir1和mir2镜像g1和g2流量。

当测试进行时，因为mir1镜像了g1，所以Cache1获得了校区1用户的下载请求，如果符合策略的匹配条件，Cache1也向因特网提交一次该下载请求，并因此产生流量d1。当相同的下载请求再次在mir1/g1侦测到，Cache1代替因特网回应该次请求，并产生流量s1。流量d1对校园网对外出口产生负面作用，s1起到正面作用。因此，使用Cache1产生的效益为：

由于mir1镜像g1，所以Cache1只监测连接到Switch1上的用户的请求。同理，mir2只监测连接到Switch2上的用户的请求。Switch1和Swithch2由万兆光纤链路连接。校区2用户访问CNC，数据经过万兆光纤，由Cache2缓存；校区1用户访问TEL，数据经过万兆光纤，由Cache1缓存。

使用SNMP协议分别获取Switch1和Switch2的流量数据，每小时采集一次，通过用户实际下载流量、待测Cache为用户提供的流量s1+s2、待测Cache设备从因特网下载流量d1+d2计算采用待测Cache设备后产生的效益。

缓存策略

针对优酷、百度、土豆、搜狐、迅雷、乐视六个视频网站所有文件进行缓存测试。单个资源存在两个以上校内用户访问即开始下载，对内网提供缓存服务。

Cache设备性能分析方法

如图3缓存效益比例随时间变化所示，横坐标是时间，以小时为单位，每24小时标注一个刻度，共14天（14*24小时）；纵坐标是效益比例，按公式3计算。

缓存效益比例随时间周期变化，约每天一个周期，效益比例大致在0%至约35%间波动。在用户活动较频繁的白天和前半夜，效益比例较高，在用户活动稀少的后半夜，效益比例较低。

极个别时，约第217小时，有效益尖峰达到约48.08%。此时可能有在短时间内若干用户集中访问同一校外资源。

如图4所示，横坐标是时间，以小时为单位，每24小时标注一个刻度，共14天（14*24小时）；纵坐标是流量，单位KB。其中橙色虚线是用户流量，蓝色实线是缓存效益。

效益和用户流量呈周期变化，周期约一天。在用户活动较频繁的白天和前半夜，缓存效益较高，用户流量较大；在用户活动稀少的后半夜，缓存效益较低，用户流量较小。缓存效益及效益比例（参见图3缓存效益比例随时间变化）随用户流量变化而变化，成正相关。

大多数每日高峰，总流量达到我校出口带宽（TEL+CNC）上限。第7天是周日，总流量下降，相对其他的周一至周五表现异常。

Cache下载占总流量比例随时间变化

Cache根据监听用户请求而从互联网下载的流量，是Cache所产生的负面效果。这一效果已纳入对缓存的效益计算中，图5显示Cache下载随时间变化的情况。

下载数据峰值约35%，去除特异数据以后，大多数日周期的峰值约20%，此时学校下载总流量中有约20%是由Cache导致的。

如图6所示，橙色虚线代表缓存效益比例，蓝色实线代表下载比例。可知效益大于下载，Cache总体带来正面效果。下载约为缓存效益的一半。

如果Cache调整下载策略，即仅在或多在用户使用出口的低峰期下载数据，而在高峰期少下载或不下载数据，负面作用可望降低，效益及效益比例可以提高。

平均效益

平均效益约占总流量的18.17%。

缓存效益随时间以每天为周期变化，与用户流量正相关，平均占总流量的18.17%。

图4 效益比例与用户流量随时间变化

图5 Cache下载占总流量比例随时间变化

图6 下载与缓存效益的比例

Cache下载的流量带来负面效果。下载的流量总体低于服务流量，起正面效果。效益计算已考虑到Cache下载带来的负面影响。如果适当调整Cahce下载及资源站点构成等策略，Cache带来的正面效果可望提升而负面效果可望降低，可进一步提高设备利用率及服务性能。

流量高峰时刻Cache提供的下载速度为校园网内网所提供的速度，仅受千兆网卡和校园网流控策略限制，用户体验比直接从因特网下载更好。流量低谷时，虽然效益较低，但是此时段出口带宽空闲足够大，不会由于出口带宽受限而导致用户体验降低（受目标文件的站点及路径的限制）。

Cache测试期间，用户在访问设备已经缓存的资源时，几乎能达到理论上的最大值。