一种使用环形缓存和环形队列实现UDP高效并发的方法

孙明刚（积成电子股份有限公司，山东 济南 250100）



一种使用环形缓存和环形队列实现UDP高效并发的方法

孙明刚
（积成电子股份有限公司，山东 济南 250100）

摘 要：本方法涉及UDP并发技术领域，尤其涉及一种使用环形缓存和环形队列实现UDP高效并发的方法。特点如下：在数据接收线程中创建环形队列，用于存储待返回数据的客户端标识，并在数据处理子线程创建发送环形缓存和接收环形缓存，用于接收数据和存储待发送数据；数据接收线程在接收数据的同时查看环形队列中是否有需返回数据的客户端标识，如由相应数据处理子线程发送环形缓存中的数据发送出去。本方法的循环缓冲区可以提供对缓冲区的互斥访问，因而数据接收线程与数据处理子线程之间不需要加互斥保护，可同时进行，从而有了良好的并发性能，循环缓冲区可以更好地利用系统内存资源。

关键词：环行缓存；环形队列；并发性能

一、一种使用环形缓存和环形队列实现UDP高效并发的方法

（一）主要步骤

1 发起服务端的数据接收线程，创建环形队列。

3 创建与该客户端对应的数据处理子线程，并创建该子线程的发送环形缓存和接收环形缓存。

4 数据接收线程将收到的数据复制到相应数据处理子线程的接收环形缓存中。

6 数据接收线程在接收数据的同时，查看环形队列中是否有需返回数据的客户端标识，如有则将该标识出队列，由该标识索引到相应客户端的数据处理子线程，并将该数据处理子线程发送环形缓存中的数据发送出去。

（二）主要特征

图1

二、背景技术

UDP是用户数据包协议的简称，是OSI（Open System Interconnection，开放式系统互联）参考模型中一种无连接的传输层协议，提供面向事务的简单不可靠信息传送服务。目前，UDP实现并发有以下三种方法：

（一）循环方式

创建一个套接字，将它绑定到一个端口上，并在这个端口上接收请求，进入无限循环，在该循环中服务器接受来自客户的下一个请求，处理这一请求，然后将这个应答发回给客户。这种模式对于处理请求占用时间较长，效率比较低下。我们考虑像文件传送这样的服务，它在处理每一个请求时，要求有相当可观的时间，假设联系该服务器的第一个客户要求传送一个巨大的文件，而联系到该服务器的第二个客户要求传送一个小文件，若服务器一直等到第一个文件传送完毕才考虑传送第二个文件，那么第二个客户将为了一个小文件而等一段不合理的时间。

（二）创建主线程接收请求

创建数据处理子线程单独处理接收到的数据，并将处理结果发回给客户端。设计思想，发起一个主线程从指定端口接收数据，当接收到数据时，创建对应的数据处理线程，将该数据交由该线程处理，处理结束后将数据发回客户端，之后数据处理线程退出。线程创建和销毁费时较长，因为创建一个线程要获取内存资源或者其它更多资源，所以提高服务程序效率的一个手段就是尽可能地减少创建和销毁线程的次数。如果数据交互比较频繁，这种方法性能较低。

（三）主线程监听客户请求

刮耳崖前传令急，霹雳一声千骑入。弓刀匼匝网周遭，罪人黜伏将焉逃？铁笼盛之负以斧，骇汗淋漓写如雨。从征土目凡数千，咸使观睹争骈阗。穴中谁敢萌反复，请视今朝索诺木。远人从此识天威，愿万万古安边陲。[3]65

有请求到来时，记下其IP和端口，然后创建一个子线程将IP和端口传给子线程，由子线程负责与该客户端通信。这是目前常用的方法，但此方法最大的问题在于：子线程会新建套接字，并绑定一个新端口与客户端通信，如果客户端指定从服务器某一端口接收数据，会造成客户端接收失败。

图2

三、关于方案

针对上述问题，本方法提供了一种使用环形缓存和环形队列实现UDP高效并发的解决方案。

（一）一种使用环形缓存和环形队列实现UDP高效并发的方法主要步骤

1 发起服务端的数据接收线程，创建环形队列。

3 创建与该客户端对应的数据处理子线程，并创建该子线程的发送环形缓存和接收环形缓存。

4 数据接收线程将收到的数据复制到相应数据处理子线程的接收环形缓存中。

数据处理子线程在其接收环形缓存中接收数据，如果接收环形缓存中有数据，数据处理子线程处理数据，处理完后将需要发送的数据复制到其发送环形缓存中，并将其对应的客户端标识存到数据接收线程的环形队列中。

数据接收线程在接收数据的同时，查看环形队列中是否有需返回数据的客户端标识，如有则将该标识出队列，由该标识索引到相应客户端的数据处理子线程，并将该数据处理子线程发送环形缓存中的数据发送出去。

执行步骤1前需先为数据接收线程创建套接字并绑定一端口，固定从服务器的这一个端口接收来自客户端的数据。

（二）本方法的有益效果

1 循环缓冲区可以提供对缓冲区的互斥访问，因而数据接收线程与数据处理子线程之间不需要加互斥保护，可同时进行，从而有了良好的并发性能，循环缓冲区可以更好地利用系统内存资源。

2 使用环形队列存储需要发送数据的客户端标识，如果有需要发送数据的客户端则可直接从中取出，不需遍历所有客户端，有效减少CPU空转时间，提高CPU利用率。

3 数据的接收与发送使用一个套接字和一个接收线程即可实现，可以大大减少系统频繁创建线程的资源开销，节约套接字（文件描述符）占用，并可有效避免因新建线程重新绑定端口造成的客户端接收失败现象。

4 数据接收和数据处理分离设计，可以使用不同的优先级来确保数据可靠、完整、实时的接收，并符合软件工程中的“高内聚、低耦合”设计思想。

附图说明：图1是本方法数据接收发送主线程的流程图，图2是本方法数据处理子线程的流程图。

（三）方案具体实施方式

下面结合附图对本方法的实施过程进行详细说明：一种使用环形缓存和环形队列实现UDP高效并发的方法，如图所示，包括以下步骤：

1 为数据接收线程创建套接字并绑定一端口，发起服务端的数据接收线程，创建环形队列。

3 创建与该客户端对应的数据处理子线程，在子线程的构造函数中实现发送环形缓存的创建和接收环形缓存的创建。

4 数据接收线程将收到的数据复制到相应数据处理子线程的接收环形缓存中。

5 数据处理子线程在其接收环形缓存中接收数据，如果接收环形缓存中有数据，数据处理子线程处理数据，处理完后将需要发送的数据复制到其发送环形缓存中，并将其对应的客户端标识存到数据接收线程的环形队列中。

6 数据接收线程在接收数据的同时，每接收完一帧数据后去环形队列中查看是否有需返回数据的客户端标识，如有则将该标识出队列，由该标识索引到相应客户端的数据处理子线程，并将该数据处理子线程发送环形缓存中的数据发送出去。

参考文献

［1］芦东昕，张华强，王陈.基于UDP的可靠数据传递技术研究［J］.计算机工程，2003（22）：62-63.

［2］刘捷，龚根华，饶泓，陶俊才.基于UDP的新型数据传输协议［J］.南昌大学学报（理科版），2006（5）：496-499+503.

［3］王艳芳，戴永，刘东华，孔华威，曾艳艳.基于UDP的数据可靠传输技术研究与应用［J］.计算机工程与应用，2010（3）：10 5-108.

中图分类号：TP391

文献标识码：A

通信地址2 数据接收线程在指定端口接收数据，如果收到合法数据，通过数据中的来判断是否已经存在相应客户端的数据处理子线程，如果存在，则直接执行步骤4；如果不存在，则先执行步骤3创建新的数据处理子线程，之后再执行步骤4。 其主要特征在于执行步骤1前需要先为数据接收线程创建套接字并绑定一端口。所述数据中的是指数据中包含的源客户端的IP地址或设备的 2 数据接收线程在指定端口接收数据，如果收到合法数据，通过数据中的来判断是否已经存在相应客户端的数据处理子线程，如果存在，则直接执行步骤4；如果不存在，则先执行步骤3创建新的数据处理子线程，之后再执行步骤4。 所述数据中的是指数据中包含的源客户端的IP地址或设备的 2 数据接收线程在绑定端口接收数据，如果收到合法数据，通过数据中的（指数据中包含的源客户端的IP地址或设备的 。数据合法与否是根据数据的起始字符、结束字符、长度和校验码综合判断。 。通信过程中可以利用这一地址来识别各客户端。数据合法与否是根据数据的起始字符、结束字符、长度和校验码综合判断。［0011］本方法使用通信程序中经常用到的环形缓存作为数据结构，来存放通信中各客户端发送和接收的数据，环形缓存是一个先进先出的循环缓冲区，可以向通信程序提供对缓存的互斥访问。使用环形队列结构来存储每一个需要在数据处理完后发送返回结果的客户端标识。这两种数据结构的配合使用可以实现高效的UDP并发。 ）来判断是否已经存在相应客户端的数据处理子线程，如果存在，则直接执行步骤4；如果不存在，则先执行步骤3，创建新的数据处理子线程，之后再执行步骤4。数据合法性判断是根据数据的起始字符、结束字符、长度和校验码综合判断。