周红标 朱亚文 刘晓洋 张国良 李边豪
摘要:水稻印刷播种是实现稻种精确定位和均匀播种的有效方法之一。由于机械振动、播种纸走速、稻种输送等环节影响,播种纸的某些胶点上可能会粘附多个水稻种子,影响播种质量。为此,提出基于机器视觉的水稻印刷播种机成种率检测方法。首先,利用工业CCD摄像机采集播种纸正面图像信息;其次,利用红绿色差提取种子的颜色信息,采用Otsu阈值分割等形态学处理方法实现种子与背景的分离,并利用开运算实现轻微粘连稻种的分离;然后,利用面积阈值方式去除噪点,从而实现水稻种子数量的统计;最后,根据粘连稻种总面积与每个稻种平均面积的比值对紧密粘连的稻种进行处理,从而修正水稻种子的数量。研究结果表明,该成种率检测方法是有效的,能够从播种纸的胶点上获取水稻种子数量信息,检测的成种率范围介于88.84%~92.05%。
关键词:水稻;印刷播种机;机器视觉;自适应形态学;精确定位播种;成种率
中图分类号:S223.2: TP23
文献标识码:A
文章编号:20955553 (2023) 070194
07
Detection of seed rate of japonica rice printing planter based on machine vision
Zhou Hongbiao1, Zhu Yawen1, Liu Xiaoyang1, Zhang Guoliang2, Li Bianhao2
(1. Faculty of Automation, Huaiyin Institute of Technology, Huaian, 223003, China;
2. College of Life Science and Food Engineering, Huaiyin Institute of Technology, Huaian, 223003, China)
Abstract: Rice printing planter is one of the effective methods for precise and uniform sowing of rice seeds. Due to the influence of mechanical vibration, seeding paper speed, and rice seed transportation, several rice seeds would adhere to some glue points on the seeding paper, which affected the seeding quality. To address this issue, a seed rate detection method based on machine vision for printing planters was proposed in this paper. Firstly, the image information of the seeding paper was collected by a CCD camera. Then, the red-green color difference was used to extract the seed color information, morphological processing methods such as Otsu threshold segmentation were used to separate the seeds from the background, and an opening operation was utilized to separate slightly sticky rice seeds. Additionally, the area threshold method was adopted to remove noise and accurately determine the number of rice seeds. Finally, the ratio between the total area of tightly adhered rice seeds and the average area of each rice seed was used to correct the number of rice seeds. The results show that the seed rate detection method is effective in obtaining the number of rice seeds from the glue point of the seeding paper. The range of seeds rate detected was 88.84%-92.05%.
Keywords: rice; printing planter; machine vision; adaptive morphology; precise positioning seeding; seeds rate
0 引言
水稻種植全程机械化可以缓解农村劳动力的不足,还能带动节本增收增效。2023年政府工作报告中指出我国农作物耕种收综合机械化率达到73%,但是水稻机械播种环节的精量化仍有待提高。目前,我国南方不少地区仍采用手插秧方式,存在劳动强度大的问题。近年来很多地方采用抛秧、直播、机插等方式,存在种子用量大的问题[12]。水稻精量定位匀播能够有效克服上述缺陷,印刷播种机是实现精量定位匀播的有效方法之一[3],其在杂交稻播种上的应用较为广泛,在常规稻播种上的应用也在逐渐增多。
水稻印刷播种机是由印刷机、滚轮和漏斗等机构组成,能够利用淀粉胶将种子粘在播种纸上,具有精确匀播、节约种子、经济环保和便于运输的优点[4]。然而,由于机械振动、纸张走速和稻种输送等环节影响,播种纸某个胶点上可能会粘结多个稻种,尤其是3个以上,会对后续种子发芽和成苗产生不利影响。为了提高种子成苗率,需要对印刷播种机的多台电机实行优化控制。然而,电机的反馈控制需要利用胶点粘合的水稻种子数量信息。一般将一张播种纸上胶点粘合的单个和两个水稻种子之和与水稻种子总数之比定义为成种率。因此,实现对播种纸成种率的检测将有助于实现电机的优化反馈控制,从而提升水稻印刷播种质量。
近年来,将计算机视觉技术与人工智能技术相结合,实现农业机械的信息化、自动化和智能化已成为现代农业发展的重要方向[57]。国内外研究者借助机器视觉技术和人工智能技术,设计了多种检测系统或方法[8]。例如采用可见光相机获取水稻颖花图像,并构建基于快速卷积神经网络的开花状态检测模型[9];采用高光谱成像设备获取不同老化天数水稻种子的高光谱图像,然后进行信息提取,并建立基于支持向量机的水稻种子活力等级分类模型[10];以光谱特征、纹理指数和作物覆盖度作为输入,构建基于人工神经网络的水稻叶面积指数估算模型[11];一种基于Rectified Adam(RAdam)优化器的ResNet50卷积神经网络图像识别方法,能够实现水稻生育期图像的有效检测[12];利用机器视觉和卷积神经网络设计的机器人猕猴桃采摘系统,检测率达到89.6%[13];利用机器视觉和支持向量机建立的木瓜病害检测和分类模型,分类精度达到90%以上[14];利用机器视觉和神经网络建立的柑橘品种品质检测系统,也取得了较高的检测精度[15]。
鉴于此,本文首先采用机器视觉技术采集播种纸图像信息,然后利用红绿色差和阈值分割提取图像颜色,并采用面积阈值方式去除噪声,最后利用开运算对轻微粘连的水稻图像进行分割,从而实现水稻种子数量的精确计算。
1 材料与方法
1.1 图像采集
本文依托HDBZ-600型水稻印刷播种机进行播种纸图像信息的采集。检测系统主要由CCD摄像头、数据采集卡、光源、PC机等组成。当播种纸进入拍照区域后,由传感器发送信号,计算机控制数据采集卡采集图像信息,并通过以太网传输到PC机。在PC端,利用LabVIEW软件的视觉模块开发了上位机虚拟检测平台,利用MATLAB进行图像处理和检测算法研究。检测系统示意图如图1所示,粘连水稻种子的播种纸图像如图2所示。
1.2 检测方法
水稻种子的检测方法如图3所示。
首先根据种子区别于背景的颜色,采用红绿色差法提取种子的颜色特征,从而得到种子与背景亮度有明显差异的灰度图像;然后采用最大类间方差法找出背景与种子间进行分割的最优阈值,并采用该阈值将图像二值化;接着为减少二值图像中稻种之间可能存在的粘连,采用形态学算法—开运算对二值图像进行处理,从而断开连通区域之间的连接;同时针对二值图像中的小面积噪点进行去除,从而避免其影响种子的计数;再根据二值图像中连通区域的数量对稻种进行计数;由于部分稻种间粘连难以通过开运算断开,因此最后需要根据连通区域的面积估算该区域的稻种数量,从而实现对稻种数量的修正,提高计数的精确性。
1.2.1 颜色特征提取
由于CCD摄像头采集到的是彩色RGB图像,为了采用紅绿色差进行水稻点的分割,需要首先进行颜色提取。颜色特征提取是实现稻种与背景区域分割的关键,从图2可以看出,稻种颜色呈现红色,与白色纸张之间存在明显的颜色差异。为了定量分析稻种颜色与背景的差异,提取了图2中的一行像素,并根据像素红、绿、蓝三色的值绘制了图4所示的颜色差异图。从图4可以看出,种子区域的红色分量明显高于蓝色和绿色,且蓝色和绿色分量的数值相近;而纸张背景区域红色、蓝色和绿色分量的数值相近。
根据上述颜色特征,本文提出了基于红绿色差的颜色特征提取方法,具体表达方式如式(1)所示,即采用像素红色分量和绿色分量的差值表示稻种的颜色特征。
Dc=R-G
(1)
式中:
Dc——种子与背景的颜色差异;
R——像素的红色分量;
G——像素的绿色分量。
由于RGB图像的识别处理需要耗费大量时间,本文对原始RGB图像进行灰度化处理,从而减少后台程序的计算量,提高视觉软件的处理速度。在LabVIEW平台,可以通过视觉函数IMAQ Cast Image将最初32bit的图片转化为8bit图片,接着再通过图像灰度化函数IMAQ BCG Lookup将拍摄到的彩色图像转换为灰度化图像。在转换过程中,可对原彩色图像的Brightness Contrast Gamma等进行调整。转换后的灰度图经IMAQ Image To Array函数再转换为相应的二维灰度值数组。最后,将二维灰度值数组加入二维索引数组中。BCG Values的三个值依次是Brightness 37.0、Contrast 54.40和Gamma 8.52。这些数值是在室内白天正常光照情况下调试获得。
对图2所示的原始图像进行灰度处理得到颜色特征灰度图如图5所示,从图5中可以看出稻种像素的亮度与纸张背景有着显著的差异。
1.2.2 二值化
为了实现稻种与背景的分割,首先将颜色特征图归一化到0~1的范围内,实现灰度的拉伸,使得稻种与背景的对比更加明显。然后利用Otsu法对灰度图像进行二值化分割,其利用最大类间方差自动确定阈值[1517],能够实现水稻种子和背景之间的良好分割。在对图像进行阈值分割时,选定的分割阈值应使前景区域的平均灰度、背景区域的平均灰度与整幅图像的平均灰度之间差别最大,这种差异用区域的方差来表示[1820]。
设图像中灰度为i的像素数为n,灰度范围为[0,L-1],则总的像素数
N=∑L-1i=0ni
(2)
各灰度值出现概率
pi=niN
(3)
把图像中的像素用阈值T分成两类C0和C1,C0由灰度值在[0,T-1]的像素组成,C1由灰度值在[T,L-1]的像素组成,则区域C0和C1的概率分别为
P0=∑T-1i=0pi
(4)
P1=∑L-1i=Tpi=1-P0
(5)
区域C0和C1的平均灰度分别为
μ0=1P0∑T-1i=0ipi=μ(T)P0
(6)
μ1=1P1∑L-1i=Tipi=μ-μ(T)1-P0
(7)
式中:
μ——整幅图像的平均灰度。
μ
=∑L-1i=0ipi
=∑T-1i=0ipi+∑L-1i=Tipi
=P0μ0+P1μ1
(8)
两个区域的总方差为
σB2
=P0(μ0-μ)2+P1(μ1-μ)2
=P0P1(μ0-μ)2
(9)
令T在[0,L-1]范围内依次取值,使总方差最大的T值便是最佳区域分割阈值,因此该方法也叫做最大类间方差法。本文采用该方法对特征图进行二值化处理,能够选取合适的分割阈值使得稻种与背景的类间方差最大,即最大化二者的灰度差异,从而达到最佳的分割效果。二值化后的效果图如图6所示。对比图2可以看出,每一粒稻种都能从背景中完整地分割出来。
1.2.3 噪点去除
从图6可以看出,部分稻种存在粘连现象,这将影响稻种的准确计数。通过分析稻种间的粘连程度,发现部分轻微粘连的稻种可以采用形态学方法断开相互间的连接,从而提高稻种计数的准确性。同时,为了避免对其他稻种的影响,本文采用开运算对二值图像进行处理。
开运算属于图像处理中的形态学方法,可以通过结构元素对原始图像进行卷积运算,达到去除图像噪声和消除物体边界点的目的。开运算主要包含腐蚀与膨胀两种基本操作:腐蚀可缩小目标范围,表达式如式(10)所示,表示A被B腐蚀;膨胀可扩张待处理区域,表达式如式(11)所示,表示A被B膨胀。
AB={z|(B)z∩Ac≠Φ}
(10)
AB={z|(B^)z∩AA}
(11)
式中:
A——被膨胀的集合(图像物体);
Ac——A的补集;
B——结构元素;
(B^)z——
B反射平移z后得到的新集合;
Φ——空集。
将上述运算进行复合:首先对水稻种子图像进行腐蚀操作,然后对结果进行膨胀操作。形态学方法的开运算对图像进行孔洞填充,即对图像进行先腐蚀后膨胀操作,去除细小杂物并使轻微粘连的稻种分开。通过多次试验,当结构元素设置为99时,可以去除颜色污染,消除细小杂质对处理结果的影响。孔洞填充的表达式如式(12)所示。
Xk=(Xk-1B)∩Ac, k=1,2,3,…
(12)
式中:
X0——
由0組成的阵列,即边界的初始点;
Xk-1——孔洞填充前的图像;
Xk——孔洞填充后的图像。
由于单个水稻种子的成像近乎椭圆形,则设置区域P为单颗水稻种子的成像区域,区域Q为方块背景区域。假设每个种子的灰度分布大小和其背景近似相同,那么实际分割得到的图像分割区域和全部图像的像素比可以近似由图形P和Q的面积比来确定。为了处理分割后的锯齿边缘,通常要进行形态学膨胀处理,因此分割出的籽粒像素区域必须保有一定的余量,通常要求实轴长r和背景长a满足以下条件
ra/2≤K
(13)
由此条件可以计算出水稻种子像素与背景的面积比
SPSQ=πr2a2≤πΚ24
(14)
式中:
SP——图形P的面积;
SQ——图形Q的面积。
面积约束可以应用灰度直方图的方法实现,并可以表示成式(15)的形式。从灰度0开始,依次计算小于或等于Ts的像素数占采集图像像素总数的比例,如果该比值与SP/SQ的差的绝对值达到最小,则Ts即为所求最佳面积阈值。
Ts=argminTs∑Tsn=0Ln∑255n=0Ln-SPSQ
(15)
式中:
Ts——面积约束下的阈值;
Ln——
灰度值为n的像素点的数量。
经过对比测试,本文选择15个像素大小的结构元素进行开运算,开运算前后的局部对比图如图7所示。从图7(b)可以看出经开运算处理后,轻微粘连的稻种被分开,但粘连较为严重的稻种仍然处于粘连状态。
本文首先采用开运算对轻微粘连的稻种进行分离,然后将图中面积小于稻种平均面积1/5的区域置为0。其中,稻种的平均面积由统计得到,根据1 000粒稻种的统计结果显示,稻种的平均面积约为1 400个像素大小,其1/5为280个像素。去除噪点后的图像如图8所示,对比图6可以看出图中的噪点已经被尽数清除。
1.2.4 数据修正
图8中存在大量紧密粘连的稻种,难以实现准确的统计。为了使得统计结果更加精确,计算图8中每个连通区域的像素面积,再计算其与稻种的平均面积比值,最后根据比值的结果对连通区域稻种的数量进行计算,从而实现稻种的精确计数。
2 试验结果与分析
以2021年10月采集的播种纸图像为研究对象,从中选取5张完整的播种纸,采用上述检测方法进行处理和分析。其中编号为001的播种纸图像处理结果如图9所示,该张播种纸上的种子个数为2 054个。由于全局图难以发现局部处理信息,因此进行局部放大处理,如图10所示。
从图10可以清晰地看出,有9个胶点上只粘附1个水稻种子,有4个胶点上粘附了2个水稻种子,有2个胶点上粘附了3个水稻种子。检测方法给出的数量与实际情况一致。
成种率的检测结果如表1所示。可以看出,胶点上附有1颗种子的数目为1 457个,占比70.93%;胶点上附有2颗及以下种子的占比为89.72%;胶点上附有3颗及以上种子的占比较少。结果表明,一张播种纸上有接近九成的种子具有较好的匀种性。
利用所建系统和所提算法对多张播种纸的成种率进行检测,结果如表2所示。表2中成种率统计的是胶点上附有2颗及以下种子的占比。从表2可以看出,播种纸的成种率均在90%左右,表明印刷播种机不仅运行稳定而且成种率较高,同时也表明本文所设计的检测方法切实可行。后续将利用检测结果调整印刷播种机的控制策略,有望能够取得95%以上的成种率。
3 结论
1) 本文针对水稻印刷播种成种率检测问题,提出了一种基于机器视觉和自适应形态学的检测方法。利用工业CCD摄像机、光源、图像采集卡、上位机组成的成种率检测系统安装在印刷播种机上获取播种纸图片信息。利用Otsu等自适应形态学方法对图像进行颜色提取,结合红绿色差和阈值分割对图像进行处理,能够实现稻种与背景区域的有效分割。利用面积阈值法能够有效去除图像中的细小颗粒噪声,尤其是采用开运算对轻微粘连的水稻图片进行分割,提升了水稻种子数量统计精度。
2) 播种纸上的成种率最高达到92.05%,最低也有88.84%,表明该检测方法能够精确定位水稻种子,准确判断胶点上水稻种子数目,为提升印刷播种机的精播和匀播性能提供数据支撑。
3) 下一步研究工作是利用成种率检测结果调整印刷播种机上的电机转速,实现闭环反馈优化控制,从而提升水稻印刷播种的质量。
参 考 文 献
[1] 李泽华, 马旭, 李秀昊, 等. 水稻栽植机械化技术研究进展[J]. 农业机械学报, 2018, 49(5): 1-20.
Li Zehua, Ma Xu, Li Xiuhao, et al. Research progress of rice transplanting mechanization [J]. Transactions of the Chinese Society for Agricultural Machinery, 2018, 49(5): 1-20.
[2] 張洪程, 胡雅杰, 戴其根, 等. 中国大田作物栽培学前沿与创新方向探讨[J]. 中国农业科学, 2022, 55(22): 4373-4382.
Zhang Hongcheng, Hu Yajie, Dai Qigen, et al. Discussions on frontiers and directions of scientific and technological innovation in Chinas field crop cultivation [J]. Scientia Agricultura Sinica, 2022, 55(22): 4373-4382.
[3] 庄春, 纪力, 邵文奇, 等. 印刷播种大壮苗育秧技术下水稻机插适宜密度与效果研究[J]. 江苏农业科学, 2019, 47(7): 69-72.
Zhuang Chun, Ji Li, Shao Wenqi, et al. Study on the suitable density and effect of rice machine transplantation with printing and sowing techniques for growing large and strong seedlings [J]. Jiangsu Agricultural Sciences, 2019, 47(7): 69-72.
[4] 钟平, 邵文奇, 徐文静, 等. 印刷播种技术对机插秧苗素质和栽插质量的影响[J]. 金陵科技学院学报, 2014, 30(4): 51-54.
Zhong Ping, Shao Wenqi, Xu Wenjing, et al. The effects of printing-sowing technology on seedling and the transplanting quality of mechanical transplanting rice [J]. Journal of Jinling Institute of Technology, 2014, 30(4): 51-54.
[5] 王侨, 刘卉, 杨鹏树, 等. 基于机器视觉的农田地头边界线检测方法[J]. 农业机械学报, 2020, 51(5): 18-27.
Wang Qiao, Liu Hui, Yang Pengshu, et al. Detection method of headland boundary line based on machine vision [J]. Transactions of the Chinese Society for Agricultural Machinery, 2020, 51(5): 18-27.
[6] 刘海涛, 伊丽丽, 兰玉彬, 等. 机器视觉在棉花智能打顶领域的应用研究进展[J]. 中国农机化学报, 2021, 42(6): 159-165.
Liu Haitao, Yi Lili, Lan Yubin, et al. Research progress in the application of machine vision in the field of cotton intelligence topping [J]. Journal of Chinese Agricultural Mechanization, 2021, 42(6): 159-165.
[7] Rehman T U, Mahmud M S, Chang Y K, et al. Current and future applications of statistical machine learning algorithms for agricultural machine vision systems [J]. Computers and Electronics in Agriculture, 2019, 156: 585-605.
[8] Bai J, Hao F, Cheng G, et al. Machine vision-based supplemental seeding device for plug seedling of sweet corn [J]. Computers and Electronics in Agriculture, 2021, 188: 106345.
[9] 张亚莉, 肖文蔚, 卢小阳, 等. 基于可见光图像的水稻颖花开花状态检测方法[J]. 农业工程学报, 2021, 37(9): 253-262.
Zhang Yali, Xiao Wenwei, Lu Xiaoyang, et al. Method for detecting rice flowering spikelets using visible light images [J]. Transactions of the Chinese Society of Agricultural Engineering, 2021, 37(9): 253-262.
[10] 孙俊, 张林, 周鑫, 等. 采用高光谱图像深度特征检测水稻种子活力等级[J]. 农业工程学报, 2021, 37(14): 171-178.
Sun Jun, Zhang Lin, Zhou Xin, et al. Detection of rice seed vigor level by using deep feature of hyperspectral images [J]. Transactions of the Chinese Society of Agricultural Engineering, 2021, 37(14): 171-178.
[11] 杭艳红, 苏欢, 于滋洋, 等. 结合无人机光谱与纹理特征和覆盖度的水稻叶面积指数估算[J]. 农业工程学报, 2021, 37(9): 64-71.
Hang Yanhong, Su Huan, Yu Ziyang, et al. Estimation of rice leaf area index combining UAV spectrum, texture features and vegetation coverage [J]. Transactions of the Chinese Society of Agricultural Engineering, 2021, 37(9): 64-71.
[12] 徐建鵬, 王杰, 徐祥, 等. 基于RAdam卷积神经网络的水稻生育期图像识别[J]. 农业工程学报, 2021, 37(8): 143-150.
Xu Jianpeng, Wang Jie, Xu Xiang, et al. Image recognition for different developmental stages of rice by RAdam deep convolutional neural networks [J]. Transactions of the Chinese Society of Agricultural Engineering, 2021, 37(8): 143-150.
[13] Habib M T, Majumder A, Jakaria A Z M, et al. Machine vision based papaya disease recognition [J]. Journal of King Saud University-Computer and Information Sciences, 2020, 32(3): 300-309.
[14] Williams H A, Jones M H, Nejati M, et al.Robotic kiwifruit harvesting using machine vision, convolutional neural networks, and robotic arms [J]. Biosystems Engineering, 2019, 181: 140-156.
[15] Srivastava S, Vani B, Sadistap S. Machine-vision based handheld embedded system to extract quality parameters of citrus cultivars [J]. Journal of Food Measurement and Characterization, 2020, 14(5): 2746-2759.
[16] Mi C, Chen K, Zhang Z W. Research on tobacco foreign body detection device based on machine vision [J]. Transactions of the Institute of Measurement and Control, 2020, 42(15): 2857-2871.
[17] Kumar S D, Esakkirajan S, Bama S, et al. A microcontroller based machine vision approach for tomato grading and sorting using SVM classifier [J]. Microprocessors and Microsystems, 2020, 76: 103090.
[18] Zhang S, Yang X, Wang Y, et al. Automatic fish population counting by machine vision and a hybrid deep neural network model [J]. Animals, 2020, 10(2): 364.
[19] Jacques A B, Adamchuk V, Park J, et al. Towards a machine vision-based yield monitor for the counting and quality mapping of shallots [J]. Frontiers in Robotics and AI, 2021, 8: 41.
[20] Tang Y, Chen M, Wang C, et al. Recognition and localization methods for vision-based fruit picking robots: A review [J]. Frontiers in Plant Science, 2020, 11: 510.