无接触式猪体体尺测量技术研究进展

2024-01-01 00:00:00李熙莹刘恒苏淑妍司景磊
华中农业大学学报 2024年5期
关键词:计算机视觉体尺

关键词 猪; 无接触测量; 体尺; 视觉传感器; 三维点云; 计算机视觉

肉类中的蛋白质是人类必需的营养成分之一,也是人类膳食结构的重要部分[1]。随着工业化和城市化的发展,世界人口数量和生活水平不断提高,人们对动物性食品的需求不断增长。根据联合国粮农组织(FAO)提供的数据,截至2020 年底,世界肉类总产量已经超过33 000 万t。其中,猪肉作为全球三大肉类之一,占全球肉总产量的33%[2]。我国是养猪大国,养猪基数大、猪肉消费占比高。国家统计局数据[3]显示,2022 年中国全年猪肉产量5 541 万t,同比增加4.6%,生猪出栏69 995 万头,同比增加4.3%,能繁殖母猪存栏4 390 万头,同比增加1.4%。因此,全球畜牧业生产,特别是猪肉的生产与安全,对粮食安全有着重要的影响[4]。

合理的猪体生理信息监测是确保猪肉安全的关键环节之一。通过监测猪体生理信息,可以实现猪的生长发育状况监测[5]、疾病预警[6]和生产性能评估[7]等。其中,猪的体尺参数测量是生理信息监测的主要内容,测量参数包括体高、体长、体宽、胸围、臀围和腹围等[8],这些参数对指导实际生产如评价生长状况[9]、性状选择[10]和参数预测[11]具有重要意义。

传统的猪体体尺测量通常是通过皮尺、卷尺和测量杖等工具进行人工测量[12]。在养殖数量大、测量频率高和待测体尺参数多的情况下,传统的人工体尺测量方式耗时耗力,且工作量巨大。同时,猪的应激反应也会导致人工测量的精度下降。此外,这种接触式的测量为人和牲畜之间细菌和病毒的传播提供了可能[13]。因此,传统的猪体体尺测量方式亟需进一步的改进。

为减少牲畜的应激影响,无接触式的牲畜体尺测量方法已开始研究和推广[8-9,12,14-19]。无接触式测量是在对象处于正常活动的前提下,使用先进的光学传感器对检测对象的表面实现二维或三维的成像,同时结合计算机视觉算法,达到体尺测量的目的[16]。不同牲畜体尺测量要求具有一定的差异性[17-18]。一是养殖环境,牛羊一般养殖在室外牧场,而猪的养殖环境一般是半封闭或封闭的室内场地,由于生猪养殖环境缺少自然光照,可忽略阳光直射对设备工作造成的影响,应选取工作场景亮度不足条件下的测量设备和方案。二是体形体态,由于生猪的体形比奶牛和肉牛的小,且活泼好动,对测量设备的采样率和算法适应性要求更高。三是体表,牛羊需考虑被毛对体尺测量的影响;而猪毛一般较稀疏,不会完全遮挡体表,但生猪体表一般沾有粪便、泥点等,需要考虑其产生的噪声对数据真实性的干扰。

近年来,随着无接触式猪体体尺测量技术的发展,对该技术在实际生产中应用的需求越来越旺盛。目前,针对无接触式体尺测量的研究主要聚焦于算法细节,例如数据的预处理、获取目标数据、体尺计算方式等[19-20],但没有特别关注工程部署方面的条件限制和可行性技术方案的需求。因此,本文从工程部署角度概述了近年来不同的无接触式猪体体尺测量方法研究进展,将算法细节和工程部署需求相结合,突出在工程应用中相关算法差异,并对三维体尺测量技术进行详细的技术分析,以期更好地提升无接触式猪体体尺测量技术的成熟度、准确度和便利性,为该技术在监测猪体生理信息方面的应用提供参考。

1 无接触式体尺测量原理及硬件技术

无接触式体尺测量主要利用视觉传感器进行视频图像数据采集。视觉传感器一般分为两大类:RGB 设备和深度设备[20]。RGB 设备即普通相机,通过内部的成像元件将光线转换为数字信号并存储[21],其成像原理简单、材料成本低、发展时间长且设备种类繁多,技术十分成熟,通常是便携、低成本视觉系统的重要组成部分。但RGB 设备输出的是二维图像数据,这极大限制了计算机感知和理解三维现实世界的能力[22]。深度设备利用3D 表面成像技术实现设备到物体表面距离的测量,即深度测量。深度信息能够反映物体的三维空间关系和特征,可以改善计算机在二维图像上感知能力受限的问题。3D 表面成像技术的基本原理可以分为三大类[23]:三角测量、飞行时间和干涉法。

基于三角测量的3D 表面成像技术本质上是一种几何计算,通过测量三角形的角度和基线,计算确定目标的距离。三角测量的计算原理用公式(1)表示,Z 表示深度,b 是基线长度,d1和d2分别是入射光束在相机1 和相机2 的位置,f 是相机的焦距[24]。

基于飞行时间的3D 表面成像技术,顾名思义,是通过计算光的飞行时间来测量深度。光源发射出已知速度的光束,经由测量物体的表面反射回传感器上,根据来回时间t 来计算深度Z[25]。而深度Z 和时间t 之间的关系可以用函数f 表示,即公式(2)。

基于干涉法的3D 表面成像技术一般通过干涉仪将相干光束一分为二,其中1 条射向参考镜,另1条射向样品,再将2 条光束反射回分束器,通过波的相位信息来确定深度,其精度在纳米范围[26]。但这种方法不适用于牲畜的体尺测量。

无接触式的猪体体尺测量技术的发展已有30 多年,从最早的黑白相机到深度相机,从单个设备到多个设备,从灰度图到三维点云图,从机器学习到深度学习,视觉传感器的转型升级和算法技术的发展促使工程实施方案发生了明显的变化,不同阶段的工程实施方案具有显著的特点[27-28]。本文将无接触式猪体体尺测量工程部署方法分为两大类,分别为基于RGB 设备的部署方法和基于深度设备的部署方法,如图1 所示。为了条理清晰地回顾无接触式的猪体体尺测量技术的发展,以视觉传感器作为切入点进行阐述。

2 工程部署方法

2.1 基于RGB设备的部署方法

1)单RGB 相机。在早期的研究中,无接触式猪体体尺测量并没有构成一项独立的研究。研究者将单个相机安装在进食站处,在饲养环境下对猪进行日常监测、计数等[29-30],把长度或面积等图像测量数据作为估计猪活体质量等指标的参数[31]。这些研究没有明确地对测量体尺进行学术性的定义,但其基于图像进行测量的思想为无接触式体尺测量提供了思路[32]。

直至VIA 系统(visual image analysis system,VIA system)[33]的出现,基于RGB 图像的体尺测量技术独立出来并成为研究热点。VIA 系统中,主要有两大部分,第一部分为安装在食槽顶部的RGB 相机,第二部分为计算机内的图像分析软件,用于计算和处理采集设备采集的图像。该系统首先对采集的猪体背部图像进行失真矫正,再通过图像算子的处理以及灰度图像的阈值选取获得目标猪体的背部轮廓。同时,为了得到更准确的结果,使用图像腐蚀和膨胀等简单操作对背部轮廓图像进行处理。最终,该系统通过背部的轮廓图获得猪体形态数据。Doe⁃schl 等[34]对VIA 系统所计算的猪体体尺测量指标进一步明确,定义了线性测量指标和面积测量指标。VIA 系统创造性地给出了一种早期的无接触式猪体体尺测量方案,通过单RGB 相机采集猪体背部图像,对猪日常活动的干扰较小,可应用于现场饲养环境。但是该系统的人工图像处理过程过于复杂,同时由于图像质量低和分析算法低效还会产生误差。单RGB 相机只能拍摄猪体的某个视角,大多数研究将相机放置于顶部拍摄俯视图以获取猪体背部图像,所获取的猪体体尺数据或猪体图像特征有限。

2)双RGB 相机。为了获取更多的猪体体尺数据,部分研究改为使用双RGB 相机。这种双相机的组合方式主要有2 种。

第1 种组合方式是在食槽顶部拍摄的基础上再增加一个侧面进行拍摄。Chen 等[35]开发了一种基于机器视觉技术的猪体生长监测系统,通过一对相机得到的俯视图和侧视图计算体高、体长、胸宽和臀宽,并根据这些体尺参数预测猪的肉产量。类似的,Tian 等[36]也从双视角RGB 相机采集猪体图像,然后转换成二值图像以获得感兴趣区域和猪体的边缘,最后根据猪体边缘的位置计算猪体的体高、体长、胸宽和臀宽。与基于单个RGB 相机的猪体体尺测量方法不同,这种方法可以同时在侧视图上计算体高,可获得更多的体尺数据。

第2 种组合方式是双目视觉系统,即类似人眼结构,将2 个相机放置在有一定间距的同一个视角,左右相机参数相同。双目视觉系统通过立体匹配算法对2 个RGB 相机的图像进行匹配,基于三角原理把双相机视差转换为深度,最后将深度信息重新映射到原始图像中以得到3D 点云图像。李卓等[37]使用双目视觉系统获得猪体深度图像,利用帧差法提取猪只高度信息,并基于猪体轮廓的拐点筛选体尺检测关键点,计算体长、体宽、体高、臀宽、臀高5 个体尺参数。Shi 等[38-40]的团队基于双目视觉系统展开了多项猪体体尺测量研究,通过双RGB 相机获取猪体的深度图,使用深度阈值获取猪体图像区域以消除图像背景的干扰[38],然后在猪体深度图中确定测量关键点,最后基于关键点的位置计算体长、体宽、臀宽、肩宽、臀高等多项体尺参数[39]。该团队还构建了一种无接触式的猪体体尺检测系统[40],实现了工程化和自动化。该系统把滑轨放置于饮水区域围栏的上方,当该系统工作时,滑轨上带有双目视觉相机的电气柜在不同的围栏处停止并进行图像采集,同时使用软件程序实现电气柜的控制以及采集图像的校准和体尺测量。与VIA 系统的人工图像阈值处理和传统的灰度阈值分割不同,双目视觉利用深度信息可以得到更加精确的猪体背部轮廓图像,测量更多的猪体体尺数据。

3)多个RGB 相机。为了得到更加完整的猪体三维图像,可以将多对RGB 相机应用在多个视角分别获取视差图像,进而构建猪体三维图像。Wu 等[41]开发了由6 个高分辨率相机组成的立体成像系统,分别拍摄猪的侧视图、俯视图和后视图,并通过视差计算深度以获得猪的三维图像。尽管多个RGB 相机可以得到更完整的猪体三维图像,但是与单个或一对RGB 相机相比,所需设备的数量更多,且需要更复杂的测量环境和测量系统,因此,该方法难以应用到实际养殖和农业生产中。

2.2 基于深度设备的部署方法

1)单深度相机。面向消费者的3D 深度相机在问世后受到了业界的广泛关注,研究者将其应用于无接触式的猪体体尺测量和猪活体质量预测中。Condotta 等[42]通过Kinect v1 深度相机获取的深度图和点云数据计算猪的体积,从而进一步估计猪的活体质量。Okayama 等[43]将点云数据与猪的姿态角度相结合,以减少活体质量估计的误差。Li 等[44]将Ki⁃nect v2 深度相机放置于饮水区的上方采集深度图像,将深度图转为点云数据后计算肩宽、体高和体长。单深度相机和双目视觉系统类似,都是从单个方向上获取猪体的深度图或点云数据。其主要区别除了基本原理不同外,3D 深度相机避免了双相机匹配的计算过程。利用单深度相机可以构建一个简单、有效且可靠的无接触式猪体体尺测量系统。然而受视角单一的影响,这种方式只能获取有限的猪体部分点云,因此只能测量部分猪体体尺。

2)双深度相机。为了获取更完整的猪体点云数据,有研究使用了2 个深度相机。Pezzuolo 等[45]将2个Kinect v1 深度相机放置于猪的喂食区上方和侧方,测量的体尺数据包括体长、腹围、肩宽和臀高。相比单深度相机的方法,该研究获取的点云数据更完整,因此还可以获得猪体的腹围数据。

除了这种常规的基于双深度相机的研究,Wang等[46]将其设计成便携式的猪体体尺检测系统,把2个Xtion Pro 深度相机固定在一个V 型背携式金属支架上进行移动式数据采集。该研究首先对2 个相机进行配准,再使用欧几里得聚类剔除背景,从而获得目标猪体点云。为了让整个流程自动化,还需要使用主成分分析算法对猪的姿态进行归一化,最终确定归一化点云的测量关键点,以此来计算体长、体宽和体高。

3)3 个深度相机。为了能够基本完整地采集到目标猪体的表面点云数据,需使用3 个深度相机。常见的方式是先将3 个深度相机分别放置于一个通道的两侧和顶部,然后进行配准,测量时让猪逐头通过该通道,当行至最佳位置时捕获点云数据,再利用随机样本一致性算法等技术提取猪的点云,最后根据关键点计算体长、体高、体宽和腹围的体尺数据[47]。Hu 等[48]通过改进的深度学习网络PointNet++对猪体的不同部位进行点云分割,以避免其他点云部分干扰关键点的确定,分别测量了体长、体高、体宽、胸围、腹围、臀围等体尺数据。三维视角的深度相机组合能够获取比较丰富的体尺数据。

2.3 工程部署方法对比

从视觉传感器角度看,不同的工程部署方法所使用的设备数量、设备类型大有不同;从算法技术角度看,随着设备的更新,新技术和更高效的算法逐渐替代了传统方法。总的来说,不同的工程部署方法不仅与视觉传感器设备和测量算法技术紧密相连,还决定了测量环境、采集数据类型、可测量体尺数据。表1 对不同工程部署方法的特点进行汇总。对于无接触体尺测量方法评价,通常采用算法测量结果与人工测量结果进行对比。表2 中列举了不同工程部署方法的体尺测量性能指标[8,37,40,44,46-49]。由于表2 中各个文献使用了不同的自建数据集,且其中一些研究为了避免猪的非标准姿态、数据缺失、噪声等带来的较大误差,在评估其方法性能时采取了数据过滤的措施,因此表2 中结果仅供参考。通过对比各种工程部署方法的优缺点及应用效果可以看出,使用三维视角的深度相机系统采集的三维点云可获取更丰富、准确的猪体体尺数据,更能满足实际的体尺测量需求。

3 基于点云的三维体尺测量技术

基于深度设备的部署方法使用以点云为基础的三维体尺测量技术,其可测量的数据丰富,精度较高,具有更为广泛的应用前景[50]。这类方法可划分为5 个技术步骤:目标猪体提取、猪体数据补全、猪体姿态归一化、关键点检测和体尺计算(图2)。

3.1 目标猪体提取

在数据采集的过程中,原始点云数据不仅包括目标猪体,还包括地面、栏杆、屋内天花板等现场环境的其他物体,如果测量位置位于饲养区等猪的日常活动区域,点云数据还可能包括非测量对象猪体[51]。因此,目标猪体提取是无接触式测量的必要步骤。例如,Condotta 等[42]直接选取某个深度范围的数据;Li 等[44]使用方差分类算法消除非猪点云,通过区域生长法分割同一点云下的多只猪;Wang 等[46]使用欧几里得聚类提取猪体点云。上述方法均是基于人工操作或者传统机器学习的算法,难以具备高精度和强泛化能力。在实际的应用中,猪在进食和饮水时,其点云呈现与栏杆、地面等物体接触的状态,还有猪的多种姿态和多只猪混合圈养等特点均使得猪体信息提取存在一定的难度。因此,由于环境的复杂性、猪体的多种姿态和多场景应用等因素,使得上述传统目标猪体提取方法难以满足日后实际测量的需求。

3.2 猪体数据补全

点云数据本身是稀疏的,且受被测对象特性、处理方法和环境的影响,采集的点云数据存在缺失。当前研究的猪体数据缺失一般是数据采集方式导致的。单深度相机或双深度相机的拍摄方式难以兼顾所有的角度,只能获得局部的猪体点云。三维视角的深度相机一般需要狭长的拍摄通道,该通道可由绳子、铁链或木板等材料围成,以尽量使通道不遮挡猪体的关键部位,因此这种拍摄方式下,猪体点云会呈现条纹状的缺失。除此之外,反射、透射、分辨率和角度等原因也会导致点云数据的缺失。李孟飞等[52]使用模型猪作为实验对象,结合了3 次B 样条曲线拟合和边缘检测,提出一种基于阈值分析的猪侧视点云补全方法,补全因栏杆遮挡而缺失的部分点云数据,有效减小了猪体胸围和腹围的测量误差。在无接触式猪体体尺测量的领域中针对缺失点云补全的相关研究较少,然而猪体数据的补全有助于确定测量关键点,有利于提高测量体尺的精度,还能够在设备数量有限的情况下为获取更多的数据提供支持。因此,猪体数据的补全对于后续的测量任务以及推动下游应用至关重要。

3.3 猪体姿态归一化

当完成猪的点云数据采集后,为了更好地利用计算机视觉技术实现点云测量关键点的自动提取,提高测量体尺的自动化程度,需要对猪体进行姿态的归一化,即对点云进行三维旋转和三维平移,使得猪体在点云坐标系中呈现的姿态统一,便于后续处理。目前,传统的姿态归一化方法主要有三类[53]:第一类是基于主成分分析的经典姿态归一化方法[54];第二类是基于3D 点云对称特征的姿态归一化方法[55-57];第三类是基于特定几何信息的方法[58-60]。在复杂的环境下,上述方法难以捕获目标的关键特征。另外,受点云数据质量的影响,其归一化效果不稳定,容易导致归一化主轴不准确。为了进一步提高猪体姿态归一化方法的性能,王可等[61]提出了一种基于地面法向量的局部坐标系矫正方法,用于修正主成分分析方法带来的误差或错误。Guo 等[62]将对称特征的姿态归一化方法与猪体的前方朝向相结合,提出了一种自动猪体归一化框架,其性能优于传统方法。这些基于传统方法改进的姿态归一化方法仍然受到传统方法缺陷的制约,难以进一步推广至更为复杂的环境下。

3.4 猪体测量关键点检测与体尺测量

猪体体尺测量实质上是基于体尺的几何定义,对测量关键点的位置和距离进行度量。因此,在完成目标猪体提取、数据补全和姿态归一化后,需要先检测猪体的测量关键点,才能进行猪体体尺的计算。以体长测量为例,Hu 等[48]首先确定耳根部中点和尾部中点,再将猪体背部边缘的点云分为前、中、后三部分,然后分别计算每个部分的体长关键点,最后拟合得到背部的体长曲线以计算体长。这类传统的猪体测量关键点检测方法具有严格的定义,解释性强。其准确测量的前提是需要准确的猪体点云数据,如果存在噪声数据干扰,则会对测量产生较大的影响。

3.5 其他

在基于深度相机的猪体体尺测量的研究中,使用的三维点云数据不包含颜色信息,导致使用这种点云数据的网络无法提取物体的颜色特征。而现在的消费级深度传感器一般同时具备RGB 相机和深度相机,这为同时捕获深度信息和颜色信息提供了硬件支持。因此,在牲畜体尺测量的研究中,可以把RGB 数据与点云数据相结合[63],将RGB 相机与深度相机进行配准,使得每个点信息除三维坐标外还有RGB 三通道值。在猪体体尺测量领域暂时没有利用类似的数据类型进行的相关研究,但在猪体体尺测量的各项任务中,通过多模态特征融合算法使模型能够同时学习点云的空间特征及颜色特征,将有利于提高三维体尺测量部署方法的精度。

4 展望

综上所述,使用视觉传感器和先进的计算机视觉技术进行无接触式猪体体尺测量,可以有效解决传统猪体体尺测量中费时费力、精度低和存在接触风险等问题。设备是工程实施方案的主要核心,工程实施方案会随着设备的更新而升级。使用三维视角深度相机的部署方法能够获取更丰富且准确的猪体体尺数据。但目前无接触式猪体体尺测量领域应用的相关技术与前沿的深度学习方法结合尚不够深入。而深度学习方法凭借神经网络强大的特征提取和学习能力,使计算机能更好地处理各种点云任务。在未来的研究中,结合点云数据处理相关领域的深度学习方法,有望能提升无接触式猪体体尺测量技术的成熟度、准确度和便利性。

1)点云分割。与规则刚体目标相比,猪体点云存在无序性和密度不均匀等特点,传统方法提取的特征较为简单,难以处理复杂的点云数据以提取目标猪体。在实际工程的应用上,还需要算法具备较强的泛化能力和迁移能力,即能够适用于不同周龄、品种的猪及各种环境等。此外,深度学习的点云分割方法还存在分割模型复杂导致计算成本高、标注大量的点云样本十分耗时等问题。尽管面临以上挑战,深度学习方法由于其高效的特征学习能力,在点云语义分割领域展现出优良的效果,可以感知更深层的点云语义信息,因此由传统方法转向深度学习方法是猪体点云分割的未来主流方向。除了猪体点云提取,点云分割还可应用于猪体不同部位的分割,即部件分割任务,以辅助猪体体尺测量。

2)点云补全。点云补全是通过局部点云对整体点云进行生成和估计,可以有效地提高猪体点云数据质量。目前主要面临两大挑战:一是结构特征的挑战,点云补全任务需要网络学习局部点云的结构特征,但点云数据具有无序性和非结构性,这使得点云补全任务更难完成。二是点云细粒度的挑战,即网络需要学习点云的几何对称性、规则排列和表面光滑度等细粒度细节。点云数据补全在近几年已经取得了重大的进展,将该技术应用到猪体体尺测量中是该领域未来的重点之一。

3)点云姿态归一化。为了实现猪体体尺测量的自动化,猪体姿态归一化是必要的步骤。在无接触式猪体体尺测量中,猪体是一种复杂的非刚体,感知其姿态需要大量的特征信息,且实际养殖中同个栏位的数量较多、养殖密度较大,目标个体容易被遮挡,难以进行姿态归一化。因此,使用考虑遮挡的端到端网络对猪体进行姿态归一化成为了该领域的趋势。

4)关键点检测。传统的猪体测量关键点检测方法具有严格的定义,解释性强,其准确测量的前提是需要准确的猪体点云数据,因此,这种方法严重依赖于上游任务的准确完成,诸如猪体点云提取、猪体表面点云去噪等。深度学习在点云关键点检测任务中展现了更为优异的检测性能,可以解决传统方法的缺点。猪体测量关键点检测可视为点云分类任务,即构建函数将点云数据映射为猪体的各个关键点,还可以视为点云的兴趣点检测任务,辅助研究人员进行关键点检测结果的判断。

目前在猪体体尺测量领域中,深度设备的应用更加广泛且效果良好,以深度学习为核心的算法正逐渐占据主导地位。在未来的研究中,深度设备与深度学习算法相结合的无接触式猪体体尺测量方式将有更大的发展和提升空间。

猜你喜欢
计算机视觉体尺
浙江省四个地方品种鸡体尺比较分析
家禽科学(2024年7期)2024-12-31 00:00:00
家畜体尺自动测量技术研究进展
基于Kinect相机的猪弯曲体尺测量算法研究
肉羊体尺测量 用上“智慧眼”
今日农业(2020年15期)2020-12-15 10:16:11
高原型藏系羊初生体重与体尺指标的相关性研究
基于深度卷积神经网络的物体识别算法
双目摄像头在识别物体大小方面的应用
机器视觉技术发展及其工业应用
危险气体罐车液位计算机视觉监控识别报警系统设计
计算机视觉在交通领域的应用