机器学习回归不确定性揭示自驱动活性粒子的群集相变*

郭唯琛 艾保全 贺亮

(华南师范大学物理学院,理论物理研究所,广州 510006)

本文发展了一种利用逆统计问题中的回归不确定性来自动探索物质相的新方法.以自驱动活性粒子的群集相变为例,展示了对于这一类涉及非平衡、非晶格、一阶相变等复杂要素的多体系统,在训练人工神经网络处理其中的逆统计问题回归任务,成功重构出系统的噪声强度这一参数之后,回归结果的不确定性关于实际噪声强度的分布具有非平庸的规律性,可用于揭示该系统中的群集相变,并自动提取相变的临界噪声强度.本文还与两种基于神经网络分类能力的常见方法进行直接对比,讨论了它们的异同和各自特点.结果表明,本文发展的新方法不仅具有使用效率较高和所需预设的物理知识较少等实用优势,而且更有在理论层面较为自然地与传统物理概念建立联系的可能性,对于跨领域的不同物理系统都有良好的通用性和有效性.

1 引言

近年来,基于人工神经网络(artificial neural network,ANN)的机器学习技术已越来越多地为凝聚态和统计物理领域的研究提供帮助.尤其是2017 年Melko 和Carrasquilla[1]以及van Nieuwenburg 等[2]分别报道了自动探索物质相的“留白法”(learning with blanking) [1,2]和“混淆法”(learning by confusion) [2]之后,这两种利用ANN 处理分类任务的强大能力的方法以及它们的一些衍生方法[1-11],已成功地为许多不同物质相的存在性提供了数据驱动的新证据,并为对应相变点的参数临界值提供了数据驱动的新估计.这样的成功案例遍及凝聚态和统计物理领域的各种物理系统,也包括涉及非平衡[3,4]、拓扑缺陷[5,6]、强关联费米子[7,8]等复杂要素的情况.对于经典系统和量子系统,这一类机器学习方法不仅能处理由数值模拟产生的原始数据,还可以协助分析由实验观测得到的原始数据[9-11].然而,由于ANN 的底层工作机制至今仍未得到足够清晰的解释,ANN 通过直接拟合原始数据而给出的分“类”结果与被研究的物理系统中的物质“相”的理论联系往往难以捉摸[12-14].

面对这一困难,值得注意的是ANN 除了具有强大的处理分类任务的能力,还同样具有强大的处理回归任务的能力,而回归任务的结果通常具有明确的物理意义.例如,相应于研究一个物理系统时的正向思维“给定系统参数的取值,求系统的可能状态”,所谓的逆统计问题(inverse statistical problem,ISP)[15]指的是“给定一个具体的系统状态,求它可能对应的系统参数值”,这就是一种典型的回归任务.如果用ANN 处理ISP 的回归,ANN 的输出值就不再是处理分类任务时难以捉摸的“类”,而是被重构的系统参数值本身.事实上,ANN 处理回归任务的能力及其与传统物理概念的直接联系,已经开始被物理学家关注.尤其是Tegmark 等[16-19]探索了其自动构建物理理论的可能性,发现ANN可以在一些相关的回归任务中提取出系统的运动方程[16]、对称性[17]、守恒律[18]等等,甚至还用ANN重建了《费曼物理学讲义》中涉及的100 公式[19].这些有趣的研究成果体现了ANN 的回归结果比ANN 的分类结果更具有联系物理的可能性.

由此,基于ANN 回归的自动探索物质相的机器学习方法也逐渐开始出现,例如最近刚刚出现的利用ISP 中的回归不确定性的方法(learning from regression uncertainty,LFRU 方法)[20].这一方法自动探索物质相的能力及其与传统物理概念的直接联系在Ising 模型和Clock 模型中已得到了初步验证[20],为机器学习在相变研究中的应用提供了新的视角.然而,该方法的通用性仍需要进一步检验,尤其是面对非平衡、非晶格的系统中的一阶相变,LFRU 方法仍然有效吗? 我们知道,与连续相变不同,在一阶相变的临界点处,系统的关联长度不发散,这带来了更丰富的临界物理现象,但也使得它们的跨尺度普适性质难以被重整化群[21]等强大的物理学传统研究方法刻画.另一方面,与平衡系统不同,非平衡多体系统中细致平衡的缺失,同样带来了更丰富的临界物理现象,例如湍流的无规律行为[22],但这也同样使得相关领域缺乏较为通用的研究方法[23].考虑到ANN 的数据处理和信息挖掘能力本身是足够普适的,这类情景正是基于ANN 的机器学习技术的用武之地.如果基于ANN回归的LFRU 方法(以及基于ANN 分类的“留白法”和“混淆法”)能在不额外增加针对非平衡、非晶格的系统中的一阶相变的特殊设计的情况下,有效处理这类复杂多体系统,实现自动探索其中的物质相,那么这将为非平衡多体系统中的相变研究提供一个具有较强通用性的工具箱,有助于更好地揭示这类系统中的丰富的临界物理现象.

本文在一个由Vicsek 模型描述的自驱动活性粒子系统[24-27]中具体研究LFRU 方法的通用性.这是一个具有外部噪声的随机动力学模型,最初用于模拟鸟类在较低能见度的恶劣天气下的集群飞行,也是统计物理领域关于自驱动活性粒子系统的基础模型之一,具有丰富的集体动力学行为和自组织现象[24-27].这种非平衡多体系统的噪声强度的改变会引发一个从低噪声的群集相(flocking phase,所有粒子的运动方向大致相同)到高噪声的无序相(disordered phase,系统保有旋转对称性)的一阶相变[24-27](如图1 所示).研究发现,即使这涉及非平衡、非晶格、一阶相变等复杂要素,ANN 仍可以通用地被直接训练用于处理该系统中的ISP 回归任务,成功重构出该系统中的噪声强度,如图2(b)所示.进一步考察ANN 在这个任务中的回归不确定性,发现它关于被重构的实际噪声强度的分布具有规律性,其曲线呈现M 字形,如图3(a)所示.最重要的是,研究发现由ANN 自主得到的M 字形曲线,可以用于自动探索物质相.M 字形曲线不仅揭示群集相变的存在,而且其中间的极小值所在的位置,正对应于该相变的临界噪声强度.在先前研究[20]的基础上,上述新发现清晰展现了LFRU 方法对于跨领域的不同物理系统具有良好的通用性.我们也检验了“混淆法”和“留白法”这两种基于ANN分类的典型方法,用于研究自驱动活性粒子的群集相变的效果,在方法的使用效率、所需预设的物理知识、联系物理的可能性等方面,对比讨论了LFRU方法与它们的异同和各自特点.

图1 数值模拟生成的对应于不同噪声强度 θ 的典型样本.样本中的每个圆形标记表示二维空间中的一个自驱动粒子,其空间分布表示自驱动粒子的瞬时空间分布,其颜色分布表示自驱动粒子的运动方向的瞬时角度分布.此处作为示例的样本中,左边的5 个样本处于群集相,最右边的样本处于无序相Fig.1.Typical samples corresponding to different noise levels that are generated by numerical simulations.In every sample,each of the circular markers represents a single self-propelled particle in the two-dimensional space,with their spatial distribution representing the instantaneous spatial distribution of self-propelled particles,and their color distribution representing the instantaneous angular distribution of directions of motion of these self-propelled particles.Among the samples shown here for instance,the five samples in the left are in the flocking phase,and the rightmost one is in the disordered phase.

图2 自驱动活性粒子系统中的ISP(a) 系统的群速度 v¯ 关于噪声强度 θ 的依赖关系,v¯在θc 0.626±0.006 的突变表明系统在该噪声强度处发生一阶相变;(b)训练完成的ANN 给出的重构噪声强度 θR 关于实际噪声强度 θ 的依赖关系,误差棒表示回归不确定性 U(θ),对角线表示理想的回归结果θRθFig.2.Inverse statistical problem in a self-propelled active particle system:(a) Noise level dependence of the system’s global group velocity,whose jump at θc 0.626±0.006 characterizes the first-order flocking phase transition;(b) noise level dependence of the reconstructed noise level predicted by the well-trained ANN.The error bars represent the regression uncertainty U(θ),and the diagonal line represent the ideal regression result θRθ.

图3 三种机器学习方法揭示自驱动活性粒子的群集相变(a) 基于回归不确定性的LFRU 方法;(b) “混淆法”;(c) “留白法”Fig.3.Revealing the flocking phase transition of self-propelled active particles via applying three different machine learning approaches:(a) The LFRU approach;(b) the “learning by confusion” approach;(c) the “learning with blanking” approach.

2 自驱动活性粒子的群集相变和逆统计问题

2.1 物理系统

本文研究的多体物理系统由N个在二维L×L空间中运动的自驱动粒子组成,这些粒子的集体行为由一组随机动力学方程描述[24-27]:

其中,Δt是离散的时间间隔,v0是粒子的速率(设为常数),ϑ是矢量的归一化算符,ϑ(w)w/|w|,Ai是以i粒子所在位置为圆心的半径为r的区域,Ni是位于Ai区域内的粒子数(包括i粒子自身),ξi是随机指向的单位矢量噪声,η为表征环境扰动影响程度的噪声强度系数.这是一个标准的由外部噪声影响的Vicsek模型.在系统密度ρN/L2取定的情况下,噪声强度的改变会引发一个从低噪声的群集相到高噪声的无序相的一阶相变[24-27].通过计算该系统的群速度作为序参量,可看到在相变点处发生突变.为不失一般性,以N2048,ρ2,L32,v00.5,r1的系统为例.在该参数取值下,如图2(a)所示,的突变发生于ηc≈0.626.本文的具体目标是利用基于ANN 的机器学习技术,从图1 所示的原始数据中自动提取出这一临界噪声强度ηc.

2.2 机器学习

要利用基于ANN 的机器学习技术研究该物理系统,无论是让ANN 处理分类任务还是回归任务,都首先需要将数据整理为适合ANN 进行分析的形式.这当然有很多不同的做法.我们选择类似于ANN 在人脸识别等图像处理领域的用法,将数据整理为图像的形式(如图1 所示).每个数据样本图像中的每个圆形标记表示二维空间中的一个自驱动粒子,其空间分布表示自驱动粒子的瞬时空间分布,其颜色分布表示自驱动粒子的运动方向的瞬时角度分布.由于本文将直接使用一个工业界成熟的深度残差网络架构(residual neural network,ResNet)[28],其默认的输入尺寸是 3×224×224,其中的3 对应于彩色图像的RGB 三通道,因而本文数据样本图像的尺寸也为 224×224 像素.这些样本被分配为3组,构成3 个不同的数据集:训练集、验证集、测试集.

所谓ANN 的训练,指的是若干次遍历训练集的样本,每次遍历时,ANN 作为一个3×224×224→1(用于ISP 回归任务)或3×224×224→2(用于二元分类任务)的映射,对每个样本都给出1 个(ISP 回归)或2 个(二元分类)相应的值作为输出结果.基于ANN 的输出结果,计算一个损失函数,并按照反向传播规则,以梯度下降等方式优化ANN 中的大量可训练系数的取值,从而最小化损失函数,这就是ANN 的训练.对于ISP 回归任务,损失函数可以是输出结果与标签之间的均方误差,其中标签指的是我们为每个样本标注的参考答案,即实际的噪声强度值η.对于二元分类任务,损失函数可以是输出结果与标签之间的交叉熵函数,这里标签则是甲类或乙类(关于二元分类,详见3.2 节和3.3 节).为了提高ANN 的泛化能力,训练后最终采用的可训练系数的取值并不是在训练集实现损失函数最小的那一组,而是在验证集实现损失函数最小的那一组.带着这组最终取定的可训练系数,训练完成的ANN 将被应用于测试集,以评估其实际应用效果.下文首先讨论基于ANN 的ISP回归.

2.3 逆统计问题

LFRU 方法利用的是ISP 中的回归不确定性.要使用这一方法研究自驱动活性粒子的群集相变,首先需要构建一个ISP 回归任务让ANN 尝试处理.在上述的非平衡多体系统中,相应于正向思维的给定噪声强度η,求处于稳态的可能的系统状态(位置x,y分布与速度v分布,如图1 所示),一个比较自然的ISP 是:给定一个具体的系统状态,求它可能对应的噪声强度η.这是一个统计推断问题,推断得到的重构噪声强度记为ηR.由于原始数据是由随机动力学方程演化得到的,不可避免在不同的噪声强度下出现极其类似的样本.这意味着对于在同一噪声强度η下生成的不同样本,ANN(或其他方法)给出的重构噪声强度值ηR不会完全一样.这就带来了回归不确定性U(η).我们可以用ANN回归结果的标准差来刻画这一不确定性,即

其中,〈·〉表示对测试集所有属于同一噪声强度η的样本取平均.对于ISP 本身,回归任务的核心目标之一是尽量减少这个不确定性,但其存在是系统性的,因而不可能被真正减少到零.再考虑到这是一个涉及非平衡、非晶格、一阶相变等复杂要素的情况,如何有效地实现Vicsek 模型的ISP,本身就是一个非平庸的问题.传统方法研究ISP 主要集中于Ising 模型等简单情况[15],还通常要使用平均场[29]或最大似然估计[30]等稍具针对性的方法.这里直接使用ANN 进行ISP 回归.

3 群集相变临界噪声强度的自动提取

3.1 LFRU 方法:回归不确定性中的相变信号

本文使用的数据集涉及η ∈[0.39,0.71] 范围内以 Δη0.02 为间隔的17 个不同的噪声强度值,对于每个噪声强度值,有2000 个样本用于训练,500个样本用于验证,2500 个样本用于测试.17个η的总共34000 个训练集样本,在训练过程中被遍历20次,并作相应的验证,最终得到一个训练完成的ANN,在测试集评估其回归结果.如图2(b)所示的回归结果取自20 个独立训练、独立验证的ResNet 的平均测试结果.可以看到,ANN 给出的重构噪声强度ηR虽然不能完美贴合于实际噪声强度η,但也差得不远.由于ISP 仅仅是利用其中的回归不确定性自动探索物质相的一个中间过程,目标不在于ISP 本身,因此这里不讨论图2(b)所示的回归结果与传统方法得到的回归结果的对比,也不评判各种研究ISP 的方法的优劣.我们关注的是:对于这样的具有一阶相变的复杂系统,ANN可以克服诸如亚稳态等等的对于ISP 回归的潜在干扰,“学会了”该系统中的噪声强度η这一参数.这意味着其输出值确实可以视为与噪声强度η具有直接的物理联系,使得进一步得到的自动探索物质相的结果也有了联系物理的可能性.

确认了ANN 可以实现ISP 回归之后,考察ANN 在这个任务中的回归不确定性U(η),也就是图2(b)的误差棒.这在图2(b)中并不明显,图3(a)所示为U(η) 关于噪声强度η的依赖关系,可以清晰地看到U(η) 的分布具有规律性,其曲线呈现M 字形,并且中间的极小值所在的位置0.63±0.01,并不是位于整个参数区域η ∈[0.39,0.71] 的正中间附近,而是恰好对应于系统的临界噪声强度ηc≈0.626(图3 中的竖线表示由的突变位置给出的临界噪声强度ηc,即传统方法得到的相变点).这说明LFRU 方法能够成功地从如图1 所示的原始数据中自动提取出自驱动活性粒子的群集相变临界噪声强度ηc.

这与我们关于LFRU 方法的研究[20]中在Ising模型和Clock 模型中发现的情况类似,说明这一方法对于跨领域的不同物理系统具有良好的通用性.利用ANN 处理回归任务的强大能力及其与传统物理概念的直接联系,研究者只需提供每个样本的实际参数值,训练ANN 处理ISP 回归任务,训练完成后的回归不确定性就可以用于自动探索物理相.若ISP 的参数区间内只有一个相,回归不确定性的曲线只会呈现一个平庸的单峰[20].当曲线呈现M 字形,这就揭示了该参数区间存在相变,相变临界点可以直接从中间的极小值处提取.

3.2 “混淆法”

作为直接的对比,使用两个典型的利用了ANN 处理分类任务的强大能力的机器学习方法,研究同样的非平衡多体系统中的群集相变.要将ANN 训练用于分类任务(具体来说,是二元分类任务),需要将损失函数改换为交叉熵函数,并且此时ANN 对每个样本的输出应有2 个值(C1,C2),它们具有概率的性质.甲类和乙类对应的样本标签分别为(1,0)和(0,1),因而这2 个输出值可以分别理解为ANN 将一个样本识别为甲类或乙类的信心.例如,输出(0.6,0.4) 意味着ANN 有六成的把握认为该样本属于甲类,有四成的把握认为该样本属于乙类.很自然,当C1＞C2,ANN 对于该样本的分类结果即为甲类,C1＜C2则为乙类.

首先检验所谓的“混淆法”[2].这个构思巧妙的方法,利用的是ANN 在面对不同程度上悖离物理事实的混淆标签时的不同表现.首先需要假定一个任意的噪声强度值,人为规定满足η ＜的样本为甲类,满足η ＞的样本为乙类.由于是任意假定的,其对应的二元分类任务(区分甲、乙两类的样本)与这个系统中实际的物理相(群集相、无序相)不具有明确的理论联系.训练完成后,在测试集评估ANN 针对这一任意假定的二元分类任务的表现.在测试集的全部m个生成于不同噪声强度η的样本中,若ANN 成功识别了m′个,计算出对应于的识别成功率P()m′/m.然后,假定一系列不同的,分别重复上述的过程,就可以得到P() 关于取值的依赖关系.

3.3 “留白法”

现在我们检验所谓的“留白法”[1,2].该方法直接利用ANN 识别不同物质相的能力.当所有样本都被贴上符合物理事实的标签(也就是3.2 节中提到的ηc的情况),即使仅将极低和极高噪声的样本用于训练,而将中间噪声“留白”[1,2],ANN 仍然可以轻松完成相应的二元分类任务.这里仅将η0.39,0.41(甲 类)和η0.69,0.71(乙 类)的 样本用于训练、验证.训练完成后,在η ∈[0.43,0.67]的测试集评估ANN 识别甲、乙两类的样本的信心.

图3(c)的结果取自20 个独立训练、独立验证的ResNet 的平均测试结果,其中虚线、实线分别表示ANN 将样本识别为甲类、乙类的平均信心C(η)(同一η的所有测试样本的平均)关于样本对应η的依赖关系.两条线在≈0.625 交叉.由于在相变点处,一个系统的瞬时状态既可能看起来像是处于群集相,也可能看起来像是处于无序相,因而“留白法”将ANN 的平均分类信心取得C1(η)C2(η) 的交叉点对应的η视为ANN 给出的临界噪声强度预测值.这个预测值也与传统方法得到的相变点ηc≈0.626 基本一致,说明该方法同样能够从图1 所示的原始数据中提取ηc.

4 三种方法对比讨论

图3 展示了在不额外增加针对非平衡、非晶格的系统中的一阶相变的特殊设计的情况下,基于ANN回归的LFRU 方法和基于ANN 分类的“混淆法”“留白法”都能很方便地直接应用于这类复杂多体系统,提取其中的相变临界值,这为相关研究提供了一种具有较强通用性的工具箱.现在进一步讨论三种方法各自的特点.

4.1 使用效率

效率是任何一个实用方法的基本要求.用于回归和分类任务的ANN,其在网络架构上的区别仅在于输出值的个数略有不同(ISP 回归为1个,二元分类为2 个),这导致它们将同样的数据集遍历一次的计算复杂度是几乎相等的.其训练过程用到的损失函数的计算复杂度也差不多,且二者的收敛速度接近[20].因此在应用LFRU 方法和“混淆法”的过程中,训练每个ANN 的用时基本相同.然而“混淆法”训练一个ANN 只能得到对应于一个取值的识别成功率P(),LFRU 方法训练一个ANN 却可以直接得到完整的回归不确定性U(η)曲线,这使得前者自动探索物质相的总体用时多于LFRU 方法.而“留白法”用于训练、验证的数据集可以远小于另外两种方法,因此其总体用时是三者中最短的.但这当然是有代价的,它需要一些预设的物理知识,并不能真正实现自动探索物质相.

4.2 预设的物理知识

要想自动探索物质相,本文机器学习方法不应需要关于物质相和相变的预设的物理知识.这涉及机器学习的“监督”概念.在机器学习术语中,“监督学习算法”指的是涉及作为参考答案的标签的机器学习算法.在这个意义下,三者作为机器学习算法而言都是有监督的.然而,在2.3 节和3.1 节可看到,在将LFRU 方法应用于揭示自驱动活性粒子的群集相变时,标签是噪声强度值,而LFRU 方法的真正目标是提取临界噪声强度ηc.这些标签仅提供关于ISP 的预设的物理知识,却完全不涉及物质相和相变.因此,对于机器学习在相变研究中的应用而言,LFRU 方法可以被视为一种无监督的方法.在同样的意义下,应用“混淆法”时的标签也不是关于临界噪声强度ηc的参考答案,因此该方法通常也被视为一种无监督的方法[2].但值得注意的是,其二元分类暗含了“系统中最多可能存在两个相”的预先判断,这使得它需要经过一定的改造之后才可以用于处理具有明显中间相的复杂多体系统[6].而“留白法”则将两条线的交叉点视为相变点,这预设了“系统中有且仅有一个相变”,使其在不经改造的情况下,不仅难以处理具有中间相的系统,甚至也无法排除相共存(phase coexistence)或平缓过渡(crossover)情况的干扰.无论是相变、相共存、平缓过渡,都会让ANN 的二元分类信心的曲线相交[1].总之,三种方法之中,“留白法”需要预设的物理知识最多,“混淆法”次之,LFRU 方法则最少.

4.3 联系物理的可能性

自动探索物质相的另一个对机器学习方法的要求是具有可解释性.由于ANN 的底层工作机制至今仍未得到足够清晰的解释[12-14],这里不考虑机器学习技术本身的可解释性,三种方法都把ANN视为一个黑箱映射.但在这种情况下,我们仍希望这些机器学习方法给出的结果能与传统物理概念建立联系.基于ANN 分类的“混淆法”在一定程度上就缺乏这样的联系.该方法提取临界噪声强度ηc的最后一步是由研究者而非由ANN 完成的,即把甲类与乙类的分界点直接视为群集相与无序相的相变临界点.这相当于研究者事后向ANN 补充注入关于该群集相变的物理知识,事实上削弱了该方法的无监督性.对于真正待研究系统中的未知相变,这样的做法缺乏足够的理由.与之不同的是,由于ANN 能够“学会”该系统中的噪声强度η,基于ANN 回归的LFRU 方法可以较为自然地与传统物理概念建立联系.ANN 处理ISP 回归时的输出值就是这个被重构的系统参数值η本身,而这些输出值的统计性质(例如回归不确定性)则是系统本身的统计性质的体现.当ANN 的输出值的统计性质出现特殊的行为,例如当回归不确定性U(η)在某个η处出现非平庸的极小值,有理由相信系统的统计性质在此处也具有特殊的行为,这就带来了将该极小值对应的噪声强度视为群集相变临界噪声强度ηc的合理性.此外,在关于LFRU 方法的研究[20]中发现Ising 模型和Clock 模型的回归不确定性与系统的响应性质具有理论上的联系,预期在Vicsek 模型中也存在类似的理论联系.这种在数值上和理论上联系物理的可能性,是基于ANN 分类的方法不容易提供的.

5 结论

在训练ANN 处理由Vicsek 模型描述的自驱动活性粒子系统中的ISP 回归任务之后,发现ANN 的回归不确定性其实隐藏着关于这个非平衡多体系统的群集相变的物理信息.回归不确定性的M 字形曲线印证了该一阶相变的存在,并给出了临界噪声强度值的数据驱动的新估计0.63±0.01,与传统方法得到的相变点ηc≈0.626相符.这展现了本文发展的利用ISP 中的回归不确定性的LFRU 方法用于自动探索物质相的有效性、高效性、对于跨领域的不同物理系统的良好的通用性.该方法与“混淆法”和“留白法”可以相辅相成,共同构成一个具有较强通用性的工具箱.对于那些给传统研究方法带来较大挑战的复杂系统,特别是涉及非平衡、非晶格、一阶相变等复杂要素的情况,本文讨论的机器学习方法提供了数据驱动实现自动探索物质相的新的视角.ANN 处理ISP 回归任务的强大能力及其与传统物理概念的直接联系,这使得我们有机会在接下来的系统性研究中构建回归不确定性与自驱动活性粒子系统的统计性质特别是响应性质的理论联系,以期在更复杂的相变研究中进一步发挥LFRU 方法在物理可解释性方面的潜在优势.