基于群智能的信息认知机制研究

2011-12-27 05:59段晓东马艳准
大连民族大学学报 2011年5期
关键词:认知科学群体个体

段晓东,刘 霞,马艳准,闫 帅

(1.大连民族学院计算机科学与工程学院辽宁大连116605;2.东北大学研究生院沈阳 110004)

基于群智能的信息认知机制研究

段晓东1,刘 霞2,马艳准2,闫 帅2

(1.大连民族学院计算机科学与工程学院辽宁大连116605;2.东北大学研究生院沈阳 110004)

群智能计算是个体认知行为和群体认知规律抽象出的一种非传统的计算智能技术。本文论述群智能计算中的信息认知机制,以及如何利用认知科学的相关研究来探索群智能计算方法。其中主要包括群智能计算中个体和群体的信息利用和分享机制,以及在不同环境的认知过程中的信息利用机制;群智能计算中不同结构和模式的记忆与认知科学中长时记忆、短时记忆、记忆结构和记忆遗忘模型的关系,以及认知记忆机制与环境的对应关系;在不同环境或变化环境下,群智能计算各种自适应策略与社会学习理论中的直接学习和观察学习之间的关系,长期记忆与短期记忆之间在环境变化下的调整机制的关系。相关的研究将促进群智能理论和认知科学的进一步融合发展。

群智能计算;认知科学;学习机制

群智能(Swarm Intelligence)是一种非传统的计算智能技术,它有别于传统人工智能中连接主义和符号主义的新的智能描述及实现方法[1],因为群智能计算高效的分布式问题解决能力,它已成为人工智能领域中一个重要研究方向。认知科学(Cognitive Science)是研究人类认知和智力的本质与规律的前沿科学,涉及计算机科学、心理学、哲学、人类学和神经科学等,同时认知科学也是人工智能发展的基础。认知科学传统研究方法主要先经过逻辑学及推理分析进行假设,然后进行人工实验论证[2-6]。能否利用计算机建立一种智能系统来模拟各种认知机制,通过模拟来验证和发现智能系统中的“认知规律”,科学系统地为认知科学提供实验指导和研究策略,这将为认知科学研究提供一种高效的技术手段和辅助工具[7]。

群智能计算和认知科学具有密切的相互联系。例如,认知学习是个体根据当前刺激情境的观察和已有的过去经验而建立起对目标的期望,群智能系统是根据当前个体自身信息、群体信息和环境信息建立期望,来调整自己的状态进而达到系统目标。群智能计算必须通过有效的记忆、学习机制和组织来完成系统目标,即群智能和认知过程都是通过学习、记忆和自适应机制达到系统目标的。基于群智能的信息认知机制的相关研究,可以通过计算实践更好地对外部信息进行把握和理解,在各种记忆信息构建机制下,研究基于不同机制的有效学习算法,可以提高智能系统的水平和信息利用效率。这对于从一个新视角研究智能实体与它们的环境相互作用的原理与机制,进而为认知科学的深入研究提供一种高效的技术手段和辅助工具等将具有重要的现实意义。

与此同时,认知机制研究也将促进群智能理论的完善和发展。传统依靠参数和编码改进等方法提高群智能计算效能是具有局限性的,相应的信息利用机制才是构建算法计算框架和方法实现的关键。认知机制的深入研究必将深化对群智能的组织结构、学习机制和记忆策略的科学认识,为群智能算法研究提供更多有效的策略和机制,也将为人工智能中的环境和群体进化的作用机制及其相关理论研究带来新的启示。

1 研究现状

群智能主要是受自然界集群生物解决问题方式的启发,通过对群居生物觅食、御敌、筑巢等生物解决策略进行模拟和仿真,构造出的解决工程问题的方法。群智能方法目前主要包括,M.Dorigo 的蚁群算法(Ant Colony Algorithm)[1]、J.Kennedy粒子群算法(Particle Swarm Algorithm)[8]、蜜 蜂 算 法 (Bee Optimization Algorithm)[9]和文化算法(Culture Algorithm)[10]等。在群智能利用信息改进策略研究方面,Jakob利用分工协作思想将分群机制实践于粒子群算法的改进中[11-12];Angeline引入自然选择机制于粒子群算法[13],在增加信息表达强度策略方面,有学者提出了一种基于信息素扩散的蚁群算法[14-17],还包括自适应调整信息素挥发因子的蚁群算法[18-19],还有基于均匀分布的自适应蚁群算法[20-22];在粒子群算法中,Shi与 Eberhart提出了根据搜索情况对惯性因子进行改变的策略[23],赫然等提出一种改进的自适应逃逸微粒群算法[24],Shi也对非线性搜索过程的惯性因子的变化规则进行了研究[25],Carlisle和Dozier提出了自动适应动态环境的粒子群模型[26]等。

认知科学主要以计算和表达为基本核心研究人类认知和智力的本质与规律[3-5]。认知科学是人工智能发展的基础,也是人工智能不断发展的第一推动[2]。20世纪50年代关于认知和智力本质的“符号处理”理论认为认知和智力的最基本单元是符号,离散符号的处理被看成对描述任何智能活动的充要条件。20世纪80年代初期,认知科学的影响和成就主要集中于“联接主义革命”。20世纪90年代以来,群智能理论蓬勃发展[1],智能可以由具有简单计算能力的个体组成的群体产生,并解决复杂问题。群智能理论的研究已成为人工智能领域的前沿方向之一,研究群智能中的个体记忆、群体记忆、群体拓扑结构、个体自学习和群体社会学习机制等方面对于认知科学的研究具有重要的作用。群智能是一门计算学科,是问题依赖型的,其优势在于能够解决多种复杂问题。认知科学是一门经验科学,需通过大量实验来研究人类认知和智力的本质。将群智能理论应用于认知科学的研究,不仅扩展了群智能理论的研究范围,也为认知科学提供了高效的辅助手段和技术工具。

2 群智能计算的信息分享与认知学习机制研究

认知学习机制主要研究如何将大量无序的信息变换为可被利用的知识,如何构建相应认知学习机制提高接受知识的效率,改善系统或学习者解决问题的能力,不仅是认知学习的基础,也是机器学习的基本任务[7]。群智能的信息利用策略的构建和研究,可以通过该策略在各种环境中的表现,评价不同信息利用策略的效能,也可以借鉴认知学习机制中的研究成果,构建相应的环境,在智能系统中检验和分析该认知机制的有效性;群智能分享机制主要研究群智能中个体间的组织结构,不同组织拓扑结构(如图1)在群智能系统中产生的不同现象和计算效能可以从另一个角度揭示和验证认知学习机制。

图1 群体中的信息分享拓扑结构

托尔曼的认知目的理论表明:学习是有目的的,个体根据当前刺激情境的观察和已有的过去经验而建立起对目标的期望。群智能系统的目的是搜索环境最优解,个体根据当前自身或其他个体信息以及环境信息建立期望,调整自己的状态进而达到系统目标。可采用计算实践的方法,通过对群智能信息利用和分享机制的研究解释和推动人类认知学习过程的认识。

群智能的信息利用策略可以解释人类认知过程中的一些科学问题,通过计算实践对各种信息利用机制进行深入研究。传统信息利用策略认为个体历史经验和群体最优经验是系统最有价值的信息,而忽略了其它个体在搜索过程中产生的经验信息,如何利用每个个体的经验信息提高算法在某些问题的效能成为群智能研究重要问题之一,文献[27]提出了一种信息利用策略,将每个个体最优历史经验的中值经验代替群体最有经验,这样在不增加计算负荷的情况下,大幅的提高了粒子群算法的搜索效能和达优率。这种计算实践在认知学习中表明:将群体中最优秀的个体作为观察学习的唯一参照物,并不是学习过程的最优机制,每个个体的经验信息也蕴含了大量有价值的信息,可以通过分析或筛选这些经验作为观察学习的参照物,这种机制可以提高系统的智能水平。

研究群智能的分享机制可以解释认知过程中组织结构和学习目标之间的关系。群智能群体中的分享机制主要研究智能系统在搜索过程中个体间的拓扑结构,其对应认知科学中的社会学习理论中的社会学习组织结构分析。认知过程中,针对某一问题或目标,个体之间信息交互采用何种结构使得群体的学习效能最优是社会学习理论研究的热点问题之一。认知过程中哪种社会组织结构效率更高?信息传递更快?组织结构更稳定?这些问题都有待于进一步的深入研究。群智能在解决不同类型的问题的过程中,其群体间的信息传递拓扑结构可以解释社会学习理论中的组织结构问题。例如在全连通的拓扑结构信息传递最快,但是也可能导致群智能算法过早收敛,而且局部最优的信息会得到最快传递,对于多峰问题解决较差,而擅长解决单峰问题。而环形拓扑结构信息传递速度较慢,适于解决多局部最优问题。现象表明,在认知学习过程中,合理的组织结构对于个体的观察学习至关重要。

3 群智能记忆利用策略的认知记忆机制研究

记忆是经验和知识的保持与调用过程,记忆在人类认知和智能活动中占有突出的位置。群智能理论有别于传统演化计算的特点之一就是算法中引入记忆概念,尤其是粒子群算法中引入了个体记忆模式,记忆模式帮助算法摆脱局部最优进行高效搜索。通过研究群智能的记忆过程在不同环境下的实验,研究认知科学中长时记忆、短时记忆、感觉记忆和记忆结构以及记忆遗忘模型等。通过对群智能中问题环境与记忆模型关系研究,建立认知记忆机制和环境问题的对应关系。

大量计算实践发现个体经验记忆是群智能算法思想核心,个体拥有了自己的思想,并根据自己的记忆做出相应调整,而且群智能将个体经验记忆与群体最优经验置于平等地位,是与传统集体经验占主导的智能算法的本质区别[28]。文献[29]将个体的经验记忆信息引入到传统的遗传算法,并构建了利用经验信息的交叉算子,算法的性能和鲁棒性与传统算法相比大幅提高。也表明记忆是认知过程中的重要环节,通过研究群智能的记忆机制解释认知过程中的记忆对于认知目标的影响具有重要的作用。但目前群智能系统的记忆模式和结构过于单一,可以通过构建如认知过程中的各种记忆模式和结构,进而通过研究群智能的记忆机制验证和分析认知过程的记忆机制。

目前群智能算法中只存在较短感觉记忆,每次迭代根据情况进行更新,没有短时记忆和长时记忆机制。通过在群智能算法中引入感觉记忆、短时记忆和长时记忆(如图2),探索这些机制的引入对于哪些环境是合适的,这都有待于深入研究和验证。不过可以肯定的是记忆机制是进化而来的,对于不同问题采用不同的记忆机制是提高生存技能和系统智能的重要途径。心理学研究中发现黑猩猩的瞬时记忆能力要远远高于人类,它们能以惊人的准确度记住有关图形和顺序的东西,而人类主要通过中长期记忆决定自己的行为,研究结论也表明较强的瞬时记忆能力更有利于在恶劣和复杂自然环境生存,而人类不断进步发展主要得益于中长期记忆形成的文化传承。通过多种学习策略,结合长期记忆来提高算法解决复杂问题的能力,对群智能算法而言,可以逐步引入各种记忆,研究各种记忆之间的转换对于算法效能的影响,同时研究不用记忆长度适于解决的问题,为给认知科学中的记忆对于不同问题和环境下的存储和转换机制的关系研究带来新的启示。

图2 认知记忆模式

4 群智能自适应学习和记忆调整策略

不同环境下的自适应认知机制研究在“基于环境的认知研究方向”中占有重要地位[3]。人类的认知和智力活动必须从何环境相互作用的角度来研究才能的到充分的理解。可以通过建立多层次群体和环境信息度量测度,在此基础上根据自适应模型计算出调整方案,调整个体直接学习和社会观察学习强度,以及记忆长度和模式,进而研究不同环境下的认知的自适应调节机制和群体认知行为[30-31]。

认知科学通过“情境认知”和“分布式认知”的概念逐步形成了认知科学的一个新的理论基础——“基于环境的认知研究”。它强调人类认知与环境的交互作用关系的重要性。在传统人工智能研究中长期被忽略的环境和进化的作用,正在基于环境的认知发展中越来越得到重视。通过构建群智能在不同环境或变化环境的自适应学习和记忆调整策略,研究群智能的动态自组织行为和个体之间的适应性机制,可以对认知科学中的基于环境的认知机制进行深入探讨。

群智能计算根据问题不同调整个体直接学习和社会观察学习之间的关系构建相应的自适应机制,研究两种认知学习模式对于不同环境的认知机制。传统群智能自适应方法主要是在算法陷入局部最优时,加大自身学习能力,但由于自身经验也已经陷入局部最优而使系统过早收敛,这种硬性的自适应机制并不能从根本解决搜索过程中遇到的问题。

例如,可以采用如图3的均衡策略模型或其它各种自适应策略对自身学习和社会学习权重进行调整,这种模型在经济学领域是均衡价格理论模型,在生物学中是种群迁移模型,利用这种自适应模型对各种学习策略强度和记忆机制进行调节,可以研究不同环境下的认知的调节机制和群体认知行为。当然,自适应策略可以借鉴其他学科和各种模型进行构建,模型也是问题依赖的,需要研究各种自适应机制适于的环境,进而对自适应环境认知机制进行深入研究。

图3 生物种群迁移模型策略模型[32]

相关研究工作依赖于对群智能算法的各种信息的度量。主要体现在如何定义相应变量来表达环境中的信息,并通过这种信息根据自适应模型调节各种策略。因此需要对群体信息进行度量,如图4,群智能中的信息也是多层次的,每个个体和群体都有不同的信息存储和表达机制,其中包括环境中存储的信息、群体当前状态信息、群体个体记忆信息以及对多种信息的综合。通过构建多层次的环境信息度量,才能据此通过自适应模型调整不同学习机制和记忆策略,进而研究认知过程中各种自适应机制是否可以有效调控等。这些问题的深入研究可以深化基于环境的认知机制的科学认识,进一步揭示其中的认知规律。

图4 不同层次的环境信息度量

5 结论

认知和智力活动中的信息处理机制研究对于认知科学具有重要的科学意义。人类对智力的研究不再只是直觉的、思辨式的、哲学式的讨论。本文讨论了如何利用群智能计算中的信息利用策略对认知机制进行研究,为认知科学提供分析和实验模拟的新手段;也为以计算智能为平台深入了解认知规律提供新启示。同时,也将丰富群智能计算的相应策略机制,为群智能解决各种复杂问题提供支持,进而拓展其在计算机、通讯网络、机器人技术、商业和金融、供应链管理和传输系统等领域的应用。

[1]KENNEDY J,EBERHART C.Swarm Intelligence[M].San Francisco:Morgan Kauffman division of Academic Press,2001.

[2]史忠植.智能科学[M].北京:清华大学出版社,2006.

[3]史忠植.认知科学[M].北京:中国科学技术大学出版社,2008.

[4]罗姆·哈瑞,魏屹东.认知科学哲学导论[M].上海:上海科技教育出版社,2006.

[5]魏屹东.认知科学哲学问题研究[M].北京:科学出版社,2008.

[6]张淑华.认知科学基础[M].北京:科学出版社,2007.

[7]国家自然科学基金委.“十五”优先资助领域论证报告集[M].北京:原子能出版社,2002.

[8]KENNEDY J,EBERHART R.Particle swarm optimization[C],Proc.IEEE Int.Conf.on Neural Networks,Perth,Australia,1995,1942 -1948.

[9]COLORNI A,DORIGO M,MANIEZZO V.An investigation of some properties of an ant algorithm[A]In:Proc.of the Parallel Prob2 lem Solving from Nature Conference(PPSN’92) [C].Brussels,Belgium:Elsevier Publishing,509-520.

[10]KENNEDY J,EBERHART R.Particle swarm optimization[C].Proc.IEEE Int.Conf.on Neural Networks,Perth,Australia,1995,1942 -1948.

[11]NAKRANI S,TOVEY C.On honey bees and dynamic allocation in an internet server colony.Adaptive Behavior,2004,12(4):223 -240.

[12] ROBERT R G..An Introduction to Cultural Algorithms.Proc.of the 3th annual Conf.on Evolution Programming.Sebalk,A.V.Fogel L.J,River Edge,NJ.World Scientific Publishing,1994,131-136.

[13]VESTERSTROEM J S,RIGET J,KRINK T.Division of labor in particle swarm optimization.Proceedings of the IEEE Congress on Evolutionary Computation(CEC 2002).Honolulu,Hawaii USA,2002.

[14]DORIGO M,GAMBARDELLA L,MIDDENDORF M,et al.Guest Editorial - - Special Section on Ant Colony Optimization[J].IEEE Transactions On Evolutionary Computation,2002,6(4):317-320.

[15] ANGELINE P.Using selection to improve particle swarm optimization[C]//Proceedings of IJCNNp99.USA,Washington,1999,84-89.

[16]李宁,刘飞,孙德宝.基于带变异算子粒子群优化算法的约束布局优化研究[J].计算机学报,2004,27(7):897-904.

[17]吴庆洪,张纪会,徐心和.具有变异特征的蚁群算法[J].计算机研究与发展,1999,36(10):112-116.

[18]黄国锐,曹先彬,王煦法.基于信息素扩散的蚁群算法[J].电子学报,2004,32(5):865-868.

[19]Iredi S,Merkle D,Martin Middendorf.Bi- Criterion Optimization with Multi Colony Ant Algorithms.EMO,2001,359-372.

[20]WANG Y,XIE J Y.An adaptive ant colony optimization algorithm and Simulation[J].J of System Simulation,2002,14(1):32-33.

[21]徐晓华,陈崚.一种自适应的蚂蚁聚类算法[J].软件学报,2006,17(9):1884-1889.

[22]陈峻,沈洁,秦玲,陈宏建.基于分布均匀度的自适应蚁群算法[J].软件学报,2003,14(8):1379-1388.

[23]SHI Y ,EBERHART R C.Parameter Selection in Par-ticle Swarm Optimization[J].Evolutionary Programming VII.Lecture Notes in Computer Science, Springer,1998,1447 -1471.

[24]赫然,王永吉,王青,等.一种改进的自适应逃逸微粒群算法及实验分析[J].软件学报,2005,16(12):2036-2045.

[25] SHI Y,EBERHART R C.Fuzzy adaptive particle swarm optimization[C]//Proceedings of the Congress on Evolutionary Computation.Seoul,Korea,2001.

[26]CARLISLE A,DOZIER G.Adapting particle swarm optimization to dynamic environments[A].In:Arabnia H R ,eds.Proc of Int’l Conf on Artificial Intelligence[C].Las Vegas:CSREA Press,2000,243-492.

[27]王存睿,段晓东.改进的基本粒子群优化算法[J].计算机工程,2004,30(21):35-37.

[28]段晓东,徐平,王存睿,等.动态环境下粒子分群与种群多样性的关系研究[J].计算机科学,2009,36(03):161-162.

[29]DUAN X D,WANG C R.A Hybrid Algorithm Inspired by the Idea of Particle Swarm Algorithm[J].International Journal of Information and Systems Science,2006,1(3-4):152-154.

[30]段晓东,高红霞,刘向东,等.一种基于种群熵的自适应粒子群算法[J].计算机工程,2007,33(18):222-223.

[31]段晓东,王存睿,刘向东.粒子群算法及其应用[M].辽宁大学出版社,2007.

[32]蔡之华,龚文引,LING Charles-X.基于进化规划的新型生物地理学优化算法研究[J].系统工程理论与实践,2010,30(6):1106-1112.

The Research of Information Cognitive Mechanism based-on Swarm Intelligence

DUAN Xiao -dong1,LIU Xia2,MA Yan -zhun2,YAN Shuai2
(1.College of Computer Science and Engineering,Dalian Nationalities University,Dalian Liaoning 116605,China;
2.Graduate School,Northeastern University,Shenyang Liaoning 110004,China)

Swarm Intelligence is an untraditional computational intelligence technology which is abstracted from individual cognitive behavior and law of group cognitive.We discussed how the swarm intelligence verifies the law of cognitive science and how to explore the ways of swarm intelligence with the related researches of cognitive science.This includes the information utilization and sharing mechanism of computational intelligence for individual or swarm and the information utilization mechanism with the cognitive process in different environments;the relationship among the long memory,short memory,memory structure and the model of forgotten memory with the various structures and modes in swarm intelligence and the correspondence between mechanism and environment in cognitive memory;the different self-adapting mechanisms of swarm intelligence in different environments or changing environments and something between direct learning and observational learning in social learning theory of cognitive science,the relationship between long memory and short memory in the adjustment mechanisms within the changing environment.The related researches would promote the development cognitive science and Swarm intelligence theory.

Swarm Intelligence;Cognitive Science;Learning Mechanism

TP18

A

1009-315X(2011)05-0490-06

2011-04-18;最后

2011-07-17

国家自然科学基金(61040054)。

段晓东(1963-),男,吉林辽源人,教授,博士,优秀学术带头人,主要从事人工智能与非线性信息处理技术研究。

(责任编辑 刘敏)

猜你喜欢
认知科学群体个体
通过自然感染获得群体免疫有多可怕
关注个体防护装备
“群体失语”需要警惕——“为官不言”也是腐败
贵州民族大学“认知科学与技术”实验班
脑与认知科学贵阳宣言
意识的自然化之后——评《神经现象学:整合脑与意识经验的认知科学哲学进路》
浅谈梵藏翻译过程及认知科学与佛教间的关系
个体反思机制的缺失与救赎
How Cats See the World
关爱特殊群体不畏难