浅谈基于人工智能的机器行为学

高敬瑜

摘  要：最近刚刚诞生的新学科——机器行为学，由MIT媒体实验室领衔，哈佛、耶鲁等于2019年4月，在Nature发综述提出，是以考查人工智能体入手，模仿考查生物及其群体的行为、生态及与人类之间的关系，将机器和人类的关系作为研究对象，来研究人工智能的伦理问题、发展问题、进化问题。该文尝试着发表对它的见解。

关键词：人工智能  社会伦理  人机关系  算法

中图分类号：TP181    文献标识码：A 文章编号：1672-3791（2019）11（c）-0007-02

机器行为学（Machine behaviour），主要研究智能机器所表现出的行为。现在，人们提出和解决了大量人机伦理问题。科学家基于研究人类和动物行为作为参照、模仿和起点，正在尝试研究智能机器和智能机器群体在其存在环境中的宏观行为规律和可能对人类和社会产生的结果。

人工智能已经和正在成为人类现实和将来社会生活的很耀眼的组成部分，机器行为学分为5个部分：（1）研究机人工智能器行为的动机;（2）人工智能机器行为学的跨学科研究;（3）研究对象与研究问题;（4）3种研究范围：个体、群集与人机交互;（5）展望：人工智能机器行为学未来发展？

1  对各个部分的理解

基于人工智能的机器正日益深入地建立或者代替我们与网络媒体和其他组织、个人关于社会、文化、经济、政治、科技为内容的互动，甚至帮助我们决策、判断、推理。在广泛推广人工智能机器应用的同时，充分把握人工智能系统的基本原理和行为是极其必要和必须的。因此把原属于计算机学科内的机器行为学（Machine behaviour）扩展开来，融合更多学科的见解。同时我们也深知这个学科同样受到技术、法律和制度的限制。

基于计算机和机器人学科诞生的机器行为学，与前两者有很强关联性，但它们又相互独立。以类比的思考方法，首先基于經验也只能在开始基于经验去解释智能机器的行为，模仿生命内部本身具有的特质（生理和生化的特质）与外部环境塑造的特质（生态与进化的特质）的行为生态学和动物行为学研究，这种思路也许赋予学科更为深远的研究视野和范围，但基于科学和技术的人工智能毕竟和生命体本质上是迥异的，因此，我们研究的近期结果只能是探索性的和初步的，因为我们在关于生命科学的研究上也仅仅是以发现人的疾病和治愈疾病来宣布成果，关于基因和克隆的研究和使用受到技术和伦理的限制。报道上说，动物的行为和人类的行为，不是孤立的和完全自主的，而是与周围环境的相互作用的结果。因此，人们在考察人工智能机器的执行过程即行为时，不但需要考虑算法本身，也需要考虑算法应用的硬件环境、地理环境和社会环境。

现在，人工智能体（Artificial Intelligence （AI） Agents）包括虚拟载体或者嵌入式的物理实体。研究他们行为的科学家，主要是通过算法设置他们需要的功能，用来解决他们想要解决的问题。

例如，在功能实现上，数据挖掘智能算法应当能够确定在社交媒体中该锁定哪几个目标，玩游戏的智能算法应当能够过关斩将，击败一系列人类和机器对手，在信息分类、人脸识别、视觉识别领域的智能算法，应当达到一个标准的精度，自动驾驶算法应当在不同非晴朗天气情况下确保成功导航，这些例子只是相关领域的一小部分。

人工智能正不断地融入我们的社会中的各个方面。例如，无人机作战、网上约会、自动驾驶、城市交通疏通、个人信用网上评估、物流运输、治安监控，不同领域的专家学者正从神经科学、教育认知、人机交互、人类行为学、自然科学、工程技术、社会科学、网络安全、社交安全等不同领域思考人工智能算法的超出创造者预期的行为和后果，既有正面的也有负面的，值得引起我们注意。

1.1 研究机器行为的动机

现在从3个方面来研究机器行为学的研究动机。

第一，手机或其他袖珍移动设备的APP及其算法在社会生活、经济、生产中正起到越来越重要的作用。

第二，不单单是APP及其算法，还有APP和算法运行的硬件环境、操作系统、通信网络、服务器和网络所处社会环境的复杂性，完全了解它们的行为，仅依靠人工和软件工具等分析手段是很难做到的。

第三，由于人工智能和APP算法的广泛存在和复杂性，预测它们对社会和个人潜在的好与坏的影响是极其困难的。

如今，在手机和其他人工智能设备中，应用了许多算法和APP;广告和新闻排名算法和社交媒体信息智能投很大程度上决定了人们看到和听到的信息。购物网站使用的信用评分算法会计算个人信用评分和给金融机构提供贷款评估和决策依据。依据销量和购买力及偏好等属性的在线定价算法给不同的用户定价，各种在线支付算法交易软件使得交易变得迅速快捷。依据警务事物变化和市区地理分布变化、人口密度等属性的智能算法能快速重构警务调度的派遣和空间格局，依据法律条文和审判案例数据库等属性的审判算法会协助法院判案和基本确定刑事系统中犯人的服刑时间。智能自动驾驶装置和算法会使驾驶更方便和帮助老年人降低驾驶疲劳和事故发生;城市智能交通算法会明显改变传统车辆的堵车现象，使交通管理和指挥显著有效。家庭机器人会自动记录家庭平面和立体空间，对家庭成员口头命令做出反应，执行常规的家务。家庭机器人有可能代替人们照顾老人和小孩。

在线约会网站所提供的信息和服务中，算法会依据个人信息有效匹配约会对象，促成浪漫的相会。综合以上枚举的正在使用的算法，我们认为，以算法为基础和核心的人工智能自治体正引导着人类的集体行为（Collectivebehaviours），从群体层面的配合行为到共享行为。

人工智能带来了人们生活的便利，也带来了管理上的困惑。可以想象，人工智能为发展自动武器提供了技术上的可能，虽然它被严格禁止，但总有人尝试犯罪，一旦智能武器用于冲突和战争，人们的生死将由它们决定而不是人类决定。

现在，可商用的和将要使用单个人工智能体已经很复杂，复杂度不断提升。当初可以用简单的代码和训练模型架构人工智能自治体，但是随着训练的深入，成熟后的模型就会变得极其复杂，这经常导致“黑箱（Blackboxes）”的产生。人工智能体也和以前的机器类似，是一个输入输出系统，虽然有了许多所谓“可解释性（Interpretability）”的应用场景，但是人工智能体实际产生这些输出的过程，对架构它们的科学家来说，也是解释不清的。

知识产权为应用次数最高的源代码、模型、数据集添加商业保密和法律保护。许多情况下，我们只能观察到AI系统的输入和输出。

即使开源AI中的程序代码和数学模型，笔者要精确判断出系统的输出也是很困难的。有的AI系统在和相邻其他智能单元相互作用时会有“特立独行”的表现，即可能让人不可理解。即使建构数学模型的数学函数是有解的，那这个解也会因为其复杂性而难以理解。人们越来越难以评估和推算更加复杂的算法对个人和社会带来的影响、人工智能体对塑造人类的行为和社会结果在意料之中还是意料之外。

AI系统增加了人-机混合系统的复杂度，面对这样情况，人们很难在正确和偏见之间进行选择，是相信自己还是服从机器？还有，婚恋网站的算法是否改变人们传统恋爱行为进而影响婚姻制度;个体与AI提供的虚拟爱人之间的恋爱婚姻算法是否让人逃避现实生活中的婚姻和生殖、是否会颠覆性地影响人类进化和发展进程。人类-机器混合系统越来越复杂，人类个体和机器行为也更加复杂，产生的管理和指导问题也越来越复杂。机器行为学家必须站立起来，面对挑战，尽力提供见解和指导，预测AI执行过程，预测执行结果，帮助人类在自己和机器之间合理评估和平衡偏颇。

1.2 机器行为学的跨学科研究

现在的智能系统整体结构是接受信息，输出结果和行为，它内部的算法相当于一个“黑箱”，要更准确地了解和把握智能系统对周围环境和社会的影响，需要跨学科知识，跨学科德尔专家参与进来。

我们知道，最近研究行为的科学家大多是智能系统的设计者，它们有计算机方面的專业知识或者数学方面的知识，但他们不了解行为学，几乎不接触实验方面的方法论，基于群体的抽样训练，或者基于观察的因果推理，更少得懂神经科学、集体行为学或者社会理论。

恰恰不同的是，尽管行为学家在对人性、人的个体行为和集体行为与周边环境、社会大环境的关系的理解上卓有建树，但是，他们不是计算机专家，不了解程序代码，不能确定人工智能在全社会环境考虑上，它的性能和行为结果的正当性。因此，将社会行为学家和计算机专家组合在一起形成一个共同团队很有必要，只有这样，人们在设计智能系统时，会不仅仅关注智能系统的特定功能，还会考虑社会伦理和周围环境。

在很多实际问题上，人工智能取得了众多成果，手机APP语言翻译系统、实时语音翻译，各种棋类比赛（西洋棋、国际象棋、围棋）和扑克游戏、电竞游戏等，自动驾驶和机器人足球比赛，尤其AlphaGo战胜韩国和中国顶尖高手，引起全球计算机行业和其他行业震撼。

单单从计算机学科来考查智能系统的性能，标准单一，还需要考虑社会行为学家设计的各种指标。就是要求社会学家将人工智能系统放到社会、政治等背景下，定义和考察智能系统对社会产生的宏观或者微观结果来确定智能系统在不同的环境中如何运行、智能体和人类互动对社会的影响评价。

随机实验、观察推断和基于群体的统计学方法经常用在定量行为学研究中，现在说的机器行为学就是参照这样的研究方法。有计算机背景的智能系统设计者和社会行为学家都可以提供自己的研究方法、研究工具、多种可选的概念性框架，同时参与研究人工智能系统对经济、社会和政治的潜在和现实影响。

2  结语

先对以上两部分了解一下，以后再将剩下三部分提出见解。

参考文献

[1] 新智元.“机器行为学”正式诞生！MIT、哈佛等23位作者Nature长文综述[EB/OL].https：//baijiahao.baidu.com/s？id=1633404102085188762&wfr=spider&for=pc.