学贯中西(11)：从因果律看人机协同创新

高焕堂

1 前言：AI与因果性

近几年来，全球AI精英都很关心AI的一个议题： 当今AI仰赖于大数据的相关性（Correlation）。然而，相关性并不一定表示其具有因果关系（Correlation does not imply causation）。由于当今AI对于因果关系的探索能力，还是非常有限的，仍然非常依赖人类（具有溯因性推理习惯者）来补足。人类具有溯因性推理习惯者，就是通称的创新者（如诸葛亮等），其擅长于溯因推理（Abductive reasoning）——从果追溯其真实的因。

如果AI能够掌握更高阶的因果关系，就可望降低其不确定性的行为、大幅提升可解释性、可信赖度，以及创造性思维能力。这就是目前AI专家们努力的方向，也就是AI将迈向革命性的大未来。所以，有人称之为：因果革命。

2 因果革命

新一代的AI科学家们，正努力强化现在的AI，就是让AI除了大数据相关性之外，能提升探索和掌握因果性的能力。于此建议您可以参阅这本2019年的畅销书（图1）。在这本书里，将因果关系分为三个阶层：观察、行动和想象（图2）。那么，AI的大未来就是让AI能充分掌握深层的因果性。也就是这本书里，所说的：高阶因果关系。

从图2中可以看到了，当今AI所掌握的相关性，仍属于低阶（第1阶）的因果关系，与人类相比仍有极大的距离。AI的大未来，将是逐渐提升到第2阶、第3阶。届时，AI具备了想象、假设和反思的能力。

3 认识溯因推理

从认知学（Cognitive science）的角度来说，人们与所以我就得出一个结论：年轻人应该大多数都在做电子业（但不一定正确），这叫做归纳推理。第二种是演绎推理，就像数学是最典型了，例如两条直线在同一平面上，又没有交叉，则它们必然是并行线。这叫做演绎推理。

第三种推理是溯因推理（Abductive reasoning），像医生就是最典型的。当您去看医生的时候，医生看到您满头大汗，而且有一点发烧、流鼻涕，他就看到这个 “果”，然后倒过来追溯其“因”，他猜您可能是伤风感冒了，所以他就给你药吃。下次再遇到你的时候，他马上会问你：身体有没有好些了呢？这叫做溯因推理。溯因推理是传统IT和当今AI都几乎不具备的能力。人类数千年来，自己都不知道人天生就有这项思考能力。一直到了约100年前，美国哲学家皮尔士（Charles Peirce）才提出来的。

上述的三种推理之中，归纳和演绎推理都是从因推到果，俗稱因果性推理。而溯因推理则是从果推到因，俗称果因性推理。当今的AI非常擅长的是基于相关性的归纳推理，从（原）因推到（结）果，这种规律性，它能在一瞬间就掌握。有一些专家估计，这种能力AI已经达到很高智商（IQ300）了，而人类天才是IQ180。反之，从果推到因，AI就不太内行了。

4 从因果性说明“人机协作”模式

掌握事物本质的因果关系，一直是人类科学研究的目标。然后从复杂的因果关联中，归纳、抽象出简单不变的规律性。人人与生俱来，都会观察事物的因果关系，并进行归纳和预测。例如，常常有人说：好人有好报，多行善多积福。这就是人们从经验中找出的因果关系和规律性（图3）。

由于引发一项（结）果的可能（原）因，也许会很多，且深藏不露，人们常常不易确知。于是，从观察天文地理、人情世故、人性心理等出发，找出相关性，进而归纳出规律性，是一条较为容易之路。例如，孔夫子的 “三人行，必有我师焉”，韩愈的”师者，传道授业解惑也”等等。随着互联网和大数据的日益丰富，加上NN-based的当今AI归纳性推理，更加扩大这条人类5000年来的传统之路。

当今的AI做出了贡献：基于大数据分析找出相关性，作为归纳法的基础，过滤大量数据和复杂关系，迅速归纳出规律性，强化对事物的预测能力。所以AI强化了归纳推理，也强化了因果性推理。然而，AI所掌握的相关性，只是低阶（又称浅层）的因果关系，仍然欠缺深层因果性的支撑，而导致其规律性，并非能归根究柢的规律性。对于未来结果的改变，仍然只是治标而不是治本，未能产生根本性、原创性、革命性的效果。

例如，一个人很沮丧而吃不下饭。AI只会建议去更高雅、菜色更香的餐厅吃饭，而不是安慰她/他失恋的起因。AI只从大数据得知她/他的心情与饭菜有关，甚至有时还误以为是饭菜导致心情沮丧呢！

所以在图1这本书里，作者建议，AI的未来发展要逐步让AI能够掌握更多的真正因果关系。于是AI就更接近人类了。如何让AI具有能力从大数据中观察到的果，或低阶的相关性中，近一步探索其背后深层的真正原因，是AI大未来之路。简而言之，就是让AI具备“溯因性推理”的能力。

然而，AI要迈向第3阶，就必须具备想象、假设和反思的能力，才能从果追溯到真正的因。预估AI还大约还需要数十年的成长时光，才能达到这个境界。所以，眼前的下一步是：人机协同合作。基于当今的NN算法，已经大大赋予AI的归纳性推理能力。基于大数据，已经让AI从复杂的全体事物中，迅速归纳出的规律性。这是仅掌握小数据的人类，所望尘莫及的。简而言之，AI现在具有超强的全体性归纳推理能力了。只是欠缺从果追溯（深层原）因的能力，使得他无法归纳出具有第3阶的因果规律性。

于是，在眼前到未来的数十年之间，人类的溯因性推理能力，可以暂持弥补AI能力的欠缺（图5）。

在这协同合作模式中，人类帮忙追溯到更多真正的因，AI的因果性规律的威力就愈有强大。同时，AI的因果性规律的威力变得愈强大，也帮忙人类溯因推理过程中的去芜存菁作用，让人类更省力更精确找到真正的因。于是，人机协同合作，成为迈向AI大未来的眼前暂时现象。简而言之，目前AI已经非常强大的相关性探索力和归纳性推里能力，我们如何善加利用来强化人类的果因性（即溯因性）推理能力。一旦AI强大归纳推理力，强力搭配人类的果因性推理能力，则像医生、股市、军事等不确定性高的场域（偏于果因性推理），就都可迎刃而解了。熟谙此道的企业将成为AI时代的大赢家了。

5 演练：AI如何纳入人类专家的果因性智慧

AI模型设计的核心思维是：关联性与因果性。例如，Y与Z之间的因果关系是人人皆有的知识（图6）。

一开始，人们使用一种“手段T”来侦测Y（因），就能准确预测Z（果）。后来，人们也发现一样这个因，会产生另一种果“X”。

于是，AI就可以派上用场了。 然而，如果想开始建立一个AI模型来实现“从X预测Z”的低成本新方法，那么我们设计的AI模型会位于哪一个（箭头）位置呢？答案是：在XY箭头的位置上，而且是“X → Y”方向。例如建立一个分类模型（Classifier），其中X是可观测的训练数据（Training data），然后基于人类专家（如医生）的果因（溯因）性智慧，来对因（即Y）进行分类，并贴上分类标签（Label），就可以进行模型训练了。在训练过程中，会拿“T → Y ”来严格检验AI模型 “X → Y ”的预测（分类）效果。一旦训练好了这AI模型，就能发挥AI的魅力：从侦测到的ECG心电图形变化来及时预测，并避免休克。例如，Apple Watch就是这种人机协同创新的著名产品（图8）。

这是结合人类专家的果因性智慧，搭配AI的相关性智慧，协同创造出很棒的因果律产品。