学贯中西(11):从因果律看人机协同创新

1   前言：AI与因果性

近几年来，全球AI 精英都很关心AI 的一个议题：当今AI 仰赖于大数据的相关性(Correlation)。然而，相关性并不一定表示其具有因果关系(Correlation does not imply causation)。由于当今AI 对于因果关系的探索能力，还是非常有限的，仍然非常依赖人类( 具有溯因性推理习惯者) 来补足。人类具有溯因性推理习惯者，就是通称的创新者（如诸葛亮等），其擅长于溯因推理(Abductive reasoning)——从果追溯其真实的因。

如果AI 能够掌握更高阶的因果关系，就可望降低其不确定性的行为、大幅提升可解释性、可信赖度，以及创造性思维能力。这就是目前AI 专家们努力的方向，也就是AI 将迈向革命性的大未来。所以，有人称之为：因果革命。

图1

2   因果革命

新一代的AI 科学家们，正努力强化现在的AI，就是让AI 除了大数据相关性之外，能提升探索和掌握因果性的能力。于此建议您可以参阅这本2019 年的畅销书( 图1)。在这本书里，将因果关系分为三个阶层：观察、行动和想象( 图2)。那么，AI 的大未来就是让AI 能充分掌握深层的因果性。也就是这本书里，所说的：高阶因果关系。

从图2 中可以看到了，当今AI 所掌握的相关性，仍属于低阶( 第1 阶) 的因果关系，与人类相比仍有极大的距离。AI 的大未来，将是逐渐提升到第2 阶、第3阶。届时，AI 具备了想象、假设和反思的能力。

图2

3   认识溯因推理

从认知学(Cognitive science) 的角度来说，人们与生俱来都有三种逻辑推理。第一种是归纳推理(Inductive reasoning)，第二种是演绎推理(Deductive reasoning)。归纳推理，就例如我们观察到很多人做电子业都赚大钱，所以我就得出一个结论：年轻人应该大多数都在做电子业( 但不一定正确)，这叫做归纳推理。第二种是演绎推理，就像数学是最典型了，例如两条直线在同一平面上，又没有交叉，则它们必然是并行线。这叫做演绎推理。

第三种推理是溯因推理(Abductive reasoning)，像医生就是最典型的。当您去看医生的时候，医生看到您满头大汗，而且有一点发烧、流鼻涕，他就看到这个“果”，然后倒过来追溯其“因”，他猜您可能是伤风感冒了，所以他就给你药吃。下次再遇到你的时候，他马上会问你：身体有没有好些了呢？这叫做溯因推理。

溯因推理是传统IT 和当今AI 都几乎不具备的能力。人类数千年来，自己都不知道人天生就有这项思考能力。一直到了约100 年前，美国哲学家皮尔士(Charles Peirce) 才提出来的。

上述的三种推理之中，归纳和演绎推理都是从因推到果，俗称因果性推理。而溯因推理则是从果推到因，俗称果因性推理。当今的AI 非常擅长的是基于相关性的归纳推理，从( 原) 因推到( 结) 果，这种规律性，它能在一瞬间就掌握。有一些专家估计，这种能力AI已经达到很高智商(IQ300) 了，而人类天才是IQ180。反之，从果推到因，AI 就不太内行了。

图3

4   从因果性说明“人机协作”模式

掌握事物本质的因果关系，一直是人类科学研究的目标。然后从复杂的因果关联中，归纳、抽象出简单不变的规律性。人人与生俱来，都会观察事物的因果关系，并进行归纳和预测。例如，常常有人说：好人有好报，多行善多积福。这就是人们从经验中找出的因果关系和规律性( 图3)。

由于引发一项( 结) 果的可能( 原) 因，也许会很多，且深藏不露，人们常常不易确知。于是，从观察天文地理、人情世故、人性心理等出发，找出相关性，进而归纳出规律性，是一条较为容易之路。例如，孔夫子的“三人行，必有我师焉”，韩愈的”师者，传道授业解惑也”等等。随着互联网和大数据的日益丰富，加上NN-based 的当今AI 归纳性推理，更加扩大这条人类5000 年来的传统之路。

图4

当今的AI 做出了贡献：基于大数据分析找出相关性，作为归纳法的基础，过滤大量数据和复杂关系，迅速归纳出规律性，强化对事物的预测能力。所以AI 强化了归纳推理，也强化了因果性推理。然而，AI 所掌握的相关性，只是低阶( 又称浅层) 的因果关系，仍然欠缺深层因果性的支撑，而导致其规律性，并非能归根究柢的规律性。对于未来结果的改变，仍然只是治标而不是治本，未能产生根本性、原创性、革命性的效果。

例如，一个人很沮丧而吃不下饭。AI 只会建议去更高雅、菜色更香的餐厅吃饭，而不是安慰她/ 他失恋的起因。AI 只从大数据得知她/ 他的心情与饭菜有关，甚至有时还误以为是饭菜导致心情沮丧呢!

所以在图1 这本书里，作者建议，AI 的未来发展要逐步让AI 能够掌握更多的真正因果关系。于是AI 就更接近人类了。如何让AI 具有能力从大数据中观察到的果，或低阶的相关性中，近一步探索其背后深层的真正原因，是AI 大未来之路。简而言之，就是让AI 具备“溯因性推理”的能力。

然而，AI 要迈向第3 阶，就必须具备想象、假设和反思的能力，才能从果追溯到真正的因。预估AI 还大约还需要数十年的成长时光，才能达到这个境界。所以，眼前的下一步是：人机协同合作。基于当今的NN算法，已经大大赋予AI 的归纳性推理能力。基于大数据，已经让AI 从复杂的全体事物中，迅速归纳出的规律性。这是仅掌握小数据的人类，所望尘莫及的。简而言之，AI 现在具有超强的全体性归纳推理能力了。只是欠缺从果追溯( 深层原) 因的能力，使得他无法归纳出具有第3 阶的因果规律性。

于是，在眼前到未来的数十年之间，人类的溯因性推理能力，可以暂持弥补AI 能力的欠缺( 图5)。

图5

在这协同合作模式中，人类帮忙追溯到更多真正的因，AI 的因果性规律的威力就愈有强大。同时，AI 的因果性规律的威力变得愈强大，也帮忙人类溯因推理过程中的去芜存菁作用，让人类更省力更精确找到真正的因。于是，人机协同合作，成为迈向AI 大未来的眼前暂时现象。简而言之，目前AI 已经非常强大的相关性探索力和归纳性推里能力，我们如何善加利用来强化人类的果因性( 即溯因性) 推理能力。一旦AI 强大归纳推理力，强力搭配人类的果因性推理能力，则像医生、股市、军事等不确定性高的场域( 偏于果因性推理)，就都可迎刃而解了。熟谙此道的企业将成为AI 时代的大赢家了。

图6

5   演练：AI如何纳入人类专家的果因性智慧

AI模型设计的核心思维是：关联性与因果性。例如，Y与Z之间的因果关系是人人皆有的知识( 图6)。

一开始，人们使用一种“手段T”来侦测Y( 因)，就能准确预测Z( 果)。后来，人们也发现一样这个因，会产生另一种果“X”。

图7

于是，AI 就可以派上用场了。 然而，如果想开始建立一个AI 模型来实现“从X 预测Z”的低成本新方法，那么我们设计的AI 模型会位于哪一个( 箭头) 位置呢？答案是：在XY 箭头的位置上，而且是“X → Y”方向。例如建立一个分类模型(Classifier)，其中X 是可观测的训练数据(Training data)，然后基于人类专家( 如医生) 的果因( 溯因) 性智慧，来对因( 即Y) 进行分类，并贴上分类标签(Label)，就可以进行模型训练了。在训练过程中，会拿“T → Y ”来严格检验AI 模型“X → Y ”的预测( 分类) 效果。一旦训练好了这AI 模型，就能发挥AI 的魅力：从侦测到的ECG 心电图形变化来及时预测，并避免休克。例如，Apple Watch 就是这种人机协同创新的著名产品( 图8)。

图8

这是结合人类专家的果因性智慧，搭配AI 的相关性智慧，协同创造出很棒的因果律产品。

（本文来源于《电子产品世界》杂志2022年9月期）