共赢街亭(三):优化FSM模型
1. 前言:
在上期里,介绍了红绿灯系统的FSM与街亭系统的FSM了。表面上看来,两者是非常相似的。然而,两者之间有一个很关键性的差异,就是:
l 对于红绿灯系统遭受突发事件,冲击后的红绿灯系统的FSM,是人们能明确预知的,所以能有效处置,而恢复正常,不致于失控。
l 然而,对于街亭系统遭受司马懿的攻击事件,人们对于冲击后的街亭系统的状态变化和转移规律,人们比较难以预知和掌控。例如,马谡对于<水源被控>突发事件的冲击的影响,就比较乐观能击退敌军而恢复正常状态。而王平对于<水源被控>突发事件的冲击的影响,则比较悲观会军心涣散而进入街亭失控状态。亦即,马谡与王平两位前线指挥官,面对同一突发事件,两人对冲击后的街亭系统FSM的预估是不同的。
这说明了,在面对外来突发事件的冲击,人们对于红绿灯系统的可控性比较高,所以人们心中的<红绿灯FSM>比较明确。相对地,人们对于街亭系统的不确定性比较高,所以马谡和王平两位第一线专家心中的<街亭FSM>,就不一致了。
2. 把马谡和王平的FSM,融合起来
马谡和王平都是第一线战场的专家,都把各自的专家智能(知识)注入战场(系统)的未来局势(状态)演变的预测上,并能以FSM来表达之。所以,马谡的街亭FSM蕴含有其专家知识;而王平的街亭FSM也蕴含其专家知识。
此时,可以把马谡心中FSM和王平心中FSM,两者融合起来实践一项重要的功能:把两位专家的战场知识(Domain Knowledge)汇合起来,来强化对系统未来演变的预测,来支持更优越的决策。
经由这过程,融合出优化的FSM,其汇集了更多专家知识,将能训练出更优秀的Agent(智能体),表现出更优质的自主决策能力。
3. 演练FSM的融合:以街亭为例
FSM只是模型(Model),表达出专家对系统未来演变的预测和评估,其并不一定与未来的真实情境完全一致。例如,街亭在一年四季的天候环境中,也可能因夏季干旱而导致<失去水源>的突发事件。这事件会让街亭从一般的<正常>状态而转移到<缺水>状态。
由于天有难测之风云,所以每次处于缺水的时间长度也不同,可能会迅速恢复正常状态,也可能持续缺水而导致街亭失控。于是,就能以机率性状态机(Probabilistic FSM来表示之(图1)。

图1
这种机率性FSM能够模拟更真实、更不确定的事物和环境。在状态转移方面,每个(状态, 事件/动作)都会对应一组可能的<下一状态>及其<机率>,例如:
("缺水", "自然演化") ➜ [("正常", 0.2), ("缺水", 0.5), ("失街亭", 0.3)]
这项FSM表达了街亭的一般自然演变规律,人们(包含专家)也能从经验中获得共识。
上图1是关于自然环境的突发事件(俗称:天灾)。接着,就来看看另一种人为的突发事件(俗称:人祸),例如:<敌人入侵>事件,导致水源被控而进入缺水状态。由于敌人的行为是不确定的,可能会产生对街亭的更多影响事件,例如:敌军进逼施压而升高战况。因而,出现王平与马谡两位战场专家的评估不同,其心中的FSM也不同。例如,马谡FSM如下图所示(图2)。

图2
在马谡心中的街亭FSM可能是:n 水源被控 → 激发士兵愤慨 → 凭山势居高临下 → 轻易击退敌人 → 恢复正常。
这FSM也正表达出马谡对于这项人为突发事件的预测是比较乐观的。接着,来看看王平对于这项人为突发事件的预测是比较悲观的,如下图所示(图3)。

图3
在王平心中的街亭FSM可能是:n 水源被控 → 缺水扩大 → 军心动摇 → 指挥失效 → 阵地崩溃 → 街亭失守
其中,马谡与王平的差异,不只是情绪上的乐观与悲观,而是他们对「袭击后状态转移规律」的模型不同。表达出两人对同一个事件「水源被控」有不同的状态转移预测不同。
所以,FSM并不是客观唯一的图,而是专家对系统可能变化的建模而已。此时,使用机率性FSM并不是为了预言唯一结果,而是为了帮助Agent看见多种可能结果,并比较各结果的风险。它是一项风险决策工具。
此时,就可以把马谡FSM和王平FSM,两张图融合成为一张,就成为融合的街亭FSM了,如下图所示(图4)。

图4
在真实世界中,这FSM里机率值往往不是一开始就知道的,而是根据经验、情报、历史案例、专家判断逐步估计出来的。
4. 结语
红绿灯FSM与街亭FSM都会面对突发事件,但两者有一个重要差异:红绿灯系统遭受突发事件后,例如停电、传感器故障或交通事故,其后续状态与转移规律通常是人们事先设计好的。因此,系统可以进入闪黄灯、全红灯、人工接管或维修模式,最后再恢复正常循环。换言之,红绿灯的「袭击后FSM」是可预知、可设计、可控管的。
然而,街亭系统遭受司马懿军事攻击后,情况就不同了。当魏军控制水源、围困山上蜀军时,街亭系统后续会如何变化,并不是完全可预知的。马谡心中的街亭FSM,可能认为蜀军仍可凭借山势固守,等待机会反击,最后恢复稳定;但王平心中的街亭FSM,则可能认为水源被控会导致缺水、军心涣散、指挥失效,最后进入街亭失控状态。
本文演示了一项优化FSM的途径:藉由融合FSM来汇聚不同专家的知识,来支持智能体(Agent)的训练,优化其自主决策能力。在下一期,将会把这FSM映像到知识图(Knowledge Graph),以便汇入更多专家智慧,例如汇入更孔明的<要道扎营>战略性专家智慧,更加优化KG,持续提升Agent的决策质量。



评论