使用深度学习网络估算氮氧化物排放

使用擅长学习、处理、分类序列数据的长短期记忆（LSTM）网络，建立输出从车辆引擎所产生的氮氧化物（NOX）的模型，藉由使用MATLAB和深度学习工具箱建立LSTM，并训练出预测NOX排放的模型网络，让新一代零排放车辆的开发技术能达到高度准确率。
雷诺（Renault）汽车现正积极地开发新一代零排放车辆（zero-emissions vehicles；ZEVs）的技术，同时，也在努力希望使内燃机（internal combustion engine；ICE）车辆更干净、更有效率。减少有害物质的排放是其中一项重点项目。内燃机会产生氮氧化物（oxides of nitrogen；NOX），导致了烟雾、酸雨、温室气体。为了降低NOX，需要精确地估计各种引擎操作点的排放–举例来说，各种扭力和引擎速度的组合。

在真实的引擎上进行测试不但昂贵，而且通常很耗时。而传统上，是透过查找表（lookup tables）或氧化（combustion）模型的计算来进行NOX估计。
不过，这些方法有几个缺点，例如查找表不够精确，而氧化模型也会因为方程式需撷取排放的动态复杂性，使得要建立模型的难度特别高，导致NOX物理模型的高复杂度，因此很难用于完整的引擎操作范围；而且，这些模型无法在ECU上实时的执行。
我们最近开始使用长短期记忆（long-short-term memory；LSTM）网络来建立从引擎输出NOX的模型（直接从引擎排放，而不是从后处理（aftertreatment）系统）。
LSTM网络是一种擅长学习、处理、分类序列数据的神经网络，LSTM建立起来比氧化模型容易许多。透过MATLAB，即使本身并不是深度学习的专家，也可以使用MATLAB和深度学习工具箱（Deep Learning Toolbox）建立，并训练出预测NOX排放的模型网络，准确率几乎高达90%。

LSTM网络模型的设计与训练
除了执行真实引擎的测试，并且取得了训练数据。在测试进行期间，引擎会经过常见的驾驶型态循环，包含全球调和轻型车辆测试循环（Worldwide harmonized Light vehicles Test Cycles；WLTC）和欧盟现行之欧洲驾驶循环（New European Driving Cycle；NEDC），还有实际驾驶排放（Real Driving Emissions；RDE）测试。这些撷取下来的数据将做为模型网络的输入值，包含引擎扭力、引擎速度、冷却剂温度，以及文件位的排放。
接着使用MATLAB程序语法来建立简单的LSTM网络。虽然这个初始的网络的组成仅有一个LSTM层、一个整流线性单位函式（rectified linear unit；ReLU）层、一个全连接（fully connected；FC）层、一个回归输出，它的表现却意料之外的好。
不过，我们猜想应可再透过增加更多网络的层数来提升精准度，并小心注意不要让模型网络规模膨胀到可能造成过度拟合（overfitting），或者占据太多ECU内存。
接下来，更新MATLAB程序来增加神经网络层数，并且进行几种模型网络的配置探索。由于网络模型尺寸较小，最适网络配置和架构的选择是由人工来进行。采用试误法（trial-and-error method）可以利用系统的物理资产。举例来说，对于具有高度非线性的系统，通常会选择多重ReLU层，而对于热系统，多重LSTM层可能更为适合。
我们选择一个包含单一个LSTM层、三个ReLU层、三个FC层，以及一个回归输出层的网络，此版本的LSTM网络针对NOX等级预测可以达到85-90%的精确度，相较之下，使用查找表时则仅有60-70%的精确度（图1）。


图1 : 从真实的引擎量测到的NOX排放量（蓝色）和以LSTM网络建构的NOX排放模型（橘色）。

将模型并入系统层级仿真
当有了训练好的LSTM网络，我们让其他雷诺的团队也可以使用这个模型来进行他们的Simulink模拟。其中一个团队将网络合并到模型，把网络内的从引擎输出（engine-out）NOX层级作为后处理系统的输入。此团队接着执行仿真来衡量后处理系统在各种引擎操作点的NOX转换效率，透过将LSTMs导入系统仿真，该团队因此可以获得很难透过物理（physical）或经验（empirical）模型取得的信息。雷诺团队也在仿真时使用LSTM神经网络来评估车上诊断（onboard diagnostics；OBD）系统的表现，以及估算新驾驶循环下的引擎排放量。

后续的深度学习项目计划
此项利用LSTM网络模型来预测NOX排放等级的成功经验，在雷诺内部已催生了好几个后续的项目计划。其中一项计划，使用MathWorks的顾问服务建立了一套工具，可从LSTM网络产生C程序代码来作为概念验证展示，产生的程序代码能够将NOX排放的估计器部署至ECU上，作为OBD系统仿真平台的一部分，这个LSTM可依照排放标准的规范，提供实时、全天候的不良或故障状况侦测。
在进行ECUs的嵌入时，深度神经网络（特别是深度LSTMs）是其中的一大挑战。我们的ECU并不是非常强大的计算机，意味着需要在LSTM复杂性（这也代表预测的质量）与ECU执行运算的能力之间进行取舍。以我们的应用来说，网络尺寸相对较小，如果需要的话，可以很容易地被整合进卡尔曼滤波器（Kalman filters）。
最近，我们已经再扩大使用透过MATLAB进行的深度学习，致力使用强化学习来开发雷诺引擎的航行路径控制策略。

（本文由钛思科技提供；作者Nicoleta-Alexandra Stroe、Vincent Talon任职于Renault汽车公司）