NanoEdge AI 解决方案协助嵌入式系统开发应用

意法半导体(ST)推出NanoEdge AI Studio V3自动化机器学习工具，提供两个额外的机器学习算法系列、简化的数据记录及翻新的用户接口。因此，该工具涵盖了更多使用案例，可帮助嵌入式开发人员更好理解及使用。



 
图一 : NanoEdge AI Studio V3自动化机器学习工具

什么是NanoEdge AI Studio？
建立机器学习应用的挑战
长久以来，期望采用机器学习的公司，为了收集长达数个月的大量数据，必须聘用一名或多名数据科学家来整理，并建立AI模型。然后，再藉由嵌入式开发人员将该模型移植到微控制器，或使用STM32Cube.AI等工具，将神经网络转换为STM32 MCU的优化程序代码。然而，公司在预算及数据安全的考虑下，不太可能会聘用数据科学家，或甚至外包处理。

即使世界各地都有适合的人选，但数据的质量仍待加强。虽然机器学习有长足的进步，但获得可靠的训练样本仍有困难。例如，应用程序试图侦测异常行为，却无法获得足够的数据。而虽然许多数据集适用于解决分类问题，例如异常侦测，但其却不适用于尝试侦测新型态的异常情况。因此，取得高质量的数据也相当重要，这一点毋庸置疑。而收集不受拼字错误或遗漏信息的样本影响、并且准确标记正确无误的数据集，可能需要大量投资。

充分运用机器学习技术
 

图二 : NanoEdge AI Studio能够在同一台装置上执行学习复杂行为的模型训练与推论。

NanoEdge AI Studio是对嵌入式系统开发人员友善的AI开发工具，即使没有数据科学专业知识背景的人也可以使用。奇妙之处，在于NanoEdge AI Studio能够在同一台装置上执行学习复杂行为的模型训练与推论，亦即整个过程可以在同一个STM32微控制器上执行。此外，与终端使用者互动也相当简单，不需要另外写程序，只需按下几个按钮。因此，工程师可以根据现场环境客制化，让系统可以更稳定且更轻易安装。

面对不同的操作系统，NanoEdge AI Studio能在Windows 10或Ubuntu上执行，并且能与最适合的数据处理及最相关的AI函式库媒合。此应用程序的设计着重于与C语言应用程序中的嵌入式系统开发的紧密整合。

简单来说，NanoEdge AI Studio会考虑MCU、内存、Flash、传感器等基本规格，并搜寻NanoEdge AI Studio内最佳的 AI 模型库，接着产生能在STM32 MCU上执行的AI函式库，使开发人员能够直接整合到嵌入式应用程序项目。

在第 2 版之前，NanoEdge AI Studio 支持两种主要的机器学习算法：异常侦测和分类。

NanoEdge AI Studio只需少量的正常行为与异常行为数据，便能自动产生侦测AI异常的函式库。一旦产生 AI 函式库后，使用者可以将函式库加载到微控制器中，直接在装置上进行进一步的微调训练和推论。此AI函式库除了能从本机获得的数据中学习装置行为以外，还可以适应所在的装置行为。微调训练完成后，AI函式库会将装置一段时间内所取得的数据与本机建立的模型进行比对，以识别异常。

分类AI函式库可用于分类一组数据，并呈现不同类型的设备异常（例如轴承问题、空蚀问题等）或设备环境中不同类型的事件。用户可以将讯号汇入Studio，只需要按几个按钮即可建立分类ML函式库。在微控制器上执行时，分类器会分析实时数据，并提供相似性百分比。

NanoEdge AI Studio新功能
新的算法系列：外插和异常值
 

图三 : NanoEdge AI Studio V3除了异常侦测与分类两种应用，并提供两个新的算法系列：外插和异常值。

最新的NanoEdge AI Studio V3除了上述的异常侦测与分类两种应用之外， 现在还可以使用更多的函式库。此外，ST也优化了这些算法，提升现有使用案例的效能。因此，当嵌入式开发人员切换到新版本软件时，会对资源管理及运行时间的升级更加有感。

NanoEdge AI Studio V3也进一步提供了两个新的算法系列：外插和异常值。前者有助于预测未经测试条件下出现的行为，又称作「回归」，这对应多个变量之间的关系。例如，数据集可以测量风扇在100°C、110°C 和 150°C时的行为。藉由回归算法，机器学习应用可以推断风扇在160°C 时的行为。NanoEdge AI Studio 中的外插算法除了涵盖线性回归，也提供更先进的分析技术来处理复杂的情况。因此，开发人员现在可以建立新的应用，监测数据科学家无法处理的情况。

第二种算法是依据单一类别值的离群值侦测系统进行演算。实际上，系统只学习正常行为，任何偏离原始分布的行为都会被视为异常。以前，使用异常侦测系统时，开发人员会记录正常行为，然后再模拟一或多个异常状况。如前所述，其能够在同一个微控制器上学习所有行为，并让操作大幅简化。不过，在某些情况下，完整重现异常状态是不可能的。因此，离群值侦测可以使用例行操作的资料，推论是否有异常发生。

新的简便数据记录功能
数据科学家有时会遇到如何将成品推到市场的问题，虽然有实际数据是最好的，但因时间关系，并非每次都可以取得数据。因此，新的数据记录功能可将任何STWIN SensorTile无线工业节点变成最直接的数据收集工具。首先，用户将开发板连接到自己的计算机，使用NanoEdge AI Studio切换到数据记录后，未来的数据便都会自动记录。工程师可以将STWIN开发板固定到自己的设备进行监测，传感器会记录数据，方便开发人员进行标记和剖析，以建立更精确的应用。

在嵌入式系统上的使用体验
自定义、产生和验证自动机器学习
 

图四 : NanoEdge AI Studio让开发人员能够自定义、产生和验证本身的机器学习函式库。

在NanoEdge AI Studio出现之前，工程师必须联络软件厂商，检查本身的硬件配置以及要监测的行为。如今，NanoEdge AI Studio让开发人员能够自定义、产生和验证本身的机器学习函式库。

首先，用户需选择本身的Cortex-M架构和系统中的传感器，接着汇入档案，其中包含描述设备一般行为的数值，其可以是来自风扇上之加速度计所产生的数据，也可以是工业设备的电气信息，完成后，NanoEdge AI Studio会自动测试、优化和排列数亿种可能组合中最佳的算法组合，并产生客制化函式库，开发人员便可以使用嵌入式仿真器进行验证。

NanoEdge AI Studio V3现在用户接口支持所有ST开发板，优化后的免费函式库有助于使用者轻松执行概念验证。例如，在智慧震动传感器教学课程中，可以利用NUCLEO-L432KC 撷取风扇的正常行为后，将数据提供给NanoEdge AI Studio并获得AI函式库，使用者便可以在main loop中呼叫此函式库进行推断。因此，NanoEdge AI链接库对于迅速建立使用预测性维护、智能安全操作等应用是非常有帮助的。

使用 Edge AI Sprint 引导项目
许多客户无法事前评估AI将为本身的应用带来多少效益。因此，为了快速验证应用，ST也提供Edge AI Sprint Package，其中除了开发工具之外，还有完整的专家支持系统，可以指导开发人员避开应用程序和使用案例固有的地雷区。

整个方案包括训练课程、NanoEdge AI Studio 授权和技术支持。客户可以根据项目的复杂性选择不同的授权期限，以确保应用能量产。Edge AI Sprint是引领项目的第一步，能有效管控风险并减少投资，同时提升项目成功的机率。