TinyML前进物联 MCU深度学习成为可能

物联网正加速带动人工智能走向终端装置，我们可以看到市场继续保持积极的成长趋势。市场也期待有更多的人工智能物联网设备在市场上普及，并深入包括消费性物联网设备、工业应用和网络、还有与视觉、语音和声音影像相关的边缘应用。

AI的应用案例正在推动着庞大的物联网运算需求，而这背后都需要透过MCU来释放这些运算能量。我们也可以看出市场上的MCU解决方案基本上有两大发展趋势，用以支持新一代的机器学习（Machine Learning；ML）运算能力。一是提高MCU本身的运算性能及能力，例如从Arm Cortex M0+提升到M4、M33和M7等。另一种则是透过在MCU中整合机器学习加速器或DSP等，来强化ML运算能力。

智能系统主架构
恩智浦半导体大中华区资深营销经理黄健洲指出，物联网对于未来智能化系统的重要性不言可喻。物联网被视为未来各种智能化系统的主要架构，透过底层感测网络、中间通讯传输与上层云端平台的组合，让信息无缝流动，进而延伸出更多应用，赋予更智能的生活体验。不过随着物联网应用多元化、许多应用或因功能安全或因直观需要实时反应，集中式运算的物联网架构已难因应所有领域，因此系统终端开始被赋予一定程度的运算能力，以提升实时反应功能。

 

图一 : 恩智浦半导体大中华区资深营销经理黄健洲

过去的物联网架构中，数据需要从底层传回云端平台，再从云端平台下指令由终端设备动作，对工厂、汽车或智能家电这类需要高实时性的系统来说，一来一往的讯息传递极为耗时，因此具备运算能力的终端设备。这类终端设备可在本地处理指令，快速响应用户需求。

但最重要的是，因为物联网的应用多元，每一类型的应用架构都可找到最适合的效能架构，如何让资源使用优化，落实物尽其用的愿景，是目前设计工程师最需要的考虑的方向。

先进制程将帮助打造更快速、更有效率的运算架构，能够有效管理实时分析及运用大量由终端装置所产生的数据数据，因应用户在不同情境下的需求，在短时间内精确处理海量的数据，并做出最正确的判断与实时的反应。

TinyML打造智能联网设备
TinyML可望在未来五年内获得超过700亿美元的收益，其目的就在提升物联网设备易用性，并改变智能物联的未来前景。
将运算从云端转移至边缘端，甚至是终端装置，一直是这几年产业的大趋势，这使得Edge AI及End-point AI成为近几年热门的话题。当然产业也开始重视MCU-based AI应用，从嵌入式机器学习（Embedded ML）到微型机器学习（TinyML）都开始受到关注。TinyML被视为是快速发展的机器学习技术应用领域，从硬件、算法到应用软件，都能以极低的功耗来执行设备上的传感器数据分析，并实现各种长时间运作的应用，满足电池长期供电的设备需求，因此特别适合用于物联网设备。

TinyML将边缘AI更进一步深化，使得在微控制器（MCU）上运行深度学习模型成为可能。比起一些小型的处理器，MCU的资源受限得多。目前MCU价格很便宜，平均销售价格约低于0.50美元，而且它们无所不在，嵌入到消费端和工业设备之中。因此，如果在MCU上导入深度学习模型，就可以为许多应用开启新的应用。

深度学习模型最初的成功，要归功于具有海量存储器和GPU资源的大型服务器。深度学习的前景催生了整个深度神经网络的云端运算产业，在几乎无限制的云端资源上运行超大型神经网络是件很酷的事情，特别是针对那些有能力支付大笔开销的大型企业。然而在此同时，近年来我们也看到了新的趋势，也就是在边缘设备上也开始需要导入机器学习模型。这些模型就是TinyML，这适合用在记忆容量与运算能力有限的物联网设备上。

随着半导体技术的快速提升，现在可以说是在物联网终端装置上，设计与部署真正智能的好时机。具备感知环境能力的装置，能为其搜集到的数据与促成的服务，创造极大的价值。硬件与软件近年来的发展，能够为原本资源受限的终端装置平台增添更多的运算效能，促成大幅度的改变，让开发人员可以为终端装置导入真正的智能，并打造出视觉、语音与震动的能力。

智能联网组件的选择考虑
实时性与低延迟
Arm AIoT方案资深经理黄晏祥指出，许多情况下，将数据发送回云端进行处理是不可行的。减少数据往返时间不仅可以提高响应时间，而且在工业制造等作业中，实时处理对安全和营运相当重要。同样的原则也适用于车联网的场景。因此，在智慧化的物联网应用当中，可运用ML来更快获得讯息，并以极低延迟的效率传递给人或机器。

 

图二 : Arm AIoT方案资深经理黄晏祥

安全与隐私保护
当物联网装置被广泛部署，而装置上又收集到许多数据数据，甚至有些机敏的数据，使得信息安全对于物联网从端到云的整个过程也都极为重要。企业在布署物联网时，对于遵从哪套标准也可能莫衷一是。Arm推动的PSA认证制度，就是希望能提供业界一致的安全标准。

规模化与经济效益
物联网最大的挑战之一就是碎片化。之前许多企业倾向采用专用（proprietary）系统，造成物联网不易扩大规模，导致经济效益不彰。Arm Project Centauri目的在于建立一套开放标准架构，可以先就底层作业预作处理，并简化设计流程，物联网开发者可针对特定应用场景进行差异化开发。同时，物联网相关应用也能更容易地进行开发，更快的反应市场趋势并掌握商机，以提高企业的投资报酬率。

低功耗及易于使用
TinyML的导入，在硬件层面需要解决对于极低功耗的要求，在软件层面则需要满足易于使用与移植的特性。

结语
根据预测，到2030年，大约有20亿台设备将透过TinyML技术进入市场，并透过具有成本效益的方式，创造智能设备来造福市场使用者。至于在经济方面，TinyML可望在未来五年内获得超过700亿美元的收益。TinyML目的就在于提升物联网设备的应用易用性，并且改变智能化物联设备的未来前景。