边缘AI:彻底改变实时数据处理和自动化
从智能家居助手(想想 Alexa、Google 和 Siri)到在驾驶员离开车道时通知驾驶员的高级驾驶辅助系统 (ADAS),世界都依靠边缘 AI 为这些日益常见和重要的设备提供实时处理(图 1)。
本文引用地址:https://www.eepw.com.cn/article/202503/467851.htm边缘 AI 直接在设备内使用人工智能,在数据源附近进行计算,而不是在具有云计算的异地数据中心进行计算。边缘 AI 提供更低的延迟、更快的处理速度、减少对持续互联网连接的需求,并降低隐私问题。尽管如此,仍可能存在挑战。
这项技术代表了数据处理方式的重大转变。随着对实时智能的需求增长,边缘 AI 处于有利地位,可以继续对工程师产生巨大影响。
边缘 AI 最重要的价值是它可以为关键应用程序提供的速度。与云/数据中心 AI 不同,边缘 AI 不会通过网络链接发送数据,而是希望获得合理的响应时间。相反,边缘 AI 在本地计算(通常在实时作系统上),擅长提供及时响应。对于 ADAS 等情况,工程师开发了算法,使车辆能够处理来自车载摄像头和传感器的数据,从而允许对导航、障碍物检测和安全功能进行实时决策,而无需依赖云处理。
用于实时处理的边缘 AI
许多实时活动推动了对边缘 AI 的需求。智能家居助手、患者监测和预测性维护等应用是该技术对工程师产生影响的显着用途。从快速响应家庭问题到在本地分析生物识别数据的可穿戴健康设备,边缘 AI 提供快速响应,同时最大限度地减少隐私问题。
边缘 AI
人工智能需要计算能力,但更高效的算法和专用硬件使其适用于边缘节点。
很长一段时间以来,我们已经看到边缘 AI 在供应链中表现良好,尤其是在仓储和工厂方面。在过去十年中,运输行业的技术也取得了长足的发展,例如在云层等条件下导航的送货无人机。
边缘 AI 也为工程师做了很多伟大的事情,尤其是在医疗技术领域,这是一个关键的进步领域。例如,开发起搏器和其他心脏设备的工程师可以为医生配备寻找异常心律的工具,同时还可以主动对设备进行编程,以指导何时寻求进一步的医疗干预。Med-tech 将继续增加对边缘 AI 的使用并构建更多功能。
如何生成边缘 AI 模型
随着日常生活中越来越多的系统集成了某种程度的机器学习 (ML) 交互,了解这个世界对于工程师和开发人员规划未来用户交互变得至关重要。
边缘 AI 的最大机会是 ML,它基于统计算法匹配模式。这些模式可能是感应到有人在场,有人刚刚为智能家居助手说了“唤醒词”(例如,Alexa 或“Hey Siri”),或者电机开始晃动。对于智能家居助手,唤醒词是在边缘运行的模型,不需要将您的声音发送到云端。它会唤醒设备并让它知道是时候调度进一步的命令了。
生成 ML 模型可以采用多种途径,例如使用集成开发环境(如 TensorFlow 或 PyTorch)或使用软件即服务 (SaaS) 平台(如 Edge Impulse)。构建一个好的 ML 模型的大部分 “工作” 都用于创建一个有代表性的数据集并对其进行很好的标记。
目前,最流行的边缘 AI ML 模型是监督模型。这是一种基于标记和标记样本数据的训练,其中输出是一个已知值,可以检查其正确性,就像让导师检查并在此过程中进行正确的工作一样。此训练通常用于分类工作或数据回归等应用程序。监督式训练可能很有用且高度准确,但它在很大程度上取决于标记的数据集,并且可能无法处理新的输入。
运行边缘 AI 工作负载所需的硬件
DigiKey 等公司完全有能力协助边缘 AI 的实施,因为它们通常在微控制器、FPGA 和单板计算机 (SBC) 上运行。DigiKey 与顶级供应商合作,提供在边缘运行 ML 模型的几代硬件;例如,NXP 的 MCX-N 系列和 STMicroelectronics 的 STM32MP25 系列。
在过去几年中,来自创客社区的开发板在运行边缘 AI 方面广受欢迎,包括 SparkFun 的边缘开发板 Apollo3 Blue、Adafruit 的 EdgeBadge、Arduino 的 Nano 33 BLE Sense Rev 2 和 Raspberry Pi 的 4 或 5。
神经处理单元 (NPU) 在边缘 AI 中越来越受欢迎。NPU 是专用 IC,旨在加速基于神经网络的 ML 和 AI 应用程序的处理,基于具有许多互连层的人脑结构,以及处理和传递信息的称为神经元的节点。新一代 NPU 正在创建具有专用数学处理的 NPU,包括 NXP 的 MCX N 系列和 ADI 的 MAX78000。
用于边缘设备的 AI 加速器也在不断涌现。不过,这个领域尚未确定,早期著名的公司包括 Google Coral 和 Hailo。
机器学习传感器的重要性
带有 ML 模型的高速相机在供应链中已经运行了很长一段时间。它们已被用于决定在仓库内将产品发送到何处或在生产线中查找有缺陷的产品。供应商现在正在创建低成本的 AI 视觉模块,这些模块可以运行 ML 模块来识别物体或人。
尽管运行 ML 模型需要嵌入式系统,但更多产品将继续作为支持 AI 的电子元件发布。这包括支持 AI 的传感器,也称为 ML 传感器。虽然向大多数传感器添加 ML 模型不会提高它们在应用程序中的效率,但 ML 训练可以使几种类型的传感器以更高效的方式执行:
相机传感器,其中可以开发 ML 模型来跟踪帧中的物体和人员。
IMU、加速度计和运动传感器,用于检测活动概况。
许多 AI 传感器都预装了随时可以运行的 ML 模型。例如,用于感应人员的 SparkFun 评估板经过预编程,可通过 QWiiC I2C 接口检测人脸并返回信息。一些 AI 传感器,如 Arduino 的 Nicla Vision 或 Seeed Technology 的 OpenMV Cam H7,更加开放,需要经过训练的 ML 模型来确定他们正在寻找什么(缺陷、对象等)。
使用神经网络提供计算算法,可以在物体和人员进入摄像头传感器的视野时对其进行检测和跟踪。
边缘 AI 的未来
随着许多行业的发展并越来越依赖技术进行数据处理,边缘 AI 将继续得到更广泛的采用。通过在设备级别实现更快、更安全的数据处理,边缘 AI 的创新将是深远的。预计在不久的将来将扩展的一些领域包括:
用于计算神经网络算术的专用处理器逻辑。
与云计算的巨大能耗相比,低功耗替代方案的进步。
AI Vision 部件等更多集成/模块选项将包括内置传感器和嵌入式硬件。
随着 ML 训练方法、硬件和软件的发展,边缘 AI 处于有利地位,可以呈指数级增长并支持许多行业。
评论