当边缘AI走进日常...
加入技术交流群
人工智能(AI)技术已走进我们的世界。每次您让Alexa做事时，机器学习技术都会努力弄清楚您说的内容，并试图对您想让它做的事情做出最佳判断。每次Netflix或亚马逊向您推荐“下一部电影”或“下一次购货商品”时，都是基于复杂的机器学习算法，为您提供更有吸引力的推荐，这些推荐远比过去的促销更诱人。虽然我们可能不是每个人都有自动驾驶汽车，但我们都敏锐地意识到了该领域的发展和自主导航的潜力。
本文引用地址：https://www.eepw.com.cn/article/202409/463281.htm人工智能技术大有前途——它让机器可以根据周围的世界做出决策，像人类一样处理信息，甚至处理方式还会优于人类。但是，如果您仔细想一想上面的这些例子，就会发现这里的人工智能承诺只能通过“大型机器”来实现——这些机器没有功率、尺寸或成本限制，或者换言之，它们会发热、拥有线路功率、尺寸很大，而且很贵。Alexa和Netflix依靠云端的大型、高耗电服务器来分析您的意图。虽然自动驾驶汽车很可能要依赖电池供电，但考虑到电池必须能够驱动车轮和转向，因此需要提供很高的容量，即便与非常昂贵的人工智能决策相比，它也要消耗大量的能源。
目前，人工智能的发展的很不错，但是人工智能的“小型化，边缘化”却滞后了。那些由小型电池供电或存在成本和尺寸限制的设备无法实现机器的视觉和听觉分析功能。目前，这些小型机器只能利用简单的人工智能技术：也许只是听一个关键词，或者分析低维信号，比如用光容积描记术(PPG)来测量心率。
但是，小型设备能够看到和听到是否有实用价值呢？思考一下，像门铃摄像头这样的小产品需要使用自动驾驶或自然语言处理等大的人工智能技术吗？似乎也没有必要。因此可以考虑采用不太复杂、处理强度不大的小型化的，边缘的人工智能计算，比如词汇识别、语音识别和图像分析。
普通的门铃摄像头和消费类安保摄像头经常会被一些无关紧要的事件触发，比如刮风引起的植物摆动、云彩引起的剧烈光线变化、甚至是狗或猫在摄像头前跑动。这些事件可能会导致误触发，从而使需要房主去操作忽视并清除此类触发事件。尤其糟糕的是，如果房主正好在世界其它地方旅行，而家里的摄像头却对日出、云彩、日落造成的光线变化发出了误警报会影响他们睡眠和旅行。然后一个智能摄像头能够基于更具体的事件触发，例如在所监控的画面中出现了一个人。
门锁或其它出入口可使用面部识别，甚至是语音识别来授予人员访问权限，在某些情况下不需要钥匙或胸卡。
很多摄像头都希望在发生某些特定事件时触发：例如，跟踪摄像头可能希望在画面中出现鹿时被触发，安保摄像头可能希望在画面中有人或出现开门或脚步声等噪音时被触发，而个人摄像头可能希望通过语音命令来触发。
虽然有很多“HeyAlexa”这样的简单解决方案，但多词汇量命令在很多应用中都非常有用。如果您具备识别20个或更多单词的词汇表，就可以在工业设备、家居自动化、烹饪设备和大量其它设备中应用，以简化人机交互。
这些例子只触及表层：让小型机器看到、听到和解决过去需要人为干预的问题，这就是一种很强大的思路，而且我们每天都不在不断发现智能化的创造的新用例。
那么，如果人工智能对小型机器具有如此实用价值，为什么我们还没有开发出来呢？答案是计算能力。人工智能推理是神经网络模型计算的结果。可以把神经网络模型看作是大脑处理图像或声音的粗略近似形态，将其分解为非常小的片段，然后在这些小碎片组合在一起时识别出模型。现代化视觉问题的主要模型是卷积神经网络(CNN)。这类模型在图像分析方面非常出色，在音频分析方面也非常有用。问题在于，这些模型需要数百万或数十亿次的数学计算。用传统的设计方法，这些应用在实施时会面临一个困难的抉择：
使用低成本、低功耗的微控制器解决方案。虽然平均功耗可能很低，但卷积神经网络可能需要几秒钟的时间来计算，这意味着人工智能推理不是实时的，意味着它会消耗大量的电池电量。
购置一个昂贵的高性能处理器，就能在规定的延迟内完成这些数学运算。这些处理器通常很大，需要很多外部组件，包括散热器或类似的冷却组件。不过，它们执行人工智能推理的速度非常快。
低功耗微控制器解决方案的速度太慢，无法发挥作用，而高性能处理器方法会超出成本、尺寸和电源预算，可以说上述两种方案都不够理想，难以实施
我们需要的是一个从头开始构建的嵌入式人工智能解决方案，尽可能减少卷积神经网络计算所需的能耗。人工智能推理需要以比传统微控制器或处理器解决方案更少的能量来执行，并且无需借助能耗高、尺寸大、成本大的外部组件（如存储器）。如果人工智能推理解决方案实际上能够消除机器视觉的能量损失，那么即使是最小的设备也能看到并识别周围世界发生的事情。
幸运的是，我们现在已经处于这场“小型机器”革命的开端。我们在市场上已经推出的产品——MAX78000，一款新型AI微控制器，能够使神经网络以超低功耗运行，已经消除人工智能推理的能源成本，并实现电池供电的机器视觉功能。
MAX78000是一款新型的AI微控制器，使神经网络能够在互联网边缘端以超低功耗运行，将高能效的AI处理与经过验证的Maxim超低功耗微控制器相结合。通过这款基于硬件的卷积神经网络(CNN)加速器，即使是电池供电的应用也可执行AI推理，同时功耗仅为微焦耳级。
作为一款先进的片上系统， MAX78000 集成带FPU CPU的Arm ® Cortex ® -M4内核，通过超低功耗深度神经网络加速器实现高效的系统控制。CNN引擎具有442KB的权重存储器，可支持1、2、4和8位权重（支持高达350万权重的网络）。该CNN权重存储器基于SRAM，因此可进行AI网络的即时更新。同时，CNN引擎还集成了512KB的数据存储器。高度灵活的CNN架构允许用户通过PyTorch ® 和TensorFlow ® 等传统工具集训练网络，然后经Maxim提供的工具转换后在MAX78000上运行。
除CNN引擎的存储器之外，MAX78000还具备适配微控制器内核的大型片内系统存储器，具有512KB的闪存和高达128KB的SRAM，支持多个高速和低功耗的通信接口，包括I2S和并行摄像头接口(PCIF)。
评论