IP厂商谈边缘AI的机会

　　毛 烁 （《电子产品世界》，北京 100036）

　　1 AI多样化，需要广泛一致的生态

　　1.1 边缘AI带给工业的变化

　　AI是当今最激动人心的技术革命之一，它将对市场产生巨大的影响，也将作用于各类设备，包括网络边缘的计算存储、自动驾驶、数字电视图像增强、家庭智能助手、不同类型的智能手机等，并使物联网设备更加智能化。

　　Arm预计，新一轮的AI增强技术将有助于加速物联网在工业与医疗场景用例、以及智能摄像头与传感器（用于预测故障和维护）等设备中的应用。此外，人们希望看到几乎所有传感器的监测数据模式都能有所改进。这些变化仅仅是一个开始，因为AI正在有效解决以往的计算挑战，并迸发出大量的潜能。

　　1.2 边缘AI的技术挑战

　　业界的挑战在于，如何确保AI应用于各类现代电子设备的同时，满足智能设备所需的高功效和成本敏感性。因此，当你将计算的不断演变特性和人们使用设备的方式考虑进去时，就会明白AI不可能有一个放之四海而皆准的解决方案。

　　为了克服这些挑战，在过去几年中，Arm几乎在每一代产品中都引入了主要的AI增强功能。然而，在将AI应用扩展到数十亿台设备的过程中，产品功能增强只是其中的一小部分。Arm还需要确保AI易于使用、修改和部署，这就需要通过投资高效好用的软件和工具来实现，从而使生态系统中的软硬件开发人员都可以轻松使用。从根本上来看，Arm面临的技术挑战不仅限于设计计算架构。为此，Arm也不断致力于在蓬勃发展的生态系统支持下，为市场提供广泛、一致、易于访问的解决方案。

　　1.3 Arm的解决方案

　　从更高层面上来讲，AI在现代设备中的应用确实存在两类挑战：技术挑战和生态挑战。许多技术挑战正在变得越来越清晰。例如，在云计算中，您可以利用几近无限的资源来处理计算问题，很多因素，诸如功耗，芯片成本，带宽成本等，在云计算中已不再是什么大问题。但是，对于Arm日常使用的大多数智能设备来说，Arm依旧需要在更加严格的功率和尺寸限制下提供更多的算力和功能。例如，在设计最初的AI专用处理器系列Ethos时，Arm就很快意识到，对海量数据的智能管理对Arm的设计至关重要，因此，Arm让所有AI专用处理器都具备智能数据管理技术，如压缩和重新加载最小化技术等。

　　Arm需要在高效、固定功能的硬件与更灵活、可以适应未来需求而又不影响效率的硬件之间找到一个适当平衡，Arm Ethos系列就是一个范例。随着AI和计算的不断演进，如何用更少的资源做更多的事情将继续成为Arm技术与思维的核心。但是，正如前面提到的，世上没有普适性标准，这就是为什么Arm设计了多款支持AI的处理器，并在功耗、性能、成本和灵活性方面进行了多种平衡。 Arm的处理器解决方案旨在实现从微型传感器、云服务器到基础架构的全面AI。

　　2 Imagination谈工业AI的机遇与挑战

　　2.1 边缘AI带来的变化

　　边缘AI将在未来几年发生巨大变化。边缘设备中的神经网络加速能力以指数级的速度向前发展，意味着完全在设备上完成处理只是时间问题。

　　例如，自动化技术、机器人和传感技术的进步都会体现在我们身边的各种机器上，这将意味着工业安全的真正改善。由人工智能物联网（AIoT）驱动的智能机器可以检查出当机械臂在其运动范围内快速摆动时没有人处于其运动路径上，还可以检查过程和材料中的缺陷，这意味着偏差会越来越小，质量会进一步提高。

　　自动化程度的提高带来的关键机会是可以提高过程智能，从而使设备不仅可以成为数据驱动的设备，而且具有分享知识的能力，这一过程称为联合学习或迁移学习。这将提高生产力、可靠性和质量，降低成本，并增加产量。

　　2.2 工业AI的技术挑战

　　上文提及的方案很快就会在您身边的机器上有所体现，目前还有一些技术挑战正待解决。例如，现在传感器数据会被汇总并反馈至云端以进行决策，这会增加延迟，产生连接和数据中心方面的成本。然而，我们越来越多地可以在嵌入式边缘设备上进行神经网络推理，使边缘设备可以有效地做出自我决策，同时只需将重要信息传达给中央控制端。随着这些设备的推出，我们将看到显著的改善，例如减少延迟、降低功耗，以及无需去“呼叫总部”。

　　在某些情况下，所面临的挑战是成本问题，因为工业物联网相当碎片化，某个特定的应用场景可能仅有小批量的需求，这意味着系统构建者和SoC设计人员必须设计一个拥有广泛用途的基本规范，从而将众多小批量应用汇总成大批量。好消息是，神经网络加速器的进步意味着可以在比针头或句尾的句号还小的芯片中添加支持这些应用的功能。这也意味着“智能”可以被添加到嵌入式设备中，使这些设备可以运行各种各样的神经网络模型和算法，进而凭借足够的灵活性去应对多种应用场景。

　　2.3 Imagination的解决方案

　　Imagination Technologies一直跟随着客户的步伐，并希望通过自己的研发能力来预见到这些问题。因此，Imagination可以凭借自己的神经网络加速器（NNA）为边缘AI提供全面的计算解决方案，相比其他方法，NNA可以指数倍的速度运行神经网络层，同时具有运行自定义层所需的灵活性。有了神经网络加速功能，意味着网络可以在设备上运行，从而支持在边缘进行数据驱动的决策。

　　Imagination还可以提供丰富的IP内核设计和各种性能配置，以满足市场上所有领域的需求。Imagination支持非常小的尺寸，也支持非常强大的功能和卓越的性能，同时可以做到硅成本很低。

　　本文来源于科技期刊《电子产品世界》2019年第12期第17页，欢迎您写论文时引用，并注明出处。