网络边缘计算加速机器学习及推理

作者/Dirk Seidel 莱迪思高级市场营销经理

随着制造商采用工业4.0技术框架模型，基于机器学习的视觉系统对工业市场越来越有吸引力。在当今这个时代，制造商通过整合高级机器人、机器学习、机器视觉和工业物联网（IIoT）来提高组织和生产绩效。在“智能工厂”这个概念的推动下，工业4.0将引入信息物理系统（CPS）来监控智能工厂的物理进程并做出分散化的决策。这种模式将通过纳入诸如大数据和分析、IT和物联网融合、机器人技术的最新进展以及数字供应链的发展等概念，推动行业数字化转型。最后，通过网络进行人机交互，这些物理系统将成为工业物联网（IIoT）的一部分。

网络边缘计算，即在网络边缘进行“机器学习推理”的能力（智能城市、智能工厂、智能汽车等），可最大限度地减少决策和分析的延迟，相比通过网络将所有数据发送到数据中心进行分析，亦可减少网络拥塞，增强用户隐私（因为数据停留在本地设备上），并可在无网络连接的情况下进行“推理”。尽管机器学习技术已存在几十年，得益于计算能力的发展和成本降低，以及获得可用于“训练”的海量数据（如数字图像、视频、音频等），近年来它才开始表现出比传统算法更好的结果，使我们能够构建更复杂，更深层次的卷积神经网络（CNN）。

由于其并行处理架构，莱迪思FPGA非常适合网络边缘“推理”应用，能够以最低1瓦的功耗实现最高的每秒运算（OPS）（与CPU和GPU相比）。使用FPGA提供的并行处理架构可显著加速CNN处理。此外，由于我们还处于机器学习发展的早期阶段，所以每天都有不断改良的CNN架构正在研究和发布。因此，在全新的CNN架构和技术确定前，灵活和可编程的硬件架构（诸如FPGA所提供的架构）可助力实现轻松升级。

对于那些希望快速开发的设计人员来说，莱迪思为嵌入式视觉解决方案提供了一个易于使用的快速原型开发平台。嵌入式视觉开发套件是一个包含三块开发板的模块化平台，包括CrossLink VIP输入桥接板、ECP5 VIP处理器板和HDMI VIP输出桥接板。

·CrossLink VIP输入桥接板具有2个MIPI CSI-2接口，可连接至2个Sony IMX HD摄像头传感器。

·ECP5 VIP处理器板配有ECP5 FPGA，专门优化用于支持预处理和后处理。处理器板还通过NanoVestor连接器和与HelionVision合作的高清图像信号处理（ISP）IP支持外部图像传感器视频输入。

·基于Sil1136 IC，HDMI VIP输出板可连接标准的HDMI显示器。

三块开发板组成的套件可为机器人、无人机、ADAS、智能监控和AV / VR系统等应用提供所需的设计灵活性和低功耗。