AI在边缘设备上的发展机会

智能设备对语音技术和视觉技术的需求

　　今天，智能设备主要依赖于基于语音的用户接口，但是我们将看到它们越来越多地引入视觉技术成分。同时，人们已经意识到AI不只适用于高端产品，现在越来越多的中档产品也在采用AI。因此，需要在性能与差异化之间发掘出合理的平衡，同时还要提供高效率。对于神经网络，存储带宽是一个关键问题，因此，中档设备需要更加高效。而随着消费者对AI走向低端产品的期待不断高涨，我们也应该给予更多关注。

　　我们现在正在看到更多具备AI功能的应用在冲击市场，如汽车、无人机、安防系统和增强现实/虚拟现实(AR/VR);以机顶盒和数字电视为例，诸如自动提供字幕、图像增强以及用户体验提升等功能将被进一步挖掘。

　　视觉技术在智能设备上的应用得到关注

　　智能设备主要依赖于基于语音的用户接口，但是我们可以看到它们将开始越来越多地引入视觉技术成分。

　　从语音的角度来看，设备需要一直处于开启状态，因此需要一种低功耗的解决方案。而从视觉的角度来看，由于需要处理大量的数据，它的挑战在于需要高性能。消费者期望无论是其智能手机还是冰箱，这些技术进步都应该以标准的形式进入设备。因此，支撑AI需求的解决方案应当是高效的，从而引出了对专用硬件的需求。

　　PowerVR Series2NX神经网络加速器

　　我们设计了自己全新的PowerVR Series2NX神经网络加速器，在非常低的功耗和极小芯片面积占用的前提下提供高性能的神经网络计算，其高度可扩展的架构可支撑它基于多样化的、各种广为采用的神经网络框架来承担深度神经网络推算任务。随着深度神经网络持续在很多行业中推动技术爆发式进步，神经网络加速器注定会成为一种基础性的处理器种类，和CPU及GPU一样极为重要。

嵌入式神经引擎和专用智能处理器将AI引入前端设备

　　嵌入式神经引擎和专用智能处理器将AI引入前端设备，消除了对云的依赖。前端处理的好处包括缩短延迟、全网覆盖、提高隐私和安全性，并且减少与云的通信，从而降低成本。这些特性使得移动设备可以利用AI的力量去实现以往人们认为是天方夜谭的功能。

　　前端处理的两大挑战

　　虽然前端处理的好处很明显，但它也带来诸多挑战。首先是如何在细小的掌上型设备上执行来在大型服务器上的数据分析(data-crunching)，还要考虑到这个掌上设备的电池也要应对许多其他任务。因此，专用AI处理器对于成功的在前端实现AI是至关重要的。

　　另外，将现有的神经网络移植到嵌入式环境中，这可能需要大量的开发时间并且成本非常高。但是，自动工具可以实现一键式轻易转换，针对嵌入式环境来分析和优化网络。对于这样的工具来说，重要的是要覆盖大量先进的网络，以确保任何网络都可以轻松优化，以便在前端嵌入式设备上运行。

　　NeuPro AI处理器

　　CEVA公司的NeuPro AI处理器包含用于矩阵乘法、完全连接层、激活层和池化层的专用引擎。这款专用AI引擎与完全可编程的NeuPro VPU配合使用，后者可支持所有其他层类型和NN拓扑。这些模块之间的直接连接实现了无缝连接，无需写入内部存储器。此外，DDR BW和DMA控制器可实现即时流水线处理，进一步提升速度，同时降低功耗。

支持广泛神经网络架构的VIP8000处理器

　　机器学习和神经网络处理技术承载着嵌入式处理器下一个主要的市场机会。国际数据公司(IDC)预测，全球在AI和机器学习方面的支出将从2016年的80亿美元增长到2020年的470亿美元。AI爆发式增长的背后有三个主要的驱动力：算法的快速演进、强大的技术平台以及大数据。AI日益无处不在，这就要求消费电子、汽车电子、工业4.0等终端产品具备实时神经网络推理、可灵活升级至最新、最优算法，以及从持续学习中收集有用信息的能力。

　　作为芯片设计平台及服务提供商，芯原为包含移动互联设备、数据中心、IoT、汽车、工业和医疗设备在内的广泛终端市场提供全面的系统级芯片和系统级封装解决方案。随着最新的分级压缩、适配的平铺/缓存、裁剪、获取、跳过以及图像融合技术的引用，VIP8000为与其相关的处理器架构进一步降低了内存带宽需求。

　　VIP8000处理器

　　VIP8000支持宽泛的神经网络架构，如TensorFlow、Caffe、AndroidNN、RNN和LSTM等，此外，还提供大量软件和硬件解决方案以帮助开发者创建高性能神经网络模型和基于机器学习的应用。由于与Vivante GPU架构相同，VIP8000继承了其OpenCL可编程性，硬件直接存储器存取和时序安排，以及多环境并行处理的长处。

　　对于终端设备来说，有些AI应用并不是孤立的应用，而是可以同时增强现有许多不同应用。作为芯原Vivante IP产品系列的一部分，VIP8000处理器可以在兼顾芯片尺寸和功耗的情况下，轻松地与其他芯原处理器IP相集成。例如，基于共同的架构，VIP8000神经网络引擎可以和任何Vivante GPU直接集成，以面向AR/VR等应用;还可以与芯原的ZSP音频DSP集成，以面向智能音箱的应用;或是与ISP Nano集成，实现低延迟机器视觉摄像头的设计;又或是与Hantro视屏编码相结合，以实现更好的视频内容压缩。

AI从云端扩到边缘端，对话式平台得到广泛应用

　　我们注意到AI有两个显著加速的趋势：

　　1)AI的部署和应用逐步从云端扩展至边缘端，也就是直接部署运行在客户端或IoT终端，满足了一定的实时性和安全性等要求。例如：Apple的Face ID、Andriod离线版人脸识别等，这主要归功于AI芯片(或神经处理单元NPU)在手机上的深度整合及场景落地。它解决了性能和功耗的平衡问题，同时也强调了软硬件结合来完成场景的落地。

　　2)对话式平台的广泛应用。对话式平台将改变人们与技术进行交互的方式。用户通过语音发出命令或者问题，对话式平台进行响应并执行一系列相应的功能。这其中包括语音识别、NLP等当下热门的AI技术，同时也体现了AI时代更加自然和人性化的交互方式。

　　AI在边缘端的部署和应用给终端CPU或者SoC带来了特定任务，例如图像识别等更大的计算压力。这种压力也导致了AI芯片产生，华为的麒麟 970芯片就是一个标志性的事件。它搭载了寒武纪的一款NPU，这款NPU在特定任务计算时的能效是手机CPU的50倍。我们有理由相信，随着更多AI场景的落地，AI架构的芯片会逐渐成为主流。当然，AI算法也会不断地优化，不断在系统层面进行融入。如何将芯片、系统与算法高效地融合则是AI场景能否落地的一个关键因素。

　　对话式平台的广泛应用开启新的交互革命

　　随着语音识别和NLP(自然语言处理)技术的大热，声纹识别技术也逐渐进入大众的视野，它将与人脸识别等生物认证技术一起在安全和个性化服务领域得到越来越多的普及。目前的语音识别和声纹识别等语音技术受背景噪音、多人同时说话等环境因素影响，准确度依然有很大的提升空间。

　　君林科技的麦克风阵列技术(远场拾音技术)、去噪声和混响算法以及高精度、高鲁棒性的声纹识别算法从软硬件结合方式优化了整条链路，在一定程度上消除了环境因素的影响，大幅提高了声纹识别的准确度，从而加速了声纹识别技术在智能硬件、银行保险和公共安防等行业的场景落地。

　　参考文献：

　　[1]胡郁.人工智能与语音识别技术[J].电子产品世界, 2016(4):23-25.

　　[2]王莹.“CPU+”异构计算时代，华夏芯通过HSA抢占高地[J].电子产品世界, 2016(9):15-17.

　　[3]王莹.人工智能的进展及发展建议[J].电子产品世界, 2017(2-3):23-26.

　　[4]王莹,王金旺.异构计算带来AI视觉新突破[J].电子产品世界, 2017(7):28-29.

　　[5]任泽坤.芯片厂商引领广电的人工智能化[J].电子产品世界, 2017(10):23-24.

　　本文来源于《电子产品世界》2018年第5期第13页，欢迎您写论文时引用，并注明出处。