人工智能探境科技之得“芯”应手

1   AI处理平台的前世今生

人工智能（AI）是当前热度很高的一个技术名词，其技术应用推广由来已久，曾经依托于高度密集计算的通用平台，主要是基于中央处理器（CPU）的计算器，或是基于数字信号处理器（DSP）的实时嵌入式系统，然后逐步发展和演化成为深度学习的有效实现手段，由此对核心处理器平台提出更高更严苛的要求，从而催生了专用AI处理平台。笔者曾有十多年从事DSP业务拓展的经历，对于AI处理平台创新并开创一个全新的智能化局面充满了好奇，于是拜访了北京探境科技有限公司，与鲁勇董事长进行探讨，对于以神经网络处理方式来构建具有颠覆式AI架构有了深度的了解。

首先我们从处理器的基本架构谈起。众所周知，CPU的体系是沿用经典计算机的冯·诺依曼体系，而DSP则采用哈佛结构，且不断改进。DSP将地址总线和数据总线分开以便提高存储器访问速度，又增加流水线结构，旨在有效提高处理速度，特别有益于以系列乘加为主体的卷积运算，而这正是数字滤波器的基本结构。语音处理技术发展得益于DSP，然而其应用却受制于其通用性，使得包括语音识别在内的智能语音应用局限性较大。对于智能图像和智能视频处理同样存在这样的问题，所以构建具有针对性的新型AI平台，最大限度地匹配目标应用势在必行。

图1 SFA体系架构示意图

2   生根于SFA的芯片架构

新型AI平台必然是一个神经网络处理器NPU（Neural Processing Unit），鲁勇指出业界芯片最核心的设计指标是PPA（Perform Power Area），即性能、功耗、还有与成本相关的芯片面积，AI处理平台要在架构上有重大突破必定要立足于此。探境科技公司初创就确定创立自主的AI架构，其最终目标是既要有面向神经网络的通用性，又把重点放在提升数据管理和调度效率的针对性。与DSP解决的计算复杂度即“算力”问题不同， AI面对处理的对象是庞大的数据包，要让海量数据柔和、顺利地传递到计算单元里来，就要更好地实现存取的匹配。在这过程中解决指数级增长的存储问题是关键，有个专业名称叫“存储墙”，只有打破其束缚，才能使AI处理算法游刃有余。探境科技独创的SFA（Storage First Architecture）存储优先架构，用存储来驱动计算能力，推翻冯·诺依曼体系，完全区别于之前各类处理器芯片的架构。如图1所示即为SFA体系架构示意图。

实测数据表明，SFA体系具有超高能效比，在同等条件下，数据访问可降低10~100倍，存储子系统功耗下降10倍。采用28 nm工艺，系统能效超过4T+OPS/W。

图2 基于VOI611的语音识别模组及框图

3   基于SFA架构AI芯片的优势

AI设计公司的判定标准在于是否有能力设计AI芯片，这是鲁勇所持的观点，那么代表着技术高低的绝对判断就是AI芯片的PPA。基于SFA的AI芯片目前具有语音和图像两个分支，语音芯片最重要的关注点在于A，就是一定性能下的低成本，采用55 nm工艺可以减少投片费用，获得很高的性价比。而图像芯片关注2个P，就是追求高性能下的低功耗，采用能效比较高的28 nm工艺，其实探境科技实现的能力已经超过业界12 nm工艺所达到的水平。

与符合现有AI需求特征的芯片一样，SFA芯片需要支持各种各样的神经网络，这些神经网络则根据不同的应用场景放不同算法。事实上，SFA能够支持所有已知深度学习神经网络，等同于GPU的兼容性，对神经网络的参数没有限制，对数据类型也没有限制，其中包括INT4/INT8/INT16/FP16/自定义浮点，还有自适应稀疏数据处理等。

此外，SFA架构真正符合商业应用的AI芯片架构的特点在于：①采用成熟设计方案，无需对底层器件进行修改设计，商业化路径快；②通用性高，芯片面向的场景众多，必须支持多种算法才可以被商业化；③易用性高，用户学习成本低，模型移植简单。

在谈及SFA芯片开发的感受，鲁勇不无感慨地说，探境科技自2017起零基础自主创新，没有可参考的东西。他本人虽有多年Marvell的工作经历，但背景领域却没有相通之处。然而，多年的芯片设计经验使他在技能训练上有共同点，那就是对于结构化算法的理解。关于芯片开发的心得，鲁勇认为首先是技术路径顺畅，其次是实现流程严谨，所以仅用一年半就开发完成并一次流片成功。还有，就是市场把握准确，将市场与销售工作紧密结合，真正做到AI芯片应用的落地。

图3 前景广阔的语音识别智能化家电应用

4   落地在语音识别智能应用

探境科技坚持着“接地气”的原则，努力使其AI芯片贴近用户和贴近市场需求，首款通用型AI芯片是音旋风VOI611，是目前业界综合性能最好的离在线语音方案，将SFA的NPU与ARM-M3的MCU结合，并集成音频Codec和多种接口。VOI611作为针对嵌入式产品的深度学习语音识别芯片，具有强大的降噪功能，在60 dB环境噪音下识别率可达到98%以上；双麦即可实现麦克风阵列的效果，支持10 m远场识别、噪声抑制、音源定位等功能；命令识别数量最高为200个，凭借深度学习技术，不针对特定人，也不需要持续更新。

既然定位为以技术和产品驱动的AI芯片公司，就需要具备相辅相成的2个能力，即AI芯片创建能力和AI算法构建。探境科技不仅提供包含算法的异构单片系统（SoC）芯片，也要提供完整“交钥匙（Turn-Key）”的模组解决方案，从而以全能型选手姿态来全面符合市场需求。为此，所交付的产品要全面满足客户的需要，其技术核心的七到八成在于客户对算法语音识别效果的认可。图2所示为基于VOI611的语音识别模组的实物图和系统框图。

在探境科技的实验室里，鲁勇做了语音控制产品演示，特别是在抗击疫情中发挥了显著作用的声控电梯控制器，全程无需按键接触，体现了语音交互的好处。笔者亦应邀体验了各类智能语音产品，惊喜地感受到不仅是电梯，还有灯具、空调、风扇等各种各样电器，都成了“听话”的智能化设备。

AI语音识别芯片的另一个重要的应用领域就是汽车，这就对技术指标提出更高的要求，探境语音算法的多项“黑科技”将大显身手，包括性能优异适应性强的自研AI降噪算法、高计算强度神经网络HONN技术、更强大更具鲁棒性的双麦识别技术，当然必须具备的还有车规级的芯片标准。

此外，自创立伊始，图像就是探境志在必得的重要领域。目前，探境科技正在加紧开发为视觉领域设计、与量身定制神经网络相结合的高度集成AI芯片，并将提供具有智能图像深度学习算法的全栈式方案，预计明年发布，未来将助力安防监控系统、机器视觉系统、汽车自动驾驶，及新型零售系统等领域智能化水平的全面提升。