新闻中心

EEPW首页 > 专题 > AI在边缘设备上的发展机会

AI在边缘设备上的发展机会

作者:王莹 王金旺时间:2018-04-26来源:电子产品世界收藏
编者按:AI不仅仅发生在对计算要求高的云端,还会出现在数量更加庞大的物联网边缘端,例如消费电子、汽车电子、工业控制、测试测量等领域。为此,本媒体邀请部分AI芯片及EDA/IP厂商,介绍边缘AI的最新技术进展和解决方案。

作者 / 王莹 王金旺 《电子产品世界》编辑(北京 100036)

本文引用地址:http://www.eepw.com.cn/article/201804/379031.htm

摘要不仅仅发生在对计算要求高的云端,还会出现在数量更加庞大的物联网边缘端,例如消费电子、汽车电子、工业控制、测试测量等领域。为此,本媒体邀请部分芯片及EDA/IP厂商,介绍边缘的最新技术进展和解决方案。

瑞萨AI终端问题解决方案

  针对终端上的AI执行,为了适配嵌入式系统,除了耗电问题以外,还有其他需解决的问题。首先,将通过云端开放资源学习过的AI导入嵌入式系统的内存资源,其次,需要准备、提供适合执行AI的最优设备;再次,不仅是单纯处理,为实施实时性能、控制,还需具备安全性和可靠性。

  瑞萨电子在终端嵌入AI,称为e-AI(Embedded Artificial Intelligence)。瑞萨从去年开始免费开放了e-AI Translator工具。这是可将通过Caffe、TensorFlow学习过的AI嵌入到所有MCU/MPU的压缩工具。瑞萨电子的MCU/MPU产品线可以通过该工具,根据执行AI的大小,从丰富的产品线中选择适配产品。

  瑞萨考虑不仅在CPU,而且在终端中支持AI的应用需求。瑞萨将针对AI提供其独特的处理器DRP (Dynamically Reconfigurable Processor)。就并行性而言,DRP优于CPU;而就耗电量而言,DRP又优于难以将全部数据导入的GPU。在相同耗电量的条件下,其测量结果是CPU的100倍以上,GPU的10倍以上。通过使用DRP,客户将AI的识别功能应用于相机、机器人、AR眼镜。现在已经有不少客户在其新产品中积极推广使用该技术。

  瑞萨电子在其独有产品SOTB(Si On Thin Buried-oxide)上也支持e-AI。通过利用该技术,可将MCU的工作电流大幅降低至1/10,待机电流降低至1/100。该技术不仅可大幅延长电池寿命,还使利用热能、振动、光、无线电波等能量转换成电源的系统操作成为可能。对于传感器网络和健康看护可穿戴设备而言,通过在SOTB上嵌入e-AI,搭建仅将AI识别判断后的结果传输的系统成为可能,从而大幅节电。现在很多顾客开始探讨用SOTB来替代从前系统中的电池。

提高端云有效协作

  恩智浦对边缘侧AI和(物联网)战略作用非常重视。我们认为大数据、和AI的应用发展要求边缘端具有以下能力:

  1)对智能家居、工业互联、智慧城市等提供智能化、快速和有效的支持;

  2)从作为云端提供数据采集和控制反馈的连接通道,到云端训练和深度学习,边缘信息采集和AI识别的边云一体化方向发展;

  3)及时接收云端广播训练好的模型和提取的特征,在边缘端提供有效的AI识别作用。

  新趋势对芯片和算法带来的新要求

  这样的新趋势也对芯片、计算架构及算法产生了新的要求。

  首先,要求边缘端的芯片对网络传输、安全算法运算、数据存储和AI算法有足够的支持能力,即要有一定的综合运算能力。具体包括;

  1)网络传输表示要及时地将用于学习和AI训练的数据送到云端,避免网络拥塞;

  2)要对数据进行安全保护和加解密的运算支持,要对设备、用户和应用提供可信的认证;

  3)对数据提供本地存储和AI智能运算能力。

  其次,对计算架构和算法产生了新要求,具体包括:

  1) 提供端云有效配合的计算架构,实现云端学习和训练,边缘端特征提取和识别的有效AI应用的支持;

  2)支持云端将学习好的模型及时广播给联接的边缘设备,边缘端利用训练好的模型对新数据进行识别和AI处理;

  3)提供适用于边缘端的AI算法、学习框架、运算库和编译环境。

  恩智浦针对这样的挑战,在芯片SoC上提供了各种硬件加速引擎,包括网络通信、安全存储运算、AI运算,保证芯片在边缘端强大的AI运算能力;提供了支持的EdgeScale平台,除了安全管理和边缘设备管理外,它会封装用于AI的算法和系统库,简化AI的开发。并提供AI应用的开发示例,例如人脸识别、OCR、语音识别、物体识别等,为AI应用的快速落地带来方便。另外,它提供了针对工业互联场景的边缘平台架构OpenIL,从实时性、安全性、稳定性和传输性上对边缘端提供有效保障。

应用于的边缘 AI 视觉

  汽车中的每一个传感器都需要得到精密算法的支持,算法可以生成传感器数据的感知解读。最新趋势是利用深度学习算法来生成感知解读。不过,深度学习算法必须通过大量可能出现的情境加以训练,才能学会如何去解读各种可能出现的传感器数据。训练后,为了实现车辆的安全操控,深度学习算法需要极低时延的超高计算性能。这必须通过低功耗热约束且延长电动汽车的电池续航时间来实现。赛灵思可提供所需的高性能、功率效率和自适应性,充分满足汽车中边缘AI 的需求。

  赛灵思旨在利用边缘 AI 视觉帮助实现自动驾驶车辆,让城市更安全,让工厂具有更高生产力,这也是业界发展趋势所在。这一技术创新正在众多层面不断快速演进和发展,如系统、算法以及传感器层面等。赛灵思技术可对芯片上的晶体管功能进行深层的细化控制,从而帮助创新人员实现更高的灵活应变性。

  这种 AI 创新在自动驾驶汽车的开发中日益显现。例如BMW 760i(2010 款)中的早期主动巡航控制使用单一的前视雷达,新投产的特斯拉 Model 3将传感器配置提升为 8 个高分辨率视频摄像头、12 个超声波传感器和一个前视雷达,可实现司机监控操作的自动驾驶功能(仅作为驾驶辅助功能,并非完全自动驾驶)。随着全自动驾驶汽车面临的挑战不断得到解决,传感器的数量与类型也将持续增加,LIDAR、红外线视频等技术将崭露头角,雷达与摄像头的数量也越来越多。

  边缘 AI 性能实证(与 NVIDIA Tegra TX2 相比):

  1)3 倍的机器学习推导性能;

  2)42 倍的传感器处理性能;

  3)每幅图像实时性能的时延仅为 0.33 ms。

Arm三大平台助力建设开放式AI生态系统

  AI能力已经从云端向包括边缘和终端的前端迅速迁移,现阶段的主要挑战是前端的成本和功耗限制下的AI计算能力提升要求及软件生态。边缘AI算力已经开始快速迭代,多数的检测和识别任务将会在前端就地完成,设备的响应速度、可靠性会提高,数据的隐私性会提高。但如何保护算法产权自身的安全性,同时降低应用的开发难度和普及门槛需要解决。

  芯片作为前端智能应用的基础支撑载体,如何解决以上相关挑战,发挥Arm生态优势,加强产业协作是不可忽略的一环。Arm中国和生态伙伴创立的OPEN AI LAB提供优化的算法库HCL、算法模型加速引擎Tengine和SDK开发包AID,致力于提升前端AI计算效率、降低应用开发门槛。同时,Arm人工智能生态联盟AIEC致力于推动从芯片、算法、解决方案、系统集成、部署落地的全产业链协作,加速AI前端应用落地和普及。

  除此以外,Arm也为满足用户对移动设备、智能电视更高要求的视觉体验、4K HDR视频等新兴需求持续研发新IP及解决方案。显示技术、图层数据处理能力、增值视频体验,这些都是Arm现在及未来赋予广大移动用户的价值所在。

  Arm三大平台方案

  Arm着力于为合作伙伴提供平台型解决方案,目前已推出三大平台:

  一是机器学习平台Project Trillium,全面支持主流的深度学习模型以及传统CV。开发者能够继续使用他们首选的框架和工具,经Arm开发软件无缝转换结果后,可在底层平台上运行。

  其二是平台安全架构PSA,为安全提供了一套全面的安全指导方针,使从芯片制造商到设备开发商,再到云服务平台等价值链中的每位成员都能成功实现安全运行。

  其三是Arm Mbed平台,支持多协议,将IoT设备安全地连接至云,将数据安全地送上云。

  以上三大平台不仅赋能合作伙伴创新应用解决方案,更是Arm致力共建产业标准与开发者生态、激活增值解决方案与服务的基础。Arm始终希望,联合行业价值链中的所有成员,合力建设开放式协作创新与共同成长的生态系统。



上一页 1 2 下一页

评论


相关推荐

技术专区

关闭