人工智能后的下一个风口——边缘AI赋能更安全高效的智慧世界
AI是研究使计算机来模拟人的某些思维过程和智能行为（如学习、推理、思考、规划等）的学科，主要包括计算机实现智能的原理、制造类似于人脑智能的计算机，使计算机能实现更高层次的应用。
本文引用地址：http://www.eepw.com.cn/article/202312/453937.htmAI将是未来世界发展的核心，随着科技的进步及人类生活需求的提高，AI在计算机领域得到了前所未有的重视。并在机器人、经济政治决策、控制系统及仿真系统中得到应用。它可以通过边缘投入到生产中，依靠零信任保障安全，并最终从量子技术处获取源源不断的动力，实现扩展到全球系统所需的性能和效率。
而在AI发展的同时，也在不断产生新的分支并不断地进行进化，AI进化的下一步即可称之为边缘AI，其发源于边缘计算，在降低系统的处理负载的同时解决数据传输的延迟问题。这样的处理是在传感器附近或设备产生数据的位置进行的，因此称之为边缘，其特点是规模小且更容易为大众所使用。边缘计算的发展意味着边缘AI正变得越来越重要。
传统云AI与边缘AI既有相同之处，又有很大差别。
传统云AI需要在云端处理和存储数据。这种工作方式的优势是软件工程师在设计和构建云AI系统时提供了更大的灵活性和自由度。但云AI的运行必须要依赖互联网连接，在工作效率及安全性方面存在很大问题。而边缘AI的主要特点是它在本地处理和存储数据，因此无需依赖互联网连接。这使得边缘AI能够实时生成数据并独立作出决策。随着边缘AI设备实现更高的计算能力，边缘AI的应用可能会逐渐超过云AI。
而比较直观的差距应该是在应用领域，云AI更多被应用于大数据分析、语音识别、自动驾驶等领域。而边缘AI则主要应用于智能家居、智能工厂、智能城市等IoT领域。边缘AI通过在设备本地进行智能决策，能够提升物联网系统的效率和安全性
举个例子，工厂的机器人和自动驾驶汽车都需要以最小的延迟高速处理数据。为了实现这些目标，边缘计算可以在云上靠深度学习生成数据，而在数据原点——即设备本身（边缘）执行模型的推断和预测，是能够提高工厂智能化程度的AI模型核心。从帮助医院里的放射科医生诊断病症，到在高速路上驾驶汽车，再到帮助我们为植物授粉，边缘 AI 为我们创造了前所未有的可能性。
近年来，边缘AI与常规云AI的对比说法不一，作为常规AI的进化物，它们执行不同任务时的效率及运行速度都不相同。所以并不能通过某些简单任务去进行对比。但边缘AI的优势还是有很多。
比如其因为能让处理能力更接近边缘，所以应用所需的互联网带宽变得更少，进而显著降低网络成本。基于云的AI系统使用大量数据进行操作，需要大带宽才能正常运行。因此，对于严重依赖AI进行日常运作的组织而言，与数据和带宽使用相关的成本通常很高。边缘AI将数据处理保持在设备本地，带宽使用不会像使用传统云AI的设备那么高。因此，可以控制带宽成本。更重要的是边缘AI用户也能更快地获得结果，因为他们的网络和设备的网络流量很低。
并且终端设备拥有更多自主权和强大性能。边缘AI的主要特征之一是它为所有端点设备提供了更高的独立性，由于边缘AI的工作特点就是在本地而不需要在云端分析数据，此类设备无需连接到中央服务器即可运行，因此不会因长距离通信而延迟并且能够实时响应用户的需求，所以速度和效率始终很高。
相对于由标准AI驱动的设备相比，支持边缘AI的设备显示出更高的响应能力和性能水平，由于在本低就能处理数据，边缘AI凭借去中心化和离线能力而变得更加强大，所以提高了应用的可用性和可靠性。
最主要的，也是人们最关注的就是数据隐私和安全，传统AI通过云计算网络中的各种通信渠道传输数据有一部分可能性会造成数据丢失。主要原因是两个或多个数据点之间有传输距离。所以传统云计算及AI解决方案需要竭尽全力确保其数据得到有效保护。而边缘 AI将这些数据保存在本地，只将分析和洞察上传到云端，这进一步加强了隐私。即便为了学习需上传一些数据，也可以对数据进行匿名处理以保护用户身份。通过保护隐私，边缘 AI 能够简化数据合规性方面的挑战，并且用户还可以设置限制谁可以访问存储在其个人设备中的数据。因此，边缘AI是用户数据处理的更安全选择。
边缘AI工作时间越长，应用就更准确，因为工作时产生了大量的数据，当边缘 AI 应用遇到它无法准确处理的数据时，它通常会将该数据上传，然后使用该数据重新训练并从中学习，因此会越来越准确。
边缘AI应用
边缘AI可以提供增强用户体验的附加功能（如智能手机、智能电视、个人电脑/平板电脑），也可以提供对技术本质至关重要的功能（如自动驾驶汽车、工业机器人等，如果没有AI，它们根本无法以所需要的方式工作）。
AI（实现自动化和免提访问）和Wi-Fi连接是实现物联网的两项关键技术，在物联网中，智能电器可以直接通信，因此，智能家居是AI（主要包括消费电子产品）的一个重要增长渠道。除此之外，智能电视、智慧镜面、虚拟现实（VR）设备、传感器、厨房设备、清洁用具以及安全系统都可以通过应用AI和Wi-Fi进入互联状态，通过具有AI功能的智能家居设备可以进行免提访问和语音命令。在预测期内，将AI引入家庭所提供的机会，将在一定程度上反映消费电子垂直领域的增长，预计到2034年，该行业将成为边缘AI芯片营收最高的行业。
边缘应用AI芯片价值链
边缘AI正在推动工业、汽车、医疗、金融、能源等行业开发出新的业务成果。各大厂商也在围绕边缘AI领域进行研究。AI处理器针对不同的应用有不同的等级，边缘AI芯片的性能要求已能够与中高端智能手机AP（应用处理器）相媲美，目前边缘计算市场上参与者众多，不同阵营厂商正以不同的路线共同推动边 缘计算快速发展。以英特尔、AMD 等为代表的芯片厂商积极推出 CPU、GPU、 FPGA、DPU、IPU 等边缘算力芯片；亚马逊、微软等云服务厂商将云计算能力向 设备和用户侧延伸，扩充云数据中心的外延，将云原生的统一编程模式通过边缘网 关的能力应用到设备构成的边缘云，主打云边协同一体化；以移动、电信、联通为 代表的 5G 运营商将 IT 能力同基础网络承载与业务运营融合，提供基站的边缘计算服务及 5G 网络接入管理。。
2024年~2034年边缘AI芯片营收预测
预计到2034年，消费电子、工业和汽车垂直领域将成为边缘AI芯片的主要营收来源
德州仪器推出全新视觉处理器系列，在智能摄像头应用中实现可扩展的边缘AI性能
Microchip与韩国智能硬件公司IHWK合作开发模拟计算平台,加速边缘AI/ML推理
同时, 今年初英飞凌宣布收购初创公司Imagimob，后者是一家边缘设备机器学习解决方案提供商，专注于边缘AI市场。通过此次收购，英飞凌将显著补强其AI产品。并在8月宣布与Edge Impulse合作，为PSoC™ 63低功耗蓝牙 ®微控制器（MCU）扩展基于微型机器学习的AI开发工具。
英飞凌携手Edge Impulse扩展边缘AI能力,为蓝牙客户带来更多基于机器学习模型的平台选择
英飞凌为NVIDIA Jetson边缘AI平台提供AIROC™ Wi-Fi/蓝牙®解决方案
ST意法半导体也加入了边缘AI的竞争战场，今年意法半导体（ST）于年中推出了边缘AI加速微处理器——第二代STM32 MPU。该处理器提高了工业和物联网边缘应用的性能和安全性，预计将于2024上半年批量生产，并后期又推出了X-CUBE-AWS-H5扩展包，让物联网设备能够无缝、安全地接入AWS云。在这个软件扩展包中有一套为专门终端设备STM32H5系列高性能微控制器设计的软件库和应用代码示例。。
半导体执行副总裁Ricardo De Sa Earp表示：“新的微处理器进一步加大了公司在应用处理器方面的投资，将64位内核与边缘AI加速、高级多媒体功能、图形处理和数字连接相结合。”
意法半导体发布安全软件,保护STM32边缘AI设备连接AWS IoT Core的安全
意法半导体推出第二代工业4.0级边缘AI微处理器意法半导体推出NanoEdge AI免费部署服务,打破边缘AI应用障碍
莱迪思于今年也推出了结合低功耗、低延迟FPGA与英伟达Orin平台的集成解决方案,将传感器高效桥接至AI应用。
大模型厂商也在加速布局移动/边缘端的相关应用。今年举办的谷歌I/O大会上，谷歌宣布其PaLM2大模型的最轻量化版本Gecko可在移动端运行，开拓了AI模型在边缘侧推理的场景。对此有消息机构表示，在边缘侧推理的轻量化大语言模型有望带动边缘AI计算成长，加速边缘硬件市场更新迭代。除大模型外，龙头厂商也纷纷布局轻量级模型，当前 Meta、谷歌、高通等公 司已开始发力边缘 AI。谷歌和 Meta 分别于今年 5 月 11 日和 7 月 19 日发布了 各自最新的大语言模型版本 PaLM 2 和 Llama 2，较以往版本实现测试数据、性 能等全面优化，轻量化版本均能应用于边缘端，其中最新发布的 Meta 大模型 Llama 2 更是开放开源免费使用，有望推动边缘 AI 迎来“安卓时刻”。此前，芯片 龙头厂商高通也首次成功实现 Stable Diffusion 模型在手机端应用生成 AI 图像， 并于 5 月 30 日宣布高通正在转型为边缘计算公司，全面下注边缘 AI。
国内边缘AI市场
在AI的助力下，边缘侧终端和芯片迭代有望加速。目前国内布局边缘AI芯片的厂商主要包括寒武纪、华为海思、瑞芯微、研华科技、凌华科技等。
瑞芯微推出RK3588 AIoT芯片，计算采用Quad A76 + Quad A55、Arm G610 MP4及6Tops NPU，感知采用48MISP,HDR/3DNR、多摄像头输入及多MIC阵列，支持安卓及Linux系统。可应用于平板、只能座舱、AR/VR及网络视频录像机等领域。
凌华科技发布采用NVIDIA Jetson Orin模块的下一代边缘AI平台，全球领先的边缘计算和AI解决方案提供商——凌华科技，日前宣布推出DLAP-211-Orin系列和DLAP-411-Orin工业级边缘AI平台。通过搭载Orin 模块，全新的 DLAP 平台性能得到了大幅提升，成为一款紧凑的、经过SWaP 优化的、强大的工业级解决方案，AI 推理性能与前几代产品相比，提高了 8 倍，达到了 275 TOPS。 这些先进的系统旨在提供卓越的性能和耐用性，重新定义了智慧城市、零售、安全、工厂和制造等各个领域的AI应用基准。
凌华科技发布采用NVIDIA Jetson Orin模块的下一代边缘AI平台
凌华科技发布IMB-M47 ATX主板,满足高性能工业边缘应用的需求凌华科技推出下一代IPC革新边缘侧行业应用，提供可扩展设计和定制功能模块
基于NVIDIA Jetson™ Orin的凌华科技ROScube-X RQX-59系列，重新定义 AI 性能
边缘计算可以在任何产生数据的地方使用，从自动化工厂车间和仓库的工厂，自助结账的零售商店，到具有车队管理的交通，以及具有停车管理和智能建筑的智慧城市。AI和5G技术的推出，使边缘计算更加灵活、智能和互联。研华科技一直致力于提供Edge+边缘智能解决方案，聚焦行业重点，侧重在软件、AI、无线连接和云集成，为AIoT多场景应用提供支持，且能够提供全备软硬件和更具行业经验的深度整合服务。并且，研华科技一直与英伟达、英特尔、AMD、ARM等头部半导体厂商深度合作，在云端和边缘侧能够提供自研的AI模型、训练、算法以及开发包。
研华AIR-030边缘AI推理系统，专为机器人应用多设备连接AI运行设计
研华推出支持双NVIDIA GPU的高性能边缘AI系统AIR-500D
布局Edge AI,研华以边缘运算创新与产业驱动应对全球新兴行业挑战
8月28日，在“第三届滴水湖中国RISC-V产业论坛”上，国内知名AI技术厂商云天励飞介绍了其新一代边缘大算力AP级边缘SoC芯片Edge10V，目前已经接近量产状态。
作为国内首批AI技术厂商，成立于2014年的云天励飞最初是主攻AI算法，通过摄像头、端云协同的架构来做海量图片的分析与处理，因此算法的泛化能力相对较弱，所以对于设备的调试要求就比较高，需要到各地去帮助客户调试，这在当时耗费了云天励飞很大的一部分精力。这也促使了云天励飞开始来做自研芯片，将自己的AI算法芯片化。
从2015年至今，云天励飞已经完成了三代指令集架构，4代神经网络处理器架构的研发。2022年，云天励飞自研的新一代边缘AI SoC芯片——Edge10V流片成功，今年开始在做产品化相关的工作，目前已经接近准量产状态。
当下，传统硬件疲态渐显，智能机/PC均进入存量市场，智能音箱及耳机也增速放缓。但通过边缘AI的赋能，相信将改变电子产业的增长曲线，未来所有硬件都有重估值潜力。
评论