并行计算的兴起：为什么GPU将在边缘AI领域超越NPU

人工智能 （AI） 不仅仅是一项技术突破，它还是软件编写、理解和执行方式的永久演变。建立在确定性逻辑和大部分顺序处理之上的传统软件开发正在让位于一种新的范式：概率模型、训练有素的行为和数据驱动的计算。这不是一个转瞬即逝的趋势。AI 代表了计算机科学的根本性和不可逆转的转变 — 从基于规则的编程到基于学习的自适应系统，这些系统越来越多地集成到更广泛的计算问题和功能中。

这种转变需要对为其提供支持的硬件进行相应的更改。在 AI 架构和算法不断变化的世界中（现在和将来），为狭义定义的任务构建高度专业化芯片的旧模型不再可扩展。为了满足 AI 不断变化的需求（尤其是在边缘领域），我们需要与它们运行的工作负载一样具有动态性和适应性的计算平台。

这就是为什么通用并行处理器 （GPU） 正在成为边缘 AI 的未来，取代了神经处理单元 （NPU） 等专用处理器。这不仅仅是性能问题，还关乎灵活性、可扩展性以及与软件本身未来的一致性。

牧本波和灵活性的回归

要理解这种转变，我们只需要看看 Makimoto 的 Wave，这是 Hitachi 的 Tsugio Makimoto 提出的一个概念。它描述了计算中标准化和定制化之间随时间推移的波动 - 由市场需求、技术创新和软件复杂性的变化驱动。

（Makimoto 的 Wave 显示了计算中优先级波动的历史模式——从灵活性到专业化，然后再回到。AI 目前的发展轨迹标志着向灵活性和通用平台的回归。

此模型直接映射到 AI 硬件的演变。在 AI 的早期，当工作负载定义明确且稳定时，NPU 和其他固定功能加速器是有意义的。它们针对特定任务进行了高度优化，例如使用 CNN 进行图像分类或对象检测。

但现在，AI 正在迅速发展。我们已经超越了简单的静态模型，进入了混合网络、基于 transformer 的架构、基础模型和持续创新的时代。为去年的 AI 定制的硬件根本无法跟上这种速度。

我们再次处于 Makimoto 的拐点 — 从专业化重新转向通用计算，作为可扩展、适应性强的解决方案。

AI 是一个并行计算问题，而不是一个专门的问题

AI 从根本上说是一个并行性问题。深度学习在很大程度上依赖于并发运算（矩阵数学、张量乘法、向量运算），这正是 GPU 最初构建的工作负载类型。为同时渲染数百万像素而开发的架构现在非常适合同时处理数百万个神经元激活，这并非巧合。

如今的通用 GPU 已经远远超越了其图形根源。借助可编程管道、计算着色器和越来越以 AI 为中心的设计，GPU 现在可以加速传统和新兴工作负载，为边缘 AI 提供强大、灵活的引擎。

相比之下，像 NPU 这样的专业处理器很难在快速变化中保持相关性。它们针对特定作进行了优化，当 AI 世界不断向前发展时，这些芯片很快就会过时。很明显，随着这种新型软件的不断发展，它需要一个灵活的通用并行硬件平台来支持它，即 GPU。

为什么通用型在边缘

边缘 AI 需要的不仅仅是性能。它需要适应性、可重用性和使用寿命。现代 GPU 等通用并行处理器可在各个方面提供：

• 灵活性：可以编程以运行新的模型类型，而无需更改硬件。

• 可扩展性：适用于各种边缘设备，从 IoT 传感器到智能摄像头和自动驾驶汽车。

• 软件生态系统：由成熟、开放的开发工具和标准（例如 OpenCL、LiteRT 和 TVM）提供支持。

• 可持续性： 延长产品生命周期并减少对不断重新设计芯片的需求。

简而言之，通用并行计算 （GPU） 自然而然地是为了与 AI 一起发展而构建的。

展望未来

尽管证据越来越多，但市场仍然倾向于将 AI 加速与 NPU 和定制芯片联系起来。但是，正如图形行业认识到固定功能管道无法跟上游戏创新的步伐一样，AI 行业也发现固定硬件无法与流畅的软件相提并论。

是时候重新教育生态系统了。边缘 AI 的未来并不在于狭隘优化的芯片。它是关于可编程、适应性强的并行计算平台，这些平台可以根据智能软件的需求进行增长和扩展。

牧本几十年前就看到了。今天，我们正在践行他的见解 — 乘着一股浪潮回归到通用灵活性。GPU 不仅在迎头赶上;它已经处于领先地位。

Dennis Laudick 是 Imagination Technologies 的产品管理副总裁。在加入 Imagination Technologies 之前，Dennis 在 Arm 的汽车、AI 和 GPU 部门担任过超过 13 年的各种产品和营销领导职务。在此之前，他曾在多家领先的半导体和 OEM 公司担任高级职位。Imagination 本月推出了面向 AI 的 E 系列 GPU 架构，详情请见此处。