计算架构 文章 进入计算架构技术社区

NPU是什么？为何它是开启终端侧生成式AI的关键？

• 生成式AI变革已经到来。随着生成式AI用例需求在有着多样化要求和计算需求的垂直领域不断增加，我们显然需要专为AI定制设计的全新计算架构。这首先需要一个面向生成式AI全新设计的神经网络处理器(NPU)，同时要利用异构处理器组合，比如中央处理器(CPU)和图形处理器(GPU)。通过结合NPU使用合适的处理器，异构计算能够实现最佳应用性能、能效和电池续航，赋能全新增强的生成式AI体验。正如在工具箱中选择合适的工具一样，选择合适的处理器取决于诸多因素，将增强生成式AI体验。异构计算的重要性生成式AI的多样化要求和
• 关键字： NPU  AI  计算架构