突破AI芯片限制 IMEC携手格罗方德破冯诺伊曼瓶颈

比利时微电子研究中心（IMEC），日前与半导体代工厂格罗方德（GF)公开展示了全新AI芯片硬件。IMEC模拟内存式运算（AiMC）架构及格罗方德22FDX制程为基础的前提下，这款全新芯片经过优化，并于模拟环境中的内存式运算硬件进行深度神经网络运算。在达到高达2,900TOPS/W的创纪录高能源效率后，加速器被视为低功率装置进行边缘运算推论的关键推手。这项新技术在隐私保护、安全性以及延迟性等各种优势，将为智慧喇叭、自驾车诸多边缘设备的AI应用程序带来冲击性的影响。

自数字计算机年代起，处理器早与内存分道扬镳。使用大量数据的作业时，需要从内存取回一样数量的数据元素。此一限制又称「冯诺伊曼瓶颈」（von Neumann bottleneck），会拖慢实际的指令周期，特别是在神经网络这种大量依赖向量矩阵乘法的运算中。这些运算除了仰赖数字计算机的精准度外，还需要大量的能源。然而，若以准确度较低的模拟技术执行向量矩阵乘法，神经网络一样可以获得精确的结果。

为了因应这个挑战，IMEC透过旗下的产业联合机器学习计划，与格罗方德等产业伙伴开发了一套新架构：在静态随机存取内存单元（SRAM cells）中执行模拟运算，藉此消除「冯诺伊曼瓶颈」的限制。以此开发的模拟推论加速器（AnIA），则以格罗方德的22FDX制程半导体平台为基础，具有出色的能源效率。特征测试显示，其能源效率高达2,900 TOPS/W。微型传感器及低功率边缘设备中的图形识别，一般得仰赖数据中心的机器学习，如今可透过此一高效能加速器在地执行。

IMEC机器学习计划主持人Diederik Verkest表示：「AnIA成功的设计定案，代表我们已朝模拟内存式运算的验证迈进重要一步。此一参考实作（reference implementation）不仅说明了模拟内存式运算的可行性，也代表它们的能源效率要比数位加速器好上10到100倍。在IMEC的机器学习计划中，我们会针对模拟内存式运算，调整现有及新兴的内存装置并予以优化。这些前景看好的结果鼓舞我们进一步发展这项技术，目标是让效率进化至10,000 TOPS/W。」

格罗方德运算暨有线基础架构的产品管理副总裁Hiren Majmudar也指出：「格罗方德利用自家的低能源、高性能22FDX制程技术平台，与IMEC密切合作，并推出全新的AnIA 芯片。这款测试芯片能更进一步地向业界展示22FDX 制程技术如何大幅降低能源密集型AI及机器学习应用的功率耗损。」

放眼未来，格罗方德将把可在22FDX平台上执行的AiMC作为亮点，在AI市场上推出一套差异化解决方案。格罗方德的22FDX 采用了22nm FD-SOI 技术，可在极低能源的条件下有出色的表现，且足以在0.5伏特极低能源及每微米1微微安培的极低待机漏电流下运作。搭载全新AiMC 功能的22FDX，目前已进入开发阶段，由格罗方德具备最先进300mm生产线的德国德勒斯顿Fab 1晶圆厂负责。