揭秘IPU的设计理念:站在客户的角度设计处理器

“IPU设计者的幕后故事”：英特尔研究员Brad Burres介绍如何通过基础设施处理器（IPU）使中央处理器（CPU）摆脱低价值的繁琐任务，使其专注于处理更重要的工作负载。

如果问Brad Burres在业余时间有什么爱好，您可能想不到他的回答如此简单：除了骑摩托车、徒步旅行和带领童子军野外远足，他还喜欢DIY。他说：“当我们使用射钉枪时，只要全神贯注，那便不会遇到什么棘手问题了。”

有趣的是，作为以太网产品事业部的英特尔研究员，Brad Burres是打造IPU的幕后关键人物之一。IPU是一款针对特定领域的处理器，旨在为服务器客户解决棘手问题。当CPU内核数量随着计算需求的增加而增加，开销或基础设施处理任务量也会随之增加。人们最不想看到的事情就是让强大的CPU内核陷入处理开销的泥潭，以致无法有效运行应用程序。

可以这样作类比：假如您希望增加团队人数，从而更快地完成工作，但这需要成本——需要考虑分配任务所需的时间、确保各项工作妥善完成、管理团队的轮班时间表等。在数据中心内，网络、存储和安全等基础设施功能都需要处理能力，但不一定必须由CPU处理，而这就是IPU的用武之地。

Brad Burres表示：“多达30%至40%的处理器周期花费在基础设施上。”那么，将其中一些基础设施任务转移到IPU，则可以为更重要的工作负载释放CPU周期。

Brad Burres介绍道：“大型基础设施供应商都有一个共同的目标，那就是‘不在至强®处理器上运行任何基础设施周期’。如果您是微软Azure、AWS或谷歌云等公有云提供商，您不会希望在基础设施任务或网络上花费丝毫至强计算周期。”

群策群力解决问题

英特尔与谷歌联手开发了其首款ASIC IPU。谷歌这家网络巨头有一份具体的需求清单，需要全方位深度合作并进行共同开发的伙伴关系。基于此，英特尔与谷歌的团队共同开发了可编程数据包处理功能，以支持由谷歌定义的一系列使用场景。双方合作的最终成果就是Mount Evans，这款ASIC芯片负责进行硬件卸载，也利用ARM N1内核来处理那些必须被处理，而又无需英特尔®至强®处理器的强大功能的工作负载。不过，这并非该款芯片的全部优点。为确保Mount Evans能够尽可能高效地处理基础设施任务，双方做了大量工作。例如，Mount Evans支持每秒传输多达2亿个数据包（这些信息包基于实际工作负载，而非基准工作负载）。

该款芯片虽然由英特尔与谷歌共同设计，但它绝非仅被用来解决谷歌所面临的问题。Brad Burres说：“Mount Evans并非仅针对谷歌而打造。虽然其优化功能针对谷歌在其自身运营中发现的问题而量身定制，但该款芯片足够灵活，也可以用于其它许多地方。”

其他一些客户也希望利用首代ASIC IPU来满足其数据中心运营的类似需求。

Brad Burres表示：“我们从多个客户那里了解到存在类似问题，然后花时间和从事技术工作的朋友讨论如何解决这些问题，并寻找共性，由此催生出打造IPU的绝佳想法。”他补充说，面临类似基础设施挑战的其他公司已经提出了自己的解决方案。

进化理论：智能网卡、IPU以及未来

虽然IPU进入大众视野才短短一年，但Brad Burres已经为此冥思苦想了很多年。英特尔首款IPU的开发工作始于2016年，当时是为了推出另一款与众不同的产品，而这款产品最终演变成为一年前面市的产品。但其实，这款芯片的历史可以追溯到更早。

Brad Burres在之前担任智能网卡首席架构师期间，专注于网络卸载、存储卸载和整体数据包处理等领域，专门针对顶级云服务提供商。因此，对于一款最终将被设计用于这些领域的特定处理器来说，这些都是熟悉的领域。从智能网卡到IPU的转变是一个合乎逻辑的演变，而非仅仅是一个术语的变化。事实上，两者之间的差异更广泛地诠释了IPU的未来。

Brad Burres解释说：“智能网卡是一个临时术语。普通网卡不具备智能化功能，若非借助FPGA或计算，它只是一个固定管道。而智能网卡不仅拥有智能化功能，还具备内核和灵活性，但它只局限在网络范围内。随着存储和遥测等附加功能的增加，我们有更多机会进行优化，‘智能网卡’一词也不再能准确地描述这些芯片的功能。”

在需求波动的情况下，对于整体业务围绕租赁服务器容量的公司来说，释放通用算力十分重要。在此过程中，为满足某些功能的需求增加而过度配置是一种浪费，而引入更强大的至强处理器则不是非常经济。基于此，客户争相购买Mount Evans IPU库存，以应对上述挑战。

Brad Burres说：“IPU的市场需求非常旺盛。这不仅仅是芯片出货的问题，英特尔必须确保其软件也能够满足客户需求，例如扩展到边缘。它不像至强处理器这样，当我们把至强处理器卖给客户后，客户就会去编写软件。而在IPU的出货中，我们发挥了很重要的作用，并希望确保渐进式的进步。”

5月发布的IPU更新路线图列出了未来四年英特尔IPU，包括第二代Mount Morgan的一些细节。虽然现在还处于早期阶段，但致力于开发Mount Morgan和后续第三代IPU的团队正在与至强产品团队合作，以协调并确保他们沿着各自的路径并行前进，并在必要时汇合。

“前途不可限量。”当被问到IPU的未来发展时，Brad Burres说：“一个新领域的创新率相当高，这也正是它的魅力所在。IPU足够灵活，可以支持更多使用场景。Mount Evans的使用场景就涵盖了网络和基础设施领域，下一步则是存储领域。随后，您会开始看到一些I/O任务向下转移到IPU。创新空间无处不在——而我们正处于冰山一角。”

这种想法可能会让很多人大吃一惊，但工程师更喜欢“初期而有趣”的阶段。因为在这个阶段，“开销任务”（例如排满会议的日程表）被压缩到最低。开发IPU虽然不像周日下午使用射钉枪那么简单，但它比很多人想象的要更容易一些。