新闻中心

EEPW首页 > 嵌入式系统 > 业界动态 > 800 亿个晶体管!英伟达发布首款基于 Hopper 架构的 GPU — NVIDIA H100

800 亿个晶体管!英伟达发布首款基于 Hopper 架构的 GPU — NVIDIA H100

作者:时间:2022-03-23来源:网易科技收藏

在3月23日举行的GTC 大会上,正式宣布推出采用 NVIDIA 架构的新一代加速计算平台,同时发布其首款基于 架构的 — NVIDIA H100。

本文引用地址:http://www.eepw.com.cn/article/202203/432285.htm


根据介绍,H100 NVIDIA 带来了六项突破性创新:

第一,世界最先进的芯片。表示,H100 由 800 亿个晶体管构建而成,这些晶体管采用了专为 NVIDIA 加速计算需求设计的尖端的 TSMC 4N 工艺。同时,H100 是首款支持 PCIe 5.0 的 ,也是首款采用 HBM3 的 GPU,可实现 3TB/s 的显存带宽。

第二,搭载新的 Transformer 引擎。H100 加速器的 Transformer 引擎旨在不影响精度的情况下,将这些网络的速度提升至上一代的六倍。

第三,第二代安全多实例 GPU 。与上一代产品相比,在云环境中 架构通过为每个 GPU 实例提供安全的多租户配置,将 MIG 的部分能力扩展了 7 倍。

第四,机密计算。H100 是全球首款具有机密计算功能的加速器,可保护 AI 模型和正在处理的客户数据。客户还可以将机密计算应用于医疗健康和金融服务等隐私敏感型行业的联邦学习,也可以应用于共享云基础设施。

第五,第 4 代 NVIDIA NVLink。为加速大型 AI 模型,NVLink 结合全新的外接 NVLink Switch,可将 NVLink 扩展为服务器间的互联网络,最多可以连接多达 256 个 H100 GPU,相较于上一代采用 NVIDIA HDR Quantum InfiniBand网络,带宽高出9倍。

第六,DPX 指令。新的 DPX 指令可加速动态规划,适用于包括路径优化和基因组学在内的一系列算法,与 CPU 和上一代 GPU 相比,其速度提升分别可达 40 倍和 7 倍。

据了解,NVIDIA H100可部署于各种数据中心,包括内部私有云、云、混合云和边缘数据中心。这款产品预计于今年晚些时候全面发售,届时企业可从全球各大云服务提供商和计算机制造商处购买,或者直接从NVIDIA官方渠道购买。NVIDIA 的第四代 DGX 系统 DGX H100 配备 8 块 H100 GPU,以全新的 FP8 精度提供 32 Petaflop 的 AI 性能,并支持扩展,能够满足大型语言模型、推荐系统、医疗健康研究和气候科学的海量计算需求。

英伟达创始人兼 CEO 黄仁勋表示:“数据中心正在转变成‘AI 工厂’。它们处理大量数据,以实现智能。NVIDIA H100 是全球 AI 基础设施的引擎,让企业能够利用其实现自身 AI 业务的加速。”



关键词: 英伟达 Hopper GPU

评论


相关推荐

技术专区

关闭