新闻中心

EEPW首页 > 智能计算 > 业界动态 > 生成式AI新助力:IBM 携手 AMD 明年部署推出 MI300X 加速器服务

生成式AI新助力:IBM 携手 AMD 明年部署推出 MI300X 加速器服务

作者: 时间:2024-11-19 来源:IT之家 收藏

11 月 19 日消息, 公司昨日(11 月 18 日)发布公告,宣布和 公司达成合作,计划在 Cloud 上部署 Instinct™ 加速器服务(accelerators as a service)。

本文引用地址:https://www.eepw.com.cn/article/202411/464708.htm

此项服务预计将在 2025 年上半年推出,目标是提升企业客户在 模型和高性能计算(HPC)应用中的性能和能效。

表示通过此合作,其 watsonx 与数据平台,以及 Red Hat Enterprise Linux(RHEL 发行版)的 推理支持也整合 加速器。

IBM Cloud 将提供 Instinct 加速器,以支持企业客户处理计算密集型工作负载。

IT之家援引新闻稿,MI300X 加速器配备 192GB 高带宽内存(HBM3),能够支持大型模型的推理和微调,帮助客户以更少的 GPU 运行更大的模型,降低推理成本。

此外双方将利用 IBM Cloud 的安全性与合规性能力,以支持各行业的企业客户,尤其是那些受到严格监管的企业。



关键词: 生成式 AI IBM AMD MI300X

评论


相关推荐

技术专区

关闭