"); //-->
导读:近日据CNBC报道,由于ChatGPT等语言模型火爆,英伟达最先进的H100在eBay上的单片售价超过了4万美元,而此前零售商的售价约为3.6万美元。
图:英伟达H100计算卡
H100是NVIDIA在2022年发布的旗舰AI芯片,取代了一直被称为AI应用“主力军”的芯片A100,与A100相比,H100的能效提高了3.5倍,价格也从1万美元上涨到超过3万美元。
NVIDIA黄仁勋曾经表示,20块H100 GPU就可承托全球互联网的流量。
芯片大师曾报道ChatGPT等火爆,英伟达增加A100等旗舰GPU投片,开发人员正在使用H100来构建所谓的大型语言模型(LLMs)。
据报道,特斯拉CEO埃隆·马斯克在美国内华达州成立了一家名为X.AI的人工智能公司,旨在与Open AI展开竞争。据说马斯克为了新项目已经从NVIDIA购买了数千颗高性能GPU。
图:单价被炒到4万美元的H100
3D游戏先驱、前Meta consulting技术主管约翰·卡马克在Twitter上提到英伟达H100的涨价,上周五,至少有8个H100在eBay挂牌出售,价格从39995美元到46000美元不等。
而训练一个AI语言模型,尤其是像GPT这样的大型模型,需要数百个高端GPU协同工作。比如微软就斥资数亿美元购买了数万颗Nvidia A100芯片,帮助打造ChatGPT。
根据最近的爆料,为了创建和维持ChatGPT所需的人工智能分析数据的庞大数据库,开发商OpenAI使用了10000个英伟达的GPU进行相关的训练。而为了支持实际应用,满足服务器的需求,OpenAI已使用了约2.5万个英伟达的GPU,随着需求的增加未来预计还会增加。
图:售价数百万的英伟达DGX
此外,Nvidia还提供了一台带有八颗GPU的超级计算机,称为DGX。年初英伟达宣布推出新服务,允许公司以每月37,000美元的价格租用DGX——该系统将使用Nvidia A100芯片。如果要购买,不同配置的DGX售价将高达数百万元。
行业专家表示,要构建比目前可用的模型更大、数据需求量更大的模型,将需要更强大的芯片。
同时,由于当前AI算力稀缺,高端GPU的价格和行情仍将上涨。
专栏文章内容及配图由作者撰写发布,仅供工程师学习之用,如有侵权或者其他违规问题,请联系本站处理。 联系我们
相关推荐
预测:全球通信芯片市场2003年将反弹
Q1服务器CPU均价大涨27% 英特尔被曝出售原本将报废的芯片
纳芯微推出 NSUC1527 氛围灯驱动芯片 赋能智能座舱区域化动态光效
中微半导:发布自研32M bit SPI NOR Flash芯片
Dallas实时时钟(RTC)芯片DS1306硬件手册
基于D类功放专用驱动芯片驱动的高保真纯正弦波逆变器
am29lv160db芯片烧写/擦除判断位d7不够可靠?!
数据中心与消费电子芯片拉动台积电一季度营收增长
下一代先进封装的关键抉择
芯片比豪车保值? 专家揭硅谷暴利内幕「价格涨疯了」
DS2413 1-Wire 双通道寻址开关
基于D类功放专用驱动芯片驱动的高保真纯正弦波逆变器1
ep7312芯片原理及应用
保证航天飞机起飞 NASA到处寻找8086芯片
经验点滴之二:烧写器PICKIT
苹果A20芯片大概率无缘WMCM 封装技术
可编程快速充电管理芯片MAX712/ MAX713电路
Arm遭遇监管危机:FTC针对其技术授权启动反垄断调查
s3c4510 芯片手册
芯海科技锂离子电池系统的BMS芯片CBM9680
华为麒麟9030S芯片首发
【圣邦微电子】SGM37460Q
用MAX610系列AC/DC芯片构成的小功率无变压器稳压电源
先进的锂电池线性充电管理芯片BQ2057充电电路
[原创]集成光学/IC模块 -- 将系统级芯片提高到新水平
KS8999 以太网络交换机芯片