专栏中心

EEPW首页 > 专栏 > 人工智能芯片效率大比拼:高通以 2:1 击败英伟达

人工智能芯片效率大比拼:高通以 2:1 击败英伟达

发布人:旺材芯片 时间:2023-04-11 来源:工程师 发布文章

来源: IT之家


IT之家 4 月 9 日消息,人工智能芯片是用于训练和运行人工智能模型的专用硬件,高通公司和英伟达公司是目前两家领先的人工智能芯片制造商,在周三公布的一组新的测试数据中,高通的人工智能芯片在三个衡量电源效率的指标中以 2 比 1 击败了英伟达。

据IT之家了解,人工智能模型需要用大量的数据进行训练,以提高其准确性和性能。训练完成后,人工智能模型就可以用于推理,即执行一些具体的任务,比如根据输入生成文本回复,或者判断一张图片是否包含猫。推理是人工智能技术在产品中广泛应用的环节,但也会增加企业的成本,其中一个主要成本就是电力。

高通公司利用其在为手机等低功耗设备设计芯片的经验,推出了一款专为云端和边缘端提供高性能、低功耗人工智能处理的芯片,名为 Cloud AI 100。该芯片在周三公布的由 MLCommons(一个维护人工智能芯片行业测试标准的工程联盟)发布的测试数据中,在两项功率效率指标上击败了英伟达的旗舰芯片 H100。

功率效率指标是指每瓦特电力可以执行多少次服务器查询。高通的 Cloud AI 100 在图像分类方面达到了 227.4 次查询每瓦特,而英伟达的 H100 只有 108.4 次查询每瓦特,图像分类可以用于识别图片中的物体或场景。高通还在物体检测方面领先于英伟达,分别达到了 3.8 次查询每瓦特和 2.4 次查询每瓦特。物体检测可以用于分析零售店的监控视频,了解顾客最常去哪些地方。

然而,在自然语言处理方面,英伟达却占据了绝对优势,无论是在性能还是功率效率方面都排名第一。自然语言处理是人工智能技术中最广泛应用于聊天机器人等系统的技术,英伟达达到了 10.8 次查询每瓦特,而高通排名第二,为 8.9 次查询每瓦特。

高通和英伟达都希望通过提供高效的人工智能芯片来抢占数据中心市场的份额。随着越来越多的企业将人工智能技术融入他们的产品中,这个市场预计将快速增长。


专栏文章内容及配图由作者撰写发布,仅供工程师学习之用,如有侵权或者其他违规问题,请联系本站处理。 联系我们

关键词: 高通

相关推荐

OpenAI的硬件野心:2028年量产智能手机

高通财报超预期股价大涨 数据中心业务时间表公布

高通、联发科痴迷于缩小与苹果性能差距,中低端芯片又将何去何从

高通平台资料

资源下载 2013-09-13

高通加速6G发展进程,助力领先的网络提供商实现覆盖终端到数据中心的转型

高通或将委托三星2nm代工骁龙 8 Elite 2,与 SK 海力士洽谈内存合作

2nm芯片成本暴涨20%:最贵的安卓芯,最难的旗舰年

高通7X27平台培训总结

资源下载 2013-09-13

人工智能技术大幅提升 6G 网络吞吐量

QCT UMTS Product Roadmaps

资源下载 2013-09-13

罗德与施瓦茨演示FR1–FR3载波聚合技术,推动6G技术发展

博世与高通扩大合作,新增高级驾驶辅助系统技术

高通射频校准

罗德与施瓦茨和KT联合演示AI增强的无线传输性能

更多 培训课堂
更多 焦点
更多 视频

技术专区