AI芯片独角兽最新产品 比英伟达GPU快20倍
综合外媒报导,人工智能(AI)芯片巨头英伟达(Nvidia)的竞争对手、全球最大AI芯片独角兽 Cerebras Systems宣布,推出Cerebras Inference,据称是全世界最快AI解决方案,较英伟达目前这一代GPU快20倍,价格更便宜只有GPU的五分之一。
本文引用地址:https://www.eepw.com.cn/article/202408/462438.htmCerebras的AI推论工具可为大语言模型Llama 3.1 8B,每秒生成1,800个 tokens,比超大规模数据中心的英伟达GPU解决方案快20倍。而且Cerebras价格以每百万tokens收10美分起跳,与英伟达GPU解决方案相比如同九牛一毛。
Cerebras执行长费尔德曼(Andrew Feldman)受访时表示,「我们产品的性能GPU达不到,而且精确度最高,价格最便宜,更透露已经从Nvidia那里抢到有意义的客户。」
Cerebras于2015年创立,曾表明挑战英伟达市场龙头地位,更获ChatGpt开发商OpenAI行政总裁阿尔特曼(Sam Altman)投资。另有消息指出,Cerebras计划最快10月在美国上市。
评论