IT之家 10 月 18 日消息,英伟达是硬件领域的生成型人工智能之王,该公司的 GPU 为微软、OpenAI 等公司的数据中心提供动力,运行着 Bing Chat、ChatGPT 等人工智能服务。今天,英伟达宣布了一款新的软件工具,旨在提升大型语言模型(LLM)在本地 Windows PC 上的性能。在一篇博客文章中,英伟达宣布了其 TensorRT-LLM 开源库,这个库之前是为数据中心发布的,现在也可以用于 Windows PC。最大的特点是,如果 Windows PC 配备英伟达 GeF
10月10日,AMD宣布签署最终协议收购Nod. ai,以拓展其开源 AI 产品能力。据AMD官网消息,10月10日,AMD宣布签署最终协议收购Nod. ai,以拓展其开源 AI 产品能力。Nod.ai将加速在AMD高性能平台上部署优化的人工智能解决方案,并强化AMD开源软件战略。AMD方表示,收购 Nod.ai 预计将大大增强其为 AI 客户提供开发软件的能力,使客户能够轻松部署针对 AMD 硬件调整的高性能 AI 模型。
IT之家 10 月 11 日消息,郭明錤在今天发布的市场研究简报中认为,以 MI300A 为主,AMD 公司明年 AI 加速卡出货量约为英伟达(基于 CoWoS)的 10%。AMD 明年 AI 加速卡最大的客户是微软,出货量占比超过 50%;其次是亚马逊;另外 Meta 和谷歌两家公司目前正在测试 AMD 的 AI 加速卡,预估 Meta 有极高概率会成为 AMD 的下一个 CSP 客户。IT之家援引郭明錤研报内容,AMD 的 AI 加速卡主要出货对象为云解决方案提供商 (CSP),通常来说 C
这是 AI 硬件军备竞赛的最新转折,Numenta 采用了一种新颖的方法来提高 CPU 性能Numenta 已经证明,通过应用一种新颖的方法,英特尔至强 CPU 在人工智能工作负载上的性能可以远远超过最好的 CPU 和最好的 GPU。据 Serve the Home 称,这家初创公司利用基于这一理念的一系列技术,以 Numenta 智能计算平台 (NuPIC) 为品牌,在人工智能推理方面解锁了传统 CPU 的新性能水平。真正令人惊讶的是,它的性能明显优于专门为处理人工智能推理而设计的 GPU 和 CPU。