对于人工智能 (AI) 而言,任何单一硬件或计算组件都无法成为适合各类工作负载的万能解决方案。AI 贯穿从云端到边缘侧的整个现代计算领域,为了满足不同的 AI 用例和需求,一个可以灵活使用 CPU、GPU 和 NPU 等不同计算引擎的异构计算平台必不可少。依托于 Arm CPU 的性能、能效、普及性、易于编程性和灵活性,从小型的嵌入式设备到大型的数据中心,Arm CPU 已经为各种平台上的 AI 加速奠定了基础。就灵活性而言,这对生态系统大有裨益的三个主要原因是,首先, Arm CPU 可以处理
作者:Arm 高级首席工程师 Ed Miller人工智能 (AI) 应用正以前所未见的速度持续增长。有观察家认为 AI 可以解决部分当前人类所面临的严峻挑战。然而,现在却很少有开发者知道如何将 AI 应用在可持续发展上。为了弥合技术差距并支持可持续发展目标,Arm 与 FruitPunch AI 共同赞助了“AI for Bears 挑战”。FruitPunch AI 教导大家如何应用 AI 来解决联合国 17 项可持续发展目标中的实际挑战。由来自全球各地的学员与专家组成 15 到 50 名工程师的团队,
作者:Arm 基础设施事业部软件工程师 Nobel Chowdary Mandepudi生成式人工智能 (AI) 正在科技领域发挥关键作用,许多企业已经开始将大语言模型 (LLM) 集成到云端和边缘侧的应用中。生成式 AI 的引入也使得许多框架和库得以发展。其中,PyTorch 作为热门的深度学习框架尤为突出,许多企业均会选择其作为开发 AI 应用的库。通过部署 Arm Kleidi 技术 ,Arm 正在努力优化 PyTorch,以加速在基于 Arm 架构的处理器上运行 LLM 的性能
近日,全球领先的半导体解决方案供应商 Broadcom 宣布推出其全新开发的 3.5D XDSiP(Extended Data Scaling in Package)技术。这一突破性技术旨在满足快速增长的生成式人工智能(GenAI)硬件需求,通过显著提升芯片性能和效率,为 AI 计算提供更强大的支持。技术亮点:突破传统芯片设计瓶颈3.5D XDSiP 技术利用了台积电(TSMC)的先进制造工艺,通过直接将核心组件整合到一个单一的封装中,大幅提升了芯片的内存容量和整体性能。与传统芯片设计相比,这项技术可在更
对于人工智能 (AI) 而言,任何单一硬件或计算组件都无法成为适合各类工作负载的万能解决方案。AI 贯穿从云端到边缘侧的整个现代计算领域,为了满足不同的 AI 用例和需求,一个可以灵活使用 CPU、GPU 和 NPU 等不同计算引擎的异构计算平台必不可少。依托于 Arm CPU 的性能、能效、普及性、易于编程性和灵活性,从小型的嵌入式设备到大型的数据中心,Arm CPU 已经为各种平台上