随着人工智能 (AI) 技术的迅猛发展,云计算领域正在经历显著变革。愈发复杂的 AI 应用对计算解决方案的性能、效率和成本效益提出了更高要求。在云端部署工作负载的客户正在重新评估其所需的基础设施,以满足现代工作负载需求,其中不仅包括提高性能和降低成本,还涵盖了需符合监管要求或可持续发展目标的新能效基准。Arm 与亚马逊云科技 (AWS) 长期合作,为实现性能更强劲、更高效和可持续的云计算提供专用芯片和计算技术。在近期举行的 A
对于人工智能 (AI) 而言,任何单一硬件或计算组件都无法成为适合各类工作负载的万能解决方案。AI 贯穿从云端到边缘侧的整个现代计算领域,为了满足不同的 AI 用例和需求,一个可以灵活使用 CPU、GPU 和 NPU 等不同计算引擎的异构计算平台必不可少。依托于 Arm CPU 的性能、能效、普及性、易于编程性和灵活性,从小型的嵌入式设备到大型的数据中心,Arm CPU 已经为各种平台上的 AI 加速奠定了基础。就灵活性而言,这对生态系统大有裨益的三个主要原因是,首先, Arm CPU 可以处理
作者:Arm 高级首席工程师 Ed Miller人工智能 (AI) 应用正以前所未见的速度持续增长。有观察家认为 AI 可以解决部分当前人类所面临的严峻挑战。然而,现在却很少有开发者知道如何将 AI 应用在可持续发展上。为了弥合技术差距并支持可持续发展目标,Arm 与 FruitPunch AI 共同赞助了“AI for Bears 挑战”。FruitPunch AI 教导大家如何应用 AI 来解决联合国 17 项可持续发展目标中的实际挑战。由来自全球各地的学员与专家组成 15 到 50 名工程师的团队,
作者:Arm 基础设施事业部软件工程师 Nobel Chowdary Mandepudi生成式人工智能 (AI) 正在科技领域发挥关键作用,许多企业已经开始将大语言模型 (LLM) 集成到云端和边缘侧的应用中。生成式 AI 的引入也使得许多框架和库得以发展。其中,PyTorch 作为热门的深度学习框架尤为突出,许多企业均会选择其作为开发 AI 应用的库。通过部署 Arm Kleidi 技术 ,Arm 正在努力优化 PyTorch,以加速在基于 Arm 架构的处理器上运行 LLM 的性能
对于人工智能 (AI) 而言,任何单一硬件或计算组件都无法成为适合各类工作负载的万能解决方案。AI 贯穿从云端到边缘侧的整个现代计算领域,为了满足不同的 AI 用例和需求,一个可以灵活使用 CPU、GPU 和 NPU 等不同计算引擎的异构计算平台必不可少。依托于 Arm CPU 的性能、能效、普及性、易于编程性和灵活性,从小型的嵌入式设备到大型的数据中心,Arm CPU 已经为各种平台上
人工智能 (AI)、云计算和边缘计算等技术的发展正推动着各行各业的创新升级,这一过程也伴随着对计算资源需求的急剧增加,引发能源消耗和环境影响的新挑战。如数据中心领域,服务器、存储设备和网络设备等在执行 AI 训练和推理任务时需要消耗大量电力。又如智能终端领域,随着 AI 手机、AI PC 等设备中大模型的部署和应用,这些设备的能耗也随之上升。以数据中心为例,根据国际能源署 (IEA) 的预测,随着全球对互联网服务和 AI 需求的不断增加,支撑这些服务运行的全球数据中心的耗电量正逐年上升,预计将在未来四年内