Arm平台成功适配阿里开源模型Qwen3
近日,阿里巴巴开源了新一代通义千问模型Qwen3,Arm成为首批适配该模型的计算平台厂商。双方的合作不仅推动了AI技术在端侧设备上的应用,还为开发者提供了更高效的解决方案。
本文引用地址:https://www.eepw.com.cn/article/202505/470308.htm
据官方消息,Arm面向AI框架开发者的开源计算内核KleidiAI已与阿里巴巴的轻量级深度学习框架MNN深度集成。得益于此,Qwen3系列中的三款模型(Qwen3-0.6B、Qwen3-1.7B及Qwen3-4B)能够在搭载Arm架构CPU的移动设备上无缝运行,展现出卓越的端侧AI推理能力。
作为阿里巴巴最新发布的混合推理模型,Qwen3在AIME、LiveCodeBench等权威评测中表现出色,成为同尺寸开源模型中的领先者。其中,Qwen3-0.6B、Qwen3-1.7B和Qwen3-4B三款模型以低功耗和高性能的优势,特别适合在移动端部署。
为满足AI模型快速迭代的需求,Arm提供了具备可扩展性的通用技术底座,帮助开发者高效利用新模型的优势。其CPU架构以卓越的性能、能效和灵活性著称,不仅能快速适配新模型,还能通过异构计算策略与GPU、加速器等技术协作,实现AI系统的最佳优化。测试结果显示,Qwen3系列模型在基于Arm架构CPU的设备上运行时,响应速度和推理能力均有显著提升。
评论