华为ModelEngine支持DeepSeek全系列本地部署
2月7日消息,日前,华为技术有限公司宣布,华为DCS AI全栈解决方案中的重要产品ModelEngine AI平台,全面支持DeepSeek大模型R1&V3和蒸馏系列模型的本地部署与优化,加速客户AI应用快速落地。
本文引用地址:https://www.eepw.com.cn/article/202502/466682.htm此次 ModelEngine 基于昇腾AI芯片,通过推理框架优化和MoE存算协同,提供动态换入换出和全局统一缓存,实现推理高并发和低时延,用户通过ModelEngine体验DeepSeek的推理能力。
另外,华为官方表示,DCS AI全栈解决方案近期将上线DeepSeek体验环境。
评论