芯原股份近日宣布与谷歌联合推出面向端侧大语言模型应用的Coral NPU IP。该IP基于谷歌在开放机器学习编译器方面的基础研究成果，并结合AI的安全特性进行了强化，为开发者提供统一的开源技术平台，以构建强大的边缘AI生态系统。

Coral NPU基于RISC-V开放指令集架构标准构建，引入原生张量处理能力，支持主流机器学习框架，如JAX、PyTorch和TensorFlow Lite（TFLite），并采用基于开放标准的工具，例如来自低级虚拟机（LLVM）项目的多级中间表示（MLIR），作为编译器基础设施。其设计面向超低功耗、始终在线的边缘AI应用，尤其适用于可穿戴设备和泛在感知系统。

Coral NPU IP已在谷歌开发者网站开源，面向全球开发者开放。芯原将提供商业化的企业级IP版本，并结合自身丰富的IP储备以及芯片设计与验证能力，为客户的相关芯片提供一站式芯片定制等服务。目前，芯原正在开发基于Coral NPU IP的验证芯片，面向AI/AR眼镜与智能家居等应用，以加速大语言模型在边缘端的部署。

芯原执行副总裁，定制芯片平台事业部总经理汪志伟表示：“此次项目基于我们在Open Se Cura开源项目上的既有经验，也标志着谷歌开源技术与芯原在芯片设计和产业化支持上的持续深度合作。芯原将继续发挥在芯片设计、验证及系统级优化方面的优势，推动边缘AI生态建设，助力开源技术在实际终端产品中的落地应用，并为行业创新提供有力支持。”

专栏文章内容及配图由作者撰写发布，仅供工程师学习之用，如有侵权或者其他违规问题，请联系本站处理。 联系我们