随着人工智能和大数据时代的到来，传统嵌入式处理器中的CPU和GPU逐渐无法满足日益增长的深度学习需求。为了应对这一挑战，在一些高端处理器中，NPU（神经网络处理单元）也被集成到了处理器里。NPU的出现不仅减轻了CPU和GPU的负担，还让复杂的计算任务得以高效处理。在典型的工作流中，CPU会首先接收任务，并根据任务的性质将其分配给合适的处理单元，图像处理任务由GPU处理，而人工智能相关任务则交给NPU。

应用领域
图像识别: NPU能够迅速对图像进行分类、检测和分割等操作，大大提升了处理效率。
语音识别: NPU实现了实时语音转换和语音合成功能，为语音交互提供了更自然的体验。
自然语言处理: NPU帮助机器完成更高效的翻译、文本分类和情感分析，推动了自然语言处理技术的发展。

实例分享：Yolov5分类检测
在RK3588处理器上，不仅可以基于Linux系统使用NPU，也可以基于Android系统使用NPU，基于Linux使用NPU已经多次与大家分享过就不在赘述。
在 Android平台上，可以通过两种方式调用RKNN API：直接链接librknnrt.so或链接基于Android平台HIDL实现的librknn_api_android.so。对于需要通过CTS/VTS测试的设备，建议使用后者，而对于不需要测试的设备，直接链接librknnrt.so可以提供更好的性能。
在开发板网盘资料中提供了Yolov5分类检测的示例—rknn_yolov5_android_apk_demo（基于瑞芯微官方demo修改）

⑵ 例程测试
启动 Android Studio，打开rknn_yolov5_android_apk_demo应用工程文件夹进行编译，编译成功后，选择iTOP-RK3588设备并运行应用程序

当APP运行时，您会在迅为iTOP-RK3588开发板外接的MIPI屏幕上看到应用界面。在1280*800的预览分辨率下，应用程序能够达到约15FPS的运行速度，表现令人满意。

■ 视频教程
https://b23.tv/7IEvdpb
https://b23.tv/hDA4V7k
https://b23.tv/0DY9Hmk
https://b23.tv/i6JkT5S
■ 手册资料
【北京迅为】itop-3588开发板NPU例程测试手册
【北京迅为】itop-3588开发板NPU使用手册

专栏文章内容及配图由作者撰写发布，仅供工程师学习之用，如有侵权或者其他违规问题，请联系本站处理。 联系我们