新闻中心

EEPW首页 > 嵌入式系统 > 编辑观点 > 盘点在使用openvino过程中遇到的一些问题,如何解决的-第1篇

盘点在使用openvino过程中遇到的一些问题,如何解决的-第1篇

—— 在使用openvino中遇到的一些问题
作者:时间:2022-03-29来源:EEPW收藏

1. 问题:跑前向推断的时候都没有报错,跑到这一步ie_exec_network_create_infer_request(exe_network, &infer_request);的时候,也不报错,也没有log,直接就退出了,可能是什么原因?

本文引用地址:http://www.eepw.com.cn/article/202203/432548.htm

建议:在推理的输入阶段报错的话,建议查看是否是环境没有配置好,导致IEplugin加载失败?或者推理硬件比如cpu没有指定?

2. 问题:不知道infer_request->Infer();这一步为啥执行这么久

1648524686477217.png

onnx用yolov5自带的detect检测0.1s,转了IR后用C++ 推理就3s多了

建议:有可能是模型转换过程中层的问题,可以用直接推理onnx来对比下推理延迟

回复:和IR文件的推理差别大不大

回复:还是不太熟vino的api,C++推理自己的模型写起来很吃力

3. 问题:检测框很多可能是啥原因啊

1648524813326388.png

建议:你的blob输出有问题,是人脸检测吗?你查看下代码,检测到再绘矩形框

回复:不是人脸,就是简单的5分类目标检测
       结论:我看了blob,和yolo预训练的还真不一样,yolov5s的blob

1648524918196605.jpg


我自己的模型

1648524977431833.jpg

4. 问题:请教个大家个问题,使用opencv模板匹配( matchTemplate)除了肉眼看有匹配上,还有没有别的方式来判断匹配上还是没有匹配上,需要一个返回值

建议:printf大法

5. 问题:这两天被openvino折磨的不行了

答:是安装吗

回复:不是,主要还是model optimizer, 经常导出错误, 还有推理的时候的设置, 目前在11代nuc上, 部署yolov5s,帧率在70-50浮动,也不知道怎么稳定

答:你做边缘计算用nuc吗

为了兼容其他环境,英伟达那套cpu确实不够用, 包也少

nuc拿来搞这个真的性价比真的一言难尽

回复:确实,核显也就那样

6. 问题:amd cpu 能用OpenVINO吗?

答:其实openvino可以用,但是加速没那么明显,我5800h推理yolov5s用openvino感觉只有20fps不到,i7 1165g7却有30fps

答:cpu amd核显性能其实很好的,但是没有配套软件,真要cpu,建议试试tf

答:openvino基于oneapi,oneapi是intel自己的硬件统一平台,所以使用intel硬件能带来不小的性能提升

答:据说现在都是建议amd处理器配nv的ai单元或xilinx fpga,让这两个跑ai去,amd适配ai软件还有些不足

7. 问题:有人遇到过这个问题吗?

1648525155758304.png

答:我遇过,后面降版本就没报错了

8. 问题:我把这个代码在ubuntu下和win下跑,win下耗时比ubuntu多得多,这是为什么?操作系统不一样也有差异吗

同一台电脑装的双系统

1648525218107609.jpg

1648525218632921.jpg

答:有一台没有用核显

9. 问题:运行demo_security_barrier_camera demo的时候报错 CMake Error: Could not create named generator Visual Studio,有知道怎么解决的吗,网上搜了一下修改bat路径,但是没有解决

1648525273142263.png

建议:如果别的demo也无法正常运行的话,问题可能出在你的配置环境有问题,https://www.bilibili.com/video/BV1Wy4y1m7wg?spm_id_from=333.999.0.0,这是Dylan录制的windows系统openvino安装教程,可以看看哪一步出错了

10. 问题:我这里按照官方文档安装工具包,到这一步并没有文档里的目录路径。是我安装少了什么吗?我最终的目的就是想用download.py下载一些模型用,不用来开发,只下载模型跑自己的性能测试

1648525323529347.png

建议:出现这个问题,应该是安装没成功。建议删除opt里边的ov相关目录,重新安装试试

11. 问题:请问有人知道程序卡在LoadNetwork是什么原因吗

1648530520113963.jpg

建议:Openvino的demo执行推理可以运行成功吗?如果可以说明环境配置是没有问题的,问题可能出在你的代码上,建议先排查一下这个,定位一下问题

1648530583100874.jpg

12. 问题:openvino能直接下载onnx模型吗

建议:可以的。你可以在github或者gitee搜索openvino仓库,找到open-model-zoo,然后下来该源码,就可以执行相关操作了

13. 问题:我这Release缺少几个lib,网上没找到解决方案,你们可以发一下lib文件吗

1648530643219662.png

建议:去官网下载

14. 问题:请问 open-model中的模型文件要怎么调用啊,要转换为IR模型才可以吗?
建议:是的,要转换为IR文件才能使用,转换也比较简单。

1648530686950150.jpg

这样就可以完成转换

回复:谢谢,我大致明白了。先要把模型文件下载下来,下载后可以直接用。测试了它自己带的语音识别的例子,C++的可以,PYTHON的用的时候,老是说ASR启动有问题。可能PYTHON解析DLL的时候有问题,但路径啥的都是对的。可能是缺DLL依赖的别的动态库

15. 问题:推理报错,什么原因?

1648530723772420.png

建议:看报错应该是opencv的环境有问题,检查一下环境,openvino自带的demo可以运行吗?

16. 问题:那个 openvino的项目编译完,exe和部署脚本生成的文件搬到另一台没装框架的windows电脑,有办法调用集显加速吗
建议:环境迁移的话理论上如果你把所有的编译生成的相关动态文件都拷贝过去是可以的。不过你如果不太清楚环境配置的话,是比较复杂的。建议你可以采取一个更方便安全的方式,就是使用openvino的container版本,这样可以不同机器上无缝迁移。

17. 问题:我在使用openvino+c++部署onnx时,release能编译通过且能运行,在debug下编译不能通过,有遇到同样问题的吗?

1648530768930111.jpg

建议:可能是ov环境变量初始化的问题,建议你查看下openvino的自带的build脚本,看它怎么写的

18. 问题:win10环境下安装好CUDA,环境也配置好了,命令行输入nvcc -V,结果输出nvcc不是内部或外部命令,有没有大佬知道该怎么解决吗?

建议:其实CUDA不算openvino的问题。如果环境配置确定没问题,重启一下应该就可以了。windows一般都需要重启才能加载到环境。



关键词: openvino

评论


相关推荐

技术专区

关闭