不用写程序也能轻松上手─DL Workbench图形化接口工具(上)
看过或玩过「神奇宝贝(宝可梦)」的朋友都知道,训练家们要根据怪兽的属性(火系、草系、电系等)给予适当的培训,再挑选合适的对象及不断的对战磨炼才能有好的战斗表现。同样地,AI模型训练师也是如此,依据不同的应用场景(图像分类、对象检测、图像分割等),挑选适合在指定的硬件(CPU,GPU,VPU,FPGA等)上推理的模型,并反复调整合适的超参数,如此才能有好的成果。
由于这样的调参工作需要耗费大量的时间及精力才能完成,传统上只靠一堆数字报表来分析调整方向,所以非常仰赖专业工程师的能力才能完成。因此Intel OpenVINO Toolkit(以下简称OpenVINO)在2019 R3版之后提供了一项非常方便的网页式图形化接口工具「DL Workbench」(Deep Learning Works Benchmark),让不会写程序、非专业的工程师也能轻
易上手进行模型选用、下载、校正、参数调整、效能比较、瓶颈分析、优化及打包部署到目标硬件平台上。
接下来就从“如何安装DL Workbench”、“DL Workbench工作流程”进行简单说明,最后再以“实际案例操作:SSD对象检测”完整说明AI模型的分析、优化及部署的步骤。
*如何安装DL Workbench
目前OpenVINO提供多种安装方式,其中最简单的方式就是直接到Docker Hub下载(Pull)映像(Images)。如果还不熟悉如何使用Docker安装歩骤的朋友,可以参考“‘Intel OpenVINO教学’如何利用Docker快速构建OpenVINO开发环境”[1]。当然如果想直接在命令行下安装DL Workbench的朋友也可参考官网说明[2]。不过这里提醒一下,DL Workbench只有在Linux(Ubuntu 18.04/20.04)Docker环境下才能完整使用Intel系列的CPU,iGPU,Myriad(NCS2),HDDL(VPU)等硬件,而在Windows和macOS使用Docker的朋友则只能使用CPU。以下说明皆以Linux环境做为说明。
如果使用Docker安装,只需按照下列指令操作即可完成安装。接着启动DL Workbench工作环境,启动时可根据不同需求加上-ENABLE_GPU或-ENABLE_MYRIAD或-ENABLE_HDDL指令来增加硬件推理能力,如Fig.1所示。
推理
#从Docker Hub下载DL Workbench映像
docker pull openvino/workbench:latest
#下载完成后,检查可工作映像
docker images
#第一次启动须先下载批处理文件start_workbench.sh,并增加批处理文件
可执行权限,第二次启动时就不须执这两条命令
wget
https://raw.githubusercontent.com/openvinotoolkit/workbench_aux/master/start_workbench.shsudo chmod+x start_workbench.sh
#启动DL Workbench CPU工作环境,如果已经安装好对应的驱动程序,则
另可选择性加上-ENABLE_XXX参数增加硬件推理能力(XXX分别对应Intel
GPU,Neural Compute Stick 2单颗VPU,多颗Movidius VPU)
./start_workbench.sh-IMAGE_NAME openvino/workbench-TAG latest[-
ENABLE_GPU][-ENABLE_MYRIAD][-ENABLE_HDDL]
启动后,会出现Login token(一长串数字可先复制起来备用)及一个本地端网址(http://127.0.0.1:5665/?token=xxxxxx),接着将鼠标移至网址处按下左键,点选打开链接(Open Link),或者直接复制这一长串网址贴到浏览器上,即可进入DL Workbench网页式操作画面,如Fig.2步骤4所示。若想结束DL Workbench,除了关闭网页外,还要回到终端按下[Ctrl+C]回到普通命令行状态。
Fig.1终端命令行成功启动DL Workbench界面。(OmniXRI Mar.2021整理制作)
如果下次想快速启动DL Workbench,可不用执行上面的操作,直接开启网页,输入网址http://127.0.0.1:5665,界面会出现要求输入Login Token,此时再将刚才的token贴上,按下“Start”便可直接启动。最后按下网页左上角“Create”创建新的工作配置就可以开始测试了,如Fig.2所示。
Fig.2快速启动DL Workbench网页操作步骤。(OmniXRI Mar.2021整理制作)
评论