"); //-->
《Consistent-Teacher: Towards Reducing Inconsistent Pseudo-targets in Semi-supervised Object Detection》是一篇关于半监督目标检测的论文。该论文提出了一种新的方法,称为“Consistent-Teacher”,用于减少伪目标(pseudo-targets),这些伪目标是由于标签的不一致性而引入到训练中的错误对象。
一、总概述
在本研究中,研究者深入研究了半监督目标检测(SSOD)中伪目标的不一致性。核心观察结果是,振荡的伪目标破坏了精确的半监督检测器的训练。它不仅给学生的训练注入了噪声,而且导致了分类任务的严重过拟合。因此,研究者提出了一个系统的解决方案,称为一致教师,以减少不一致。首先,自适应锚分配(ASA)取代了基于静态IoU的策略,使学生网络能够抵抗噪声伪边界盒;然后,通过设计三维特征对齐模块(FAM-3D)来校准子任务预测。它允许每个分类特征在任意尺度和位置自适应地查询回归任务的最优特征向量。最后,高斯混合模型(GMM)动态地修正了伪框的得分阈值,从而稳定了基本事实的数量
二、动机
在这项研究中,研究者指出,半监督检测器的性能仍然在很大程度上受到伪目标不一致性的阻碍。不一致意味着伪框可能非常不准确,并且在训练的不同阶段变化很大。因此,不一致的振荡边界盒(bbox)会使SSOD预测产生累积误差。与半监督分类不同,SSOD有一个额外的步骤,即为每个RoI/锚点分配一组伪框作为密集监督。常见的两级和单级SSOD网络采用静态的锚分配标准,例如IoU分数或中心度。据观察,静态作业对教师预测的边界框中的噪声很敏感,因为假边界框中一个小的扰动可能会极大地影响作业结果。因此,它导致未标记图像上的严重过拟合。为了验证这一现象,在MS-COCO 10%数据的基础上,用基于IoU的标准分配来训练单级探测器。如下图所示,教师输出的微小变化导致伪框边界中的强噪声,导致在基于IoU的静态分配下,错误目标与附近对象相关联。这是因为一些未激活的主播在学生网络中被错误地分配为阳性。因此,网络会过拟合,因为它会为相邻对象生成不一致的标签。在未标记图像的分类损失曲线中也观察到过拟合。不一致是指伪框可能高度不准确,并且在不同的训练阶段差异很大。
(左)比较“Mean-Teacher ”和“Consistent-Teacher”的训练损失。在Mean-Teacher中,不一致的伪目标导致分类分支上的过拟合,而回归损失变得难以收敛。相反,新提出的方法为学生设定了一致的优化目标,有效地平衡了这两项任务并防止了过度拟合。
(右)伪标签和分配动态的快照。绿色和红色的框指的是北极熊的真值和伪值。红点是为伪标签指定的定位框。热图表示教师预测的密集置信度分数(越亮越大)。附近的木板最终在基线中被错误地归类为北极熊,而提出的自适应分配防止了过度拟合。
三、实验及结果
研究者的工作解决了SSOD的不一致问题。以下是训练过程中不同时间步长的一些样本检测结果:Red: False Positive; Blue: True Postive; Green: Ground-truth
Mean-Teacher
Consistent-Teacher
Mean-Teacher
Consistent-Teacher
专栏文章内容及配图由作者撰写发布,仅供工程师学习之用,如有侵权或者其他违规问题,请联系本站处理。 联系我们
相关推荐
尼吉康的事业介绍
AI聊天机器人能像医生一样推理吗?
释说芯语16:硬科技:构建企业未来之路(附PPT)
AI/HPC新世代 COUPE光互连扮要角
WTC-AI太阳能热水器电路图
被动元件新周期:AI时代高端化、服务器化重构MLCC产业格局
存储器转型AI战略资源 台厂受惠
前Qwen负责人林俊旸创业,目标融资规模为数亿美元
国家“算力网”:像用水用电一样用AI
CSR8670CSR8675智能语音Alexa蓝牙方案开发
基于Microchip MCU的AI/ML培训教程3
基于VisitionX制造智能眼镜
EEPW2018年3月刊(工业物联网)
海联达(Aigale)Ai-HD1 无线全高清套件拆解
万家乐JSYZ5-AI燃气热水器电路图
基于Ai-WB2-12F与Rd-04的雷达检测系统
基于Microchip MCU的AI/ML培训教程2
EEPW2018年6月刊(5G)
基于Microchip MCU的AI/ML培训教程1
电子元件培训教材
PowiGaN for AI Data Centers: Unmatched Power Density and Reliability
人工智能是如何帮助阻止造假者的?
联发科加速AI在地化应用布局
WTC-AI型太阳能热水器电路图
思科凭借通用商用芯片与光模块赢得 AI 领域客户
继上次海联达Ai-ap100拆机之电源改造
重新构想AI电源:塑造AI加速的未来(第三部分)
研华科技与Axelera AI深化战略合作 加速推动基于Europa平台的边缘AI创新
瑞萨电子AI单元解决方案成功提高GE医疗(日本)日野工厂的生产力
iCAN-4017 AI功能模块