在线极限学习机及其在图像识别中的应用

　　摘要：针对海量图像数据的识别问题，本文提出了在线极限学习机(online optimized ELM，OP-ELM)。OP-ELM以单隐层前馈神经网络(single hidden layer feed forward networks，SLFNs)为基础，固定了隐含节点数以及节点参数，在在线增量学习过程中综合考虑历史数据和新数据，产生全局唯一的最优解，降低了计算资源的需求，继承了极限学习机(Extreme Learning Machine，ELM)学习速度快泛化性能好的优点。因此非常适合于海量图像数据的在线学习问题。在公开图像数据集Caltech4和Scene13上的实验表明，本文提出的方法取得了与前沿离线识别方法性能相当的识别效果，与基于SVM的在线学习方法LA-SVM相比，在参数规模、参数调节以及学习算法效率方面具有明显优势。

　　引言

　　随着科学技术尤其是多媒体技术的进步与发展，人们生活中触手可及的图像数据呈现出爆炸式的增长趋势。然而，由于图像底层特征和高层语义之间的语义鸿沟，目前图像内容分析和识别技术的发展远远落后于图像数据的增长速度。面对如此海量的图像数据，现有的图像分类模型和方法在计算效率和泛化能力方面面临严峻挑战。

　　虽然神经网络、支持向量机、核学习等学习已在图像分析领域取得了广泛的应用，但这些方法的训练算法复杂度较大，学习时间过长，并不适合于大型数据集。在单隐层前馈神经网络基础上，我们提出了在线极限学习机(Online Optimized Extreme Learning Machine，OP-ELM)。OP-ELM以单隐层前馈神经网络SLFNs为基础，继承了极限学习机(Extreme Learning Machine，ELM)[3]不需要调整网络的输入权值以及隐元的偏置，学习速度快泛化性能好的优点;另一方面，OP-ELM通过将历史数据知识固化到隐含节点输出矩阵中，降低了计算资源的要求，综合考虑历史数据和新数据，产生全局唯一的最优解。

　　本文后续内容的组织结构如下：第一章介绍图像分类问题中，极限学习机的模型及方法的背景知识;第二章给出本文提出的在线极限学习机模型及训练方法;第三章是实验设定及实验结果分析;第四章对本文进行了小结。