论文部分内容阅读
模式分类和聚类问题是大数据分析、人工智能时代的热点研究内容之一,在智能交通、智慧城市、机器人、遥感信息等众多领域具有广泛的应用前景。虽然清晰数据源环境下的分类聚类问题已经得到了有效地解决,然而在实际问题中,维数灾难、复合噪声、多源交叉等负面因素对相应的分类聚类模型提出了更具挑战性的要求。特别是在图像分析领域,其高性能要求,易受噪本质、实时反馈性以及安全可靠性等问题或属性都有待进一步解决或提升。
以卷积神经网络和对抗生成型网络为典型代表的深度学习框架是目前模式分类聚类问题的热门应用算法,然而其需要百万级训练样本量以获得令人满意的性能指标,在小样本应用环境中并不适合。尤其在复合噪声干扰问题或样本大范围信息缺失情形下,深度学习的鲁棒性和实用性能并不可靠。因此,本文针对图像分类领域中的典型应用如人脸识别、样本分簇等,从数据分布属性和本质特点出发,以不同范数正则项约束为基础,构建表示型分类聚类算法以适应小样本混合噪声干扰问题,具体工作包含以下两个方面:
(1)针对表示型分类问题。现存算法或以向量稀疏性操作应对非连续型像素噪声,或以矩阵低秩性操作应对结构化块状遮挡,两者都缺乏对混合噪声可能造成影响考虑。针对该问题,本文提出加权混合范数约束,在理论支撑和具体实现中拥有两大优势。首先,所提混合范数将潜在的误差分布泛化至联合的特征加权损失函数,具有自适应性和一致性;其次,对残差图像进行非凸低秩约束,具有本质秩挖掘能力并可兼顾应对连续型和非连续型数据噪声。为有效求解目标模型,设计了重加权交替方向乘子法进行模型拆分优化,并针对所有子优化问题进行了解析解形式推演,以保证整体优化效率。通过多个公开人脸数据集验证了所提算法具有良好的效率和效果平衡性。对比纯粹的向量型算法,所提算法具有10%的识别率提升并节省了近70%的运行时间。对比纯粹的矩阵型算法,所提算法在消耗有限多的运行时间前提下能获得超过20%的识别率提升。
(2)针对表示型聚类问题。现存经典算法如低秩表示聚类模型存在先验误差类型难以确定以及核范数低秩约束的次优性等缺陷。针对所述问题,提出了一种双加权低秩表示型聚类算法,对目标表示矩阵添加了两个明确的属性约束。首先,分析了不同范数约束的噪声分布类型,引入特征权值矩阵抑制复杂的多元噪声元素;其次,采用参数化的Rational惩罚函数及加权因子揭示不同秩成分的贡献度。为联合优化双权值变量以及重构表示系数矩阵,采用并行更新规则和自动收缩算子进行迭代操作,并分析了模型部分参数的自适应调整策略以及非凸约束下的目标函数凸化条件,保证算法具有全局唯一的优化解。在不同的图像数据集中验证了所提算法在鲁棒性和运行效率中优于现存最先进的代表模型。
以卷积神经网络和对抗生成型网络为典型代表的深度学习框架是目前模式分类聚类问题的热门应用算法,然而其需要百万级训练样本量以获得令人满意的性能指标,在小样本应用环境中并不适合。尤其在复合噪声干扰问题或样本大范围信息缺失情形下,深度学习的鲁棒性和实用性能并不可靠。因此,本文针对图像分类领域中的典型应用如人脸识别、样本分簇等,从数据分布属性和本质特点出发,以不同范数正则项约束为基础,构建表示型分类聚类算法以适应小样本混合噪声干扰问题,具体工作包含以下两个方面:
(1)针对表示型分类问题。现存算法或以向量稀疏性操作应对非连续型像素噪声,或以矩阵低秩性操作应对结构化块状遮挡,两者都缺乏对混合噪声可能造成影响考虑。针对该问题,本文提出加权混合范数约束,在理论支撑和具体实现中拥有两大优势。首先,所提混合范数将潜在的误差分布泛化至联合的特征加权损失函数,具有自适应性和一致性;其次,对残差图像进行非凸低秩约束,具有本质秩挖掘能力并可兼顾应对连续型和非连续型数据噪声。为有效求解目标模型,设计了重加权交替方向乘子法进行模型拆分优化,并针对所有子优化问题进行了解析解形式推演,以保证整体优化效率。通过多个公开人脸数据集验证了所提算法具有良好的效率和效果平衡性。对比纯粹的向量型算法,所提算法具有10%的识别率提升并节省了近70%的运行时间。对比纯粹的矩阵型算法,所提算法在消耗有限多的运行时间前提下能获得超过20%的识别率提升。
(2)针对表示型聚类问题。现存经典算法如低秩表示聚类模型存在先验误差类型难以确定以及核范数低秩约束的次优性等缺陷。针对所述问题,提出了一种双加权低秩表示型聚类算法,对目标表示矩阵添加了两个明确的属性约束。首先,分析了不同范数约束的噪声分布类型,引入特征权值矩阵抑制复杂的多元噪声元素;其次,采用参数化的Rational惩罚函数及加权因子揭示不同秩成分的贡献度。为联合优化双权值变量以及重构表示系数矩阵,采用并行更新规则和自动收缩算子进行迭代操作,并分析了模型部分参数的自适应调整策略以及非凸约束下的目标函数凸化条件,保证算法具有全局唯一的优化解。在不同的图像数据集中验证了所提算法在鲁棒性和运行效率中优于现存最先进的代表模型。