【摘 要】
：
具有线性约束和可分结构的凸优化模型在半定规划、图像处理、压缩感知、机器学习等领域应用广泛.如何充分利用问题的可分结构,设计有效且收敛的求解算法是最优化领域的一个热门课题.交替方向乘子法（ADMM）由于简单、易于实现以及适用范围广等优点成为应用最广泛的算法之一,并由此掀起了研究一阶分布式算法的热潮.本文针对三种不同结构的可分凸优化问题,基于ADMM和算子分裂算法基本框架设计一阶算法,并系统研究它们的
论文部分内容阅读
具有线性约束和可分结构的凸优化模型在半定规划、图像处理、压缩感知、机器学习等领域应用广泛.如何充分利用问题的可分结构,设计有效且收敛的求解算法是最优化领域的一个热门课题.交替方向乘子法（ADMM）由于简单、易于实现以及适用范围广等优点成为应用最广泛的算法之一,并由此掀起了研究一阶分布式算法的热潮.本文针对三种不同结构的可分凸优化问题,基于ADMM和算子分裂算法基本框架设计一阶算法,并系统研究它们的收敛性、复杂度和数值效率.针对二次半定规划问题提出了一种修正ADMM,求解其具有3分块可分结构的对偶问题.该算法每一次迭代不需要求解二次分块对应的子问题,相比已有的3分块ADMM既节省存储空间又降低了迭代复杂度.通过对偶理论,证明了该修正ADMM的本质是将Davis和Yin提出的three-operator分裂算法应用到原问题.针对具有特殊结构的二次半定规划――H权重最近相关系数矩阵问题,获得了直接推广的3分块ADMM收敛的充分初始条件.最后利用对偶理论平衡原问题和对偶问题误差,设计了自适应动态调节罚参数系统,以获得更好的数值效果.针对含有二次或者线性目标函数的多分块可分问题,基于求解变分不等式的预测-校正框架提出了一种收敛的预测-校正ADMM,并研究了收敛性.在预测步采用对称Gauss-Seidel更新方式产生预测点,然后利用预测点和上一迭代点的线性组合设计具有低复杂度的校正步,以保证算法的收敛性.在至少有一个线性约束的系数矩阵是可逆的情况下,证明了该算法不需要校正步也具有收敛性.应用到图像纹理动画分解问题的数值实验验证了算法的有效性.针对一般的多分块可分问题,通过添加不定临近项线性化子问题的二次项,提出了不定临近线性化对称ADMM.该方法将问题的数据变量分为两组,每次迭代结合使用Gauss-Seidel和Jacobian更新策略,组间变量采用Gauss-Seidel更新方式,而组内变量以Jacobian方式更新,这样的更新对求解大数据问题更有吸引力.通过预测-校正框架研究了临近参数、步长和分块数之间的关系以保证算法的收敛性,并获得了最优临近参数取值.数值仿真实验结果表明,求解统计学习中的拉索回归（LASSO）和稀疏逆协方差估计问题,不定临近线性化ADMM优于已有的一些成熟算法.
其他文献
作为脉冲星观测、星际分子谱线研究等天文活动的研究工具,射电望远镜对其系统中反射面天线的性能需求与日俱增。在新疆奇台县110 m大口径全可动射电望远镜（Qi Tai Telescope,QTT）的建设需求背景下,本文以实现宽带、高口径效率以及高品质因数G/Tsys值的反射面天线设计为目标,从宽带高性能喇叭馈源技术出发,围绕对称主焦式与标准格里高利反射面系统的馈源设计问题,针对最佳馈源远区场辐射特性、
近年来,人们发现在统计学、排队论、控制理论、网络优化等领域中,许多问题最终都可以归结为求一类特殊的对称非线性矩阵方程X±A*X-nA=Q（n=1,2）的正定解.对此类矩阵方程解的研究引起了学者们的广泛关注.随着研究的深入,对此类非线性矩阵方程的研究也逐渐被推广到诸多更为广泛的形式.本文研究三类推广型的对称非线性矩阵方程:X±A*X-1A=Q、Xs±A*X-tA=Q（s,t为自然数）、X±A*X-q
复杂系统遍及自然、社会和技术领域。建立刻画复杂系统的模型是认知、预测、控制和同步复杂系统的基础。对于大多数复杂系统,只有有限的复杂动力学表征数据可用。因此,如何从表征数据构建刻画复杂系统的模型成为当代复杂系统研究的一个核心问题。作为系统建模的技术基础,优化算法辅助建模成为大数据时代下复杂系统建模研究的核心之一。针对设计复杂系统智能建模算法所遇到的难点,本文以模糊认知图和复杂网络为工具,人工智能技术
保密通信一直是信息技术领域的研究热点,近年来,互联网和移动通信的发展对保密通信的安全性提出了更高的要求.作为一类典型的非线性系统,混沌系统因其生成的状态信号具有初值敏感性、非周期性、为随机性、类噪声性等复杂的动力学特征,表现出了高度的不可预测性及天然的隐蔽性,正好符合保密通信的安全需求.混沌同步是实现保密通信的前提,但现有的同步方法和控制技术仍有待改进完善.另外,在实际应用中,系统的不确定性和外界
近几年系统的维修建模得到了研究者的极大关注。研究的系统主要分为单部件系统,两部件系统和多部件系统。可修模型的最优替换策略主要有基于系统的工作时间或系统的失效次数的单变量策略以及基于工作时间和失效次数的二元策略。系统的退化过程一般用几何过程描述,即用几何过程描述系统的连续工作时间和修理时间。本文引入扩展的几何过程描述系统连续的工作时间和修理时间,克服了几何过程的严格单调的缺点。考虑了修理工在系统工作
近年来,随着激光技术以及光场调控技术快速发展,各种具有新颖特性的有形电磁波束及结构光束受到了研究人员的广泛关注,本文以高阶时域有限差分方法FDTD（2,4）为基础,重点研究了FDTD算法中有形波束的重构。在传统FDTD方法的基础上使用四阶中心差分,对旋度算符中的空间一阶偏导数进行近似,获得了改善的数值色散以及网格各向异性特性。在此基础上,实现了高阶FDTD中基模高斯波束、高阶贝塞尔波束的重构,研究
碳纳米管（CNT）具有高强度、高刚度、低密度和高横纵比等优异的力学性能,被认为是一种具有广阔应用前景的复合材料增强体。功能梯度材料（FGM）由于其组分含量在一定的空间方向上是连续变化的,其力学特性在空间上也是连续变化的。为了进一步提高CNT增强体对复合材料宏观力学性能的增强效果,功能梯度分布形式被应用到CNT增强复合材料中。功能梯度CNT增强复合材料（FG-CNTRC）结构通常以梁、板或壳的形式存
两块可分凸优化问题在科学与工程中有很多重要应用,乘子交替方向法（ADMM）和Peaceman-Rachford分裂方法（PRSM）是求解该类问题的经典算法.PRSM的收敛性仅在目标函数的凸性下无法保证,但是由于进行了两次乘子更新,PRSM的数值效果优于ADMM.众所周知,传统ADMM和PRSM均以增广拉格朗日函数为效益函数,当子问题求解较为困难时,线性化技术被广泛使用.在增广拉格朗日函数的基础上,
越来越多的光学应用技术涉及到粒子的光散射特性计算与分析。针对不同的粒子,研究者提出并发展了各种光散射理论和计算方法。不同的理论模型和计算方法具有不同的适用范围,目前仍面临的挑战之一是大尺寸非球形粒子的光散射计算问题。对于形态复杂且尺寸远大于入射光波长的粒子,现有的解析理论（如米理论、广义米理论、德拜级数展开）和数值算法（如离散偶极子近似、时域有限差分、T矩阵）不再适用。而几何光学近似（GOA）方法
复杂系统广泛存在于现实世界中,是21世纪的重点研究课题之一,具有重要的实际应用背景和理论研究意义。通过将复杂系统看作是由系统中的多个个体（节点）以及个体间关系所组成的网络系统,复杂网络成为了描述和理解复杂系统的重要工具和方法。目前关于复杂网络的研究存在于多个领域,如数学,物理学,计算机科学,生物学以及社会学等等。对于自然界中的各类复杂网络系统来说,同步不仅仅是一种普遍且典型的聚集性行为,也是复杂网