一类ADMM框架下的算法的次线性收敛率分析

论文摘要

交替方向乘子法（ADMM）及其框架下的其他算法是求解可分离凸优化问题的一类经典方法,适用于求解大规模分布式问题.ADMM在机器学习、图像处理、统计学习和相关领域有广泛的应用.相对于ADMM,交替邻近梯度法（APGM）和邻近交替方向乘子法（P-ADMM）不仅xi-子问题更易于求解,而且还具有闭形式的解的优点.对于给出的目标函数为多个凸函数的和且具有线性约束的可分离凸规划问题,本文主要分别研究了三块的交替邻近梯度法和多块的邻近交替方向乘子法在遍历意义和非遍历意义下的次线性收敛率为的一些充分条件.本文的主要内容安排如下:1.第一章简要叙述了可分离凸规划问题以及与其相关的ADMM框架下的算法的研究意义,并对可分离凸规划问题及其与本文相关的研究方向的研究现状进行了简要综述,继而提出了本文主要研究内容.2.第二章给出了能保证具有线性约束且目标函数为3块的可分凸函数的优化问题的APGM的次线性收敛速度的充分条件,特别是当其中一个函数是凸的（不一定是强凸的）,而另2个函数是强凸的,罚参数在某个区域内时,APGM在遍历意义和非遍历意义下的收敛速度分别为O（1/t）和o（1/t）,其中t表示迭代次数.并给出了在不附加强凸条件下,具有线性约束且目标函数为2块的可分凸函数的优化问题的APGM收敛的一个简单证明.3.第三章考虑一类目标函数为m（m ≥ 3）个凸函数的和且具有线性约束的多块可分离结构凸规划问题.P-ADMM是解决该问题的一种有效方法.本注给出了一个充分条件,确保具有线性约束且目标函数为m（m ≥ 3）块的可分凸函数的优化问题的P-ADMM在遍历意义下和非遍历意义下分别具有O（1/t）和o（1/t）的次线性收敛率,其中t代表迭代次数.并在不要求任何一个函数强凸的条件下,给出了具有线性约束且目标函数为2块的可分凸函数的优化问题邻近交替方向乘子法收敛的-个简单证明.

论文目录

文章来源

类型: 硕士论文

作者: 叶晓倩

导师: 彭建文

关键词: 交替邻近梯度法,邻近交替方向乘子法,遍历意义,非遍历意义,次线性收敛率

来源: 重庆师范大学

年度: 2019

分类: 基础科学

专业: 数学

单位: 重庆师范大学

分类号: O224

DOI: 10.27672/d.cnki.gcsfc.2019.000043

总页数: 49

文件大小: 2177K

下载量: 28

相关论文文献

• [1].Douglas-Rachford分裂法线性收敛性的新证明[J]. 西南师范大学学报(自然科学版) 2020(09)
• [2].广义交替近似梯度算法的线性收敛分析[J]. 运筹学学报 2014(03)
• [3].可分离凸规划问题的交替邻近梯度法的次线性收敛率[J]. 西南师范大学学报(自然科学版) 2019(03)
• [4].一类非线性方程组的无导数投影法的收敛速度分析[J]. 海南大学学报(自然科学版) 2016(04)
• [5].强伪单调变分不等式的线性收敛[J]. 内江师范学院学报 2018(10)
• [6].Group Lasso正则化问题的邻近梯度算法的线性收敛性[J]. 广西大学学报(自然科学版) 2016(06)
• [7].一类不可微规划算法的线性收敛性[J]. 陕西科技大学学报(自然科学版) 2013(03)
• [8].关于一类记忆梯度算法收敛速度的研究[J]. 科学中国人 2016(29)
• [9].求解无约束优化问题的记忆梯度法收敛速度研究[J]. 长江大学学报(自然科学版)理工卷 2009(04)
• [10].交替最小化算法求解一类强凸加弱凸和的收敛性[J]. 西华师范大学学报(自然科学版) 2020(02)
• [11].CAE软件操作小百科(47)[J]. 计算机辅助工程 2019(02)
• [12].判定强H-张量具有线性收敛速度的迭代算法[J]. 吉林大学学报(理学版) 2019(05)
• [13].我国省际经济增长的非线性动态收敛性研究[J]. 统计与决策 2012(24)
• [14].一类记忆梯度法的收敛性[J]. 西南民族大学学报(自然科学版) 2008(01)
• [15].两类Armijo-type线搜索下的PRP新算法[J]. 西南大学学报(自然科学版) 2010(07)
• [16].支持向量机的训练算法综述[J]. 智能系统学报 2008(06)
• [17].一类全局收敛的记忆梯度算法的线性收敛性[J]. 西南民族大学学报(自然科学版) 2010(06)
• [18].具有线性收敛率的极小化r个最大函数和的光滑化方法[J]. 上海电机学院学报 2011(06)
• [19].分布式随机方差消减梯度下降算法topkSVRG[J]. 计算机科学与探索 2018(07)
• [20].中国城市房价非线性收敛机制研究[J]. 南开经济研究 2015(01)
• [21].求解半定互补问题的一种非内点连续算法[J]. 长春大学学报 2010(08)
• [22].一般二次规划的一种分解算法[J]. 甘肃联合大学学报(自然科学版) 2008(04)

标签：交替邻近梯度法论文;  邻近交替方向乘子法论文;  遍历意义论文;  非遍历意义论文;  次线性收敛率论文;