拟凸优化问题的次梯度算法的理论研究

拟凸优化问题的次梯度算法的理论研究

论文摘要

数学优化是应用数学的一个重要分支,为诸多科学和应用问题提供了研究与建模的统一框架。由于凸性的良好性质,凸优化已经被众多学者广泛研究与应用;然而,对于经济与管理科学等领域中的实际问题来说,凸函数刻画的限制过强,而广义(拟)凸函数能更精准地描述这些实际问题。在经济学、工程、计算机视觉、管理科学和各种应用科学等领域中都可以找到拟凸优化问题的应用。次梯度算法是解决约束拟凸优化问题的一种常用方法,但算法的收敛性理论,尤其是收敛速度理论,还存在大量的研究空白。本文将研究约束拟凸优化问题及拟凸可行性问题,目的是得到相应次梯度算法的全局收敛性及收敛速度理论(及迭代复杂度),从而为算法的应用提供可靠的理论基础和保障;同时,了解这些算法的性能及效率能更好地帮助我们理解它们在各应用中的表现,进而可以分析需要改进和扩展的研究趋势。以下就两方面对本文工作作一概述:一、对于约束拟凸优化问题,我们将在统一框架下研究各种次梯度算法的收敛复杂度及收敛速度。首先,我们考虑满足一般(非精确)基本不等式的框架,研究其使用常数步长或动态步长准则时的全局收敛性定理和迭代复杂度。此外,假设噪声有界,在H?lderian阶弱锐极小点(weak sharp minima)条件下,我们将建立序列的线性(动态步长)或次线性(常数步长)收敛速度。最后,在拟凸性质与H?lder条件下,我们应用统一框架下的收敛性结论,建立约束拟凸优化问题的三种不同次梯度算法的迭代复杂度及收敛速度定理,包括标准次梯度算法、非精确次梯度算法以及条件次梯度算法。二、对于拟凸可行性问题,我们将提出相应的次梯度算法,并研究算法的全局收敛性和收敛速度理论。首先,我们将提出采用最违反约束(most violated constraint)或近乎循环(almost cyclic)控制准则的次梯度算法,并在H?lder条件假设下构建算法的基本不等式,同时研究算法的全局收敛性。此外,我们将引入重要的H?lderian阶误差界条件,且在此假设下建立算法的线性(或次线性)收敛速度。最后,将所研究的算法与收敛性理论扩展到拟凸多集合分离可行性问题。值得注意的是,基本不等式在研究过程中起着至关重要的作用。并且据我们所知,本文关于约束拟凸优化及拟凸可行性问题的次梯度算法的收敛速度研究是全新的,它将为算法提供可靠的理论保证,具有十分重要的科学意义。

论文目录

  • 摘要
  • Abstract
  • 第1章 绪论
  •   1.1 研究背景及意义
  •     1.1.1 数学优化问题
  •     1.1.2 可行性问题
  •   1.2 国内外研究现状
  •     1.2.1 数学优化中的次梯度算法
  •     1.2.2 可行性问题中的次梯度算法
  •   1.3 本文的研究内容和组织结构
  •     1.3.1 本文的研究内容
  •     1.3.2 本文的组织结构
  • 第2章 符号及预备知识
  •   2.1 相关符号
  •   2.2 预备知识
  • 第3章 约束拟凸优化问题中算法的收敛性分析
  •   3.1 次梯度算法的一个统一框架
  •   3.2 收敛理论
  •   3.3 迭代复杂度
  •   3.4 收敛速度分析
  •   3.5 次梯度算法在约束拟凸优化问题中的应用
  •     3.5.1 标准次梯度法
  •     3.5.2 非精确次梯度算法
  •     3.5.3 条件次梯度法
  •   3.6 本章小结
  • 第4章 拟凸可行性问题中算法的收敛性分析
  •   4.1 拟凸可行性问题
  •     4.1.1 算法概述及基本不等式
  •     4.1.2 收敛理论
  •     4.1.3 收敛速度分析
  •   4.2 拟凸多集合分离可行性问题
  •     4.2.1 算法概述及基本不等式
  •     4.2.2 收敛理论
  •     4.2.3 收敛速度分析
  •   4.3 本章小结
  • 第5章 本文工作总结
  • 参考文献
  • 致谢
  • 攻读硕士学位期间的研究成果
  • 文章来源

    类型: 硕士论文

    作者: 李佳雯

    导师: 胡耀华

    关键词: 拟凸优化,次梯度算法,基本不等式,迭代复杂度,收敛速度

    来源: 深圳大学

    年度: 2019

    分类: 基础科学

    专业: 数学

    单位: 深圳大学

    分类号: O224

    总页数: 60

    文件大小: 1200K

    下载量: 23

    相关论文文献

    • [1].发散步长准则下的增量聚合梯度算法[J]. 重庆工商大学学报(自然科学版) 2020(02)
    • [2].加速梯度算法在池化问题上的应用[J]. 中国科学:数学 2020(09)
    • [3].求解广义Fermat-Torricelli问题的多层邻近梯度算法[J]. 桂林电子科技大学学报 2019(02)
    • [4].一种求解单调包含问题的惯性松弛混合邻近外梯度算法[J]. 湖北民族学院学报(自然科学版) 2019(03)
    • [5].基于负熵的随机双梯度算法[J]. 湖南师范大学自然科学学报 2014(06)
    • [6].一种求解单调包含问题的惯性混合邻近外梯度算法[J]. 数学杂志 2019(06)
    • [7].分布式累加梯度算法在目标定位问题中的应用[J]. 传感器与微系统 2015(04)
    • [8].改进的新型随机双梯度算法[J]. 兰州理工大学学报 2014(02)
    • [9].基于策略梯度算法的工作量证明中挖矿困境研究[J]. 计算机应用 2019(05)
    • [10].一种求解半定规划的邻近外梯度算法[J]. 数学杂志 2016(05)
    • [11].基于自然梯度算法及其改进算法的盲源分离[J]. 科技资讯 2008(32)
    • [12].不同步长下自然梯度算法分离状态的比较[J]. 机械设计与制造 2012(07)
    • [13].独立分量分析可调速率相对梯度算法[J]. 信息与电子工程 2010(02)
    • [14].两个种群生态系统最优响应算法及其收敛性[J]. 湖南工程学院学报(自然科学版) 2020(02)
    • [15].均衡问题的一种改进不精确次梯度算法[J]. 上海理工大学学报 2016(06)
    • [16].二阶锥规划的一种Barzilai-Borwein梯度算法[J]. 广西师范大学学报(自然科学版) 2013(03)
    • [17].一种基于核的在线策略梯度算法[J]. 新疆大学学报(自然科学版) 2018(02)
    • [18].外推系数带参数的加速邻近梯度算法[J]. 数值计算与计算机应用 2016(03)
    • [19].一种动态步长的次梯度算法[J]. 高等学校计算数学学报 2019(01)
    • [20].相位恢复算法在仿真与实验上的研究[J]. 光学仪器 2019(04)
    • [21].基于改进单纯形梯度算法的油藏生产优化[J]. 油气地质与采收率 2013(03)
    • [22].基于近端梯度算法的协作拥塞策略[J]. 华南理工大学学报(自然科学版) 2016(05)
    • [23].IMRT逆向计划中的混合多目标梯度算法(英文)[J]. Transactions of Nanjing University of Aeronautics & Astronautics 2010(01)
    • [24].分布式一致性最优化的梯度算法与收敛分析[J]. 工程科学学报 2020(04)
    • [25].拉格朗日松弛对偶问题的一个改进次梯度算法[J]. 长江大学学报(自科版) 2016(04)
    • [26].实模态向量梯度算法[J]. 长春工业大学学报(自然科学版) 2013(05)
    • [27].几种经典的策略梯度算法性能对比[J]. 电脑知识与技术 2014(29)
    • [28].分裂变分不等式问题及其外梯度算法[J]. 泰山学院学报 2013(03)
    • [29].分布式在线共轭对偶梯度算法[J]. 阜阳师范学院学报(自然科学版) 2018(04)
    • [30].一种改进的动态步长的次梯度算法[J]. 经济数学 2019(03)

    标签:;  ;  ;  ;  ;  

    拟凸优化问题的次梯度算法的理论研究
    下载Doc文档

    猜你喜欢