导读:本文包含了共轭梯度方法论文开题报告文献综述、选题提纲参考文献及外文文献翻译，主要关键词:梯度,共轭,全局,正则,方向,网格,方法。
共轭梯度方法论文文献综述
刘杰,张娟娟[1]（2019）在《基于共轭梯度搜索的病态问题处理方法》一文中研究指出在最小二乘平差准则基础上,把病态平差问题转化为无约束的二次规划问题,并利用优化理论分析病态对平差解的影响。通过共轭梯度搜索算法在可行域中寻找最优步长因子,自动寻找最速下降方向,并给出迭代初值的设置方法。分析近似计算中病态问题与局部最优解的关系,讨论局部最优解的快速迭代方法,并通过实例验证算法的有效性,计算迭代的速度。由于整个过程没有对法方程系数矩阵进行求逆计算,该算法可用于处理大规模系数矩阵高病态的平差问题。(本文来源于《大地测量与地球动力学》期刊2019年08期）
孙颖异,李健,孙中波,王增辉[2]（2019）在《求解无约束优化问题的两类修正的WYL共轭梯度方法》一文中研究指出针对无约束优化问题,通过修正共轭梯度参数,构造新的搜索方向,提出两类修正的WYL共轭梯度法.在每次迭代过程中,两类算法产生的搜索方向均满足充分下降性.在适当条件下,证明了算法的全局收敛性.数值结果表明算法是可行的和有效的.(本文来源于《应用数学》期刊2019年02期）
李昕艺,刘叁阳,谢维[3]（2019）在《基于共轭梯度法的感知矩阵优化方法》一文中研究指出压缩感知理论中降低信号维数的关键问题是构造有效的测量矩阵。在已知稀疏基的情况下,基于ETF(Equiangular Tight Frame)框架的测量矩阵构造方法和稀疏信号重构过程均依赖于感知矩阵。为此,设计了一种基于共轭梯度法的感知矩阵优化方法,该方法简单易行,且所求结果的Gram矩阵与目标Gram矩阵更接近。实验结果表明,此感知矩阵优化方法在理论分析、实际图像应用及算法有效性上均具优势。(本文来源于《浙江大学学报(理学版)》期刊2019年01期）
王惠玲,聂玉峰,张玲[4]（2018）在《组合杂交四边形元的多重网格预处理共轭梯度方法》一文中研究指出组合杂交元方法是一种求解弹性力学问题的稳定化有限元方法.为了快速求解组合杂交元离散得到的大型、稀疏、对称正定系统,本文研究了多重网格预处理共轭梯度方法.首先,通过选用合适的网格转移算子和光滑策略,得到了有效的多重网格预处理器.其次,通过分析数值试验结果证明所得到的多重网格预处理共轭梯度方法是有效可行的,利用该预处理方法大大降低了系数矩阵的条件数,提高了计算效率.此外,对于一类高性能的组合杂交元,多重网格预处理共轭梯度方法在网格畸变时依然收敛.(本文来源于《工程数学学报》期刊2018年05期）
李文钰[5]（2018）在《用于神经网络的带L_(1/2)正则项的共轭梯度学习方法》一文中研究指出人工神经网络由于其超强的非线性映射能力,卓越的学习能力以及其广泛的用途,成为许多领域的研究热点.为了提高网络泛化能力,产生更经济的稀疏网络,克服梯度型神经网络学习算法收敛速度慢,容易过快陷入局部极小点,且易产生振荡现象的缺陷.为此本文主要研究带光滑L1/2正则项的批处理共轭梯度型学习方法.首先提出基于修正割线方程的共轭梯度法,并验证了该方法求解标准优化测试问题的有效性.其次提出双自适应参数的共轭梯度法,并对XOR问题搭建神经网络进行测试来验证算法的有效性.然后将双自适应参数的混合共轭梯度法引入BP前馈神经网络训练,提出带光滑L1/2正则项的共轭梯度学习方法.最后针对零阶Takagi—Sugeno模糊推理系统,提出带光滑L1/2正则项的常值学习率共轭梯度学习方法.本文对于这些方法均进行了收敛性分析,它们在数值结果上也展示出了不俗表现.本文的主要内容概括如下:1.第一章绪论部分回顾了神经网络的相关背景知识,介绍了本文的研究目的和研究意义,提出了本文的研究内容.2.第二章针对Dai-Yuan(DY)共轭梯度方法具有优良的收敛性质但数值表现一般的特点,结合修正的割线方程,改进某类参数DY型共轭梯度法,提出了双参数DY型共轭梯度算法.结合Wolfe线搜索,算法总能产生下降的搜索方向.由于算法充分的利用修正割线方程中包含的梯度信息和函数值的信息,提高了目标函数二阶曲率的近似精度,在参数选择为恰当常数的条件下,算法表现出优异的数值性能.在合理的假设下,证明了该方法的全局收敛性.3.第叁章主要分析双参数共轭梯度方法中参数的自适应问题.基于在最优解附近选择共轭梯度方向为拟牛顿方向这一假定,充分利用已经计算得到的梯度、搜索方向和学习率等信息来设计自适应的参数,并利用强Wolfe线搜索来计算学习率,算法产生新的搜索方向既为下降方向又具有拟牛顿性质.对于XOR问题搭建神经网络进行数值实验,结果显示双自适应参数共轭梯度法明显改善了 DY框架下的其他叁个参数共轭梯度法,并且与经典的梯度算法和共轭梯度算法相比较,同样显示了良好的性能.4.第四章主要研究将双自适应参数共轭梯度方法用于前馈神经网络训练,并用于分类任务.我们依据DY框架下的共轭梯度混合策略,提出了光滑L1/2正则化双自适应参数的混合共轭梯度学习方法,进一步改善学习算法的性能.该方法利用强Wolfe条件来计算学习率,使得该混合算法产生的搜索方向依然具有拟牛顿性和充分下降性质.如在UCI数据集中五个基准分类问题的数值实验所示,与其他经典的共轭梯度训练算法相比,新的学习算法具有与其他算法大致相同或更好的学习能力,但同时又具有更好的泛化性、网络稀疏性和更高的稳健性.在合理的假设下,证明了该方法的全局收敛性.5.第五章针对零阶Takagi-Sugeno模糊推理系统,提出一种具有光滑L1/2正则项的共轭梯度方法来训练模糊神经网络,得到了较为经济的稀疏网络结构.该方法中,采用了常值学习率,以此来降低计算成本,并提高学习效率.数值实验表明,该算法具有较强的稀疏性和较快的学习效率.此外,在合理的假设下,得到该方法的全局收敛性结果.(本文来源于《大连理工大学》期刊2018-09-18）
尹晓丽,孙凤,李春明[6]（2019）在《连续负梯度方向获得共轭方向的六寻优化方法》一文中研究指出连续两次沿负梯度方向寻优可获得共轭方向,对于一般二次目标函数,从两个角度对该现象进行了理论证明。鉴于为诸多研究领域优化问题的解决提供更多更有效的优化方法,将其推广于一般目标函数,提出了基于辅助方向的共轭方向法、叁寻法和六寻法。连续叁次沿负梯度方向寻优,然后沿所获得的两个共轭方向分别寻优,最后沿上述两个最优点连线进行第六次寻优,从而完成一轮寻优。给出了六寻法和用于叁维优化问题的模块化一维盲人探路法C语言计算程序,并用解析法验证了程序的正确性。以一般的二次叁维目标函数和Rosenbrock目标函数为例,验证了六寻法的有效性。其寻优效果比负梯度方向法好,两个算例的计算量分别减小28.70%、54.25%。六寻法可用于求解目标函数梯度可求的多维无约束优化问题。(本文来源于《计算机科学与探索》期刊2019年09期）
李春念[7]（2018）在《求解非光滑和光滑优化问题的几类共轭梯度方法》一文中研究指出最优化问题是一门应用相当广泛的学科,共轭梯度法是解决最优化问题的一类常用的算法.最优化问题常用来讨论决策问题最佳解和寻求最佳计算方法,以及研究这些计算方法的理论性质及实际计算表现.其广泛用于工程设计,经济规划,生产管理,交通运输,国防等领域.常见的求解无约束最优化问题的方法主要有牛顿法、拟牛顿法、最速下降法、共轭梯度法、信赖域方法等.本文主要研究求解光滑和非光滑优化问题的共轭梯度法.基于对无约束问题求解的研究,针对非光滑无约束优化问题,本文提出了一种修正的Liu-Storey共辄梯度方法,并且结合了 Moreau-Yosida正则化技术,将原有的非光滑问题等价转化为光滑问题,重点分析其充分下降性和全局收敛性等理论性质,其最后的数值结果也表明新算法能够求解高维数的非光滑问题.在求解光滑问题上,本文提出了一种改进的Polak-Ribiere-Polyak方法,并且引用了一种更优秀的线搜索:改进的WeakWolfe-Powell线搜索技术.该搜索技术使得在原有技术的基础上有较好的收敛性质,并具有较好的数值表现.新的方法具有以下优点:(1)该算法具有信赖域性质与充分下降性;(2)在一定的条件下,可以得到算法的全局收敛性;(3)试验结果表明,该算法是有效的.(本文来源于《广西大学》期刊2018-06-01）
张莉林[8]（2018）在《基于DK方法的两类修正共轭梯度法》一文中研究指出共轭梯度法是解决无约束大规模的优化问题的一种重要方法.为了得到理论结果和数值效果都不错的方法.本文基于戴或虹和寇彩霞提出的DK方法,提出了两类不依赖于线搜索具有充分下降性的修正共轭梯度法.第1章,介绍了非线性共轭梯度法相关的知识、常用线搜索、研究现状,以及两个重要的假设和一个重要的引理.最后介绍了数值实验数据的两种处理方法和本文主要的工作.第2章,基于DK方法的思想,本文将修正的自调比无记忆BFGS方法(简称MSSLS-BFGS方法)和共轭梯度法两者的搜索方向进行投影逼近,推导出了 MDK方法.证明了这类方法是充分下降的且在改进Wolfe线搜索下对一致凸函数是强收敛的.采用与DK+方法相同的截断修正思想得到的MDK+方法,在改进Wolfe线搜索对一般函数是全局收敛的.数值结果表明MDK方法和MDK+方法优于HZ+方法,略优于DK+方法.第3章,结合DK方法和Saman Babaie-Kafaki等人提出的修正割线条件,给出了一类不依赖于线搜索具有充分下降性的共轭梯度法(简称SMDK方法).证明了SMDK方法在改进Wolfe线搜索下对一致凸函数是强收敛的.截断修正得到的SMDK+方法在改进Wolfe线搜索下,对一般函数是全局收敛的.数值结果表明SMDK方法和SMDK+方法优于HZ+方法与DK+方法这两个方法.(本文来源于《重庆师范大学》期刊2018-05-01）
柳馨[9]（2018）在《基于DDL和DLVHS方法的改进共轭梯度算法》一文中研究指出本论文是在非线性共轭梯度算法中已有的研究成果上进行的,主要基于DDL以及DLVHS方法进行研究和修正.为了能得到理论和计算都比较好的新共轭梯度算法,在Wolfe线搜索和强Wolfe线搜索下,本文提出了几个修正的共轭梯度算法.第一章,简单介绍了求解无约束优化问题的几种常见算法以及它们的优劣之处.另外,简述了共轭梯度算法的研究现状,并给出了算法相关的一些理论知识.第二章,对Saman Babaie-Kafaki和Reza Ghanbari[44]提出的DDL方法做了进一步的研究和修正,提出了两个修正的DDL方法,分别是VDDL1和VDDL2方法,这两个方法的搜索方向都具有充分下降性,同时,可以证明在采用Goldstein线搜索或者Wolfe线搜索时,两个方法都是对一致凸函数全局收敛的.另一方面,考虑到HZ+方法截断修正的思想,对VDDL1和VDDL2方法进行截断,提出了VDDL1+和VDDL2+方法,截断后的方法同样具有充分下降性,并且在线搜索条件减弱到Wolfe线搜索时,对一般函数就具有全局收敛性.数值试验时,采用HagerZhang在文献[37]中提出的近似Wolfe线搜索进行计算,将本文提出的方法和修正前的方法以及目前公认的数值效果最好的方法进行比较,计算结果表明这些新方法是有效的.第叁章,基于Saman Babaie-Kafaki和Reza Ghanbari[45]提出的MDL方法,结合姚胜伟等人[46]提出的DLVHS方法,提出了修正的DLVHS共轭梯度法,称为MDLVHS方法.在步长满足强Wolfe线搜索条件时,该方法具有充分下降性,并且证明了MDLVHS方法对一致凸函数的收敛性.另一方面,利用Dai和Wen[50]文章中的割线等式,对MDLVHS方法进行进一步的修正得到MDLVHS-D方法,新的方法同样在强Wolfe线搜索下是充分下降的,并且证明了对一般函数就具有全局收敛性.数值结果显示MDLVHS方法略优于目前数值效果最好的DK+方法,MDLVHS-D方法与一些数值效果较好的方法具有可比性.(本文来源于《重庆师范大学》期刊2018-05-01）
郝子琼[10]（2018）在《2.5维CSAMT非线性共轭梯度反演方法研究》一文中研究指出可控源音频大地电磁测深法(CSAMT)是在AMT基础发展起来的,该方法归类为人工源频率域电磁测深勘探方法,能够通过人工控制电磁场源发射不同频率、不同强度的电磁场信号,进行目标区域地下电性结构特征的研究。自1970年代以来,CSAMT已成为地球物理主要勘探手段,普遍应用于油气资源和矿产勘查、地下水、地热、环境调查研究等。然而,由于人工源电磁波场在有耗介质中传播时,按波场传播特征和规律不同,划分为“近区”、“过渡区”和“远区”;其中,只有在“远区”观测时,才能保证观测数据不受场源影响。所以,在带源电磁测深数据二维反演算法尚不成熟的时候,对CSAMT数据的反演往往使用“远区”场数据,利用大地电磁测深(MT)二维反演进行处理解释。然而,“远区”的划分不仅与“收-发”距有关,还决定于观测信号的频率和地下介质的导电性,因此随着信号频率和地下介质导电性改变,“远区”的范围也在改变,这必然造成利用MT二维反演获得的CSAMT反演结果出现偏差,而且“过渡区”数据也无法利用;所以,必须开展带人工场源的CSAMT二维反演方法研究。论文提出2.5维CSAMT非线性共轭梯度二维反演方法,采用基于有限单元法为基础的正演模拟,通过二次场算法精确计算带有场源的二维电磁场数值,从而消除场源附近的奇异性;反演方面采用二维非线性共轭梯度法,利用拟正演手段避免存储大型稀疏矩阵,降低对计算机内存的要求,提高单次反演迭代速度。论文推导了频率域有限元计算公式,处理了边界问题,完成拟正演公式推导,间接求取雅可比矩阵,进而实现2.5维CSAMT反演算法研究。(本文来源于《中国地质大学(北京)》期刊2018-05-01）
共轭梯度方法论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
针对无约束优化问题,通过修正共轭梯度参数,构造新的搜索方向,提出两类修正的WYL共轭梯度法.在每次迭代过程中,两类算法产生的搜索方向均满足充分下降性.在适当条件下,证明了算法的全局收敛性.数值结果表明算法是可行的和有效的.
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
共轭梯度方法论文参考文献
[1].刘杰,张娟娟.基于共轭梯度搜索的病态问题处理方法[J].大地测量与地球动力学.2019
[2].孙颖异,李健,孙中波,王增辉.求解无约束优化问题的两类修正的WYL共轭梯度方法[J].应用数学.2019
[3].李昕艺,刘叁阳,谢维.基于共轭梯度法的感知矩阵优化方法[J].浙江大学学报(理学版).2019
[4].王惠玲,聂玉峰,张玲.组合杂交四边形元的多重网格预处理共轭梯度方法[J].工程数学学报.2018
[5].李文钰.用于神经网络的带L_(1/2)正则项的共轭梯度学习方法[D].大连理工大学.2018
[6].尹晓丽,孙凤,李春明.连续负梯度方向获得共轭方向的六寻优化方法[J].计算机科学与探索.2019
[7].李春念.求解非光滑和光滑优化问题的几类共轭梯度方法[D].广西大学.2018
[8].张莉林.基于DK方法的两类修正共轭梯度法[D].重庆师范大学.2018
[9].柳馨.基于DDL和DLVHS方法的改进共轭梯度算法[D].重庆师范大学.2018
[10].郝子琼.2.5维CSAMT非线性共轭梯度反演方法研究[D].中国地质大学(北京).2018
论文知识图
