导读:本文包含了学习率自调整论文开题报告文献综述、选题提纲参考文献及外文文献翻译，主要关键词:神经网络,自适应,梯度,步长,水质,算法,多项式。
学习率自调整论文文献综述
严晓明[1]（2019）在《一种逻辑回归学习率自适应调整方法》一文中研究指出在用梯度算法求解逻辑回归分类问题时,由于学习率不同的设置,会使得模型收敛较慢以及在极值点附近出现震荡.而学习率多数凭借经验或按迭代的次数进行调整,效果欠佳.为此提出一种自适应调整方法,在不引入新参数的同时,根据样本集分类准确率的变化对学习率进行更新.在梯度下降较快时,增大学习率,加快收敛速度;在梯度平缓时,缩小学习率,减少最优解在极值点附近的震荡,实验结果验证了该方法的有效性.(本文来源于《福建师范大学学报(自然科学版)》期刊2019年03期）
成悦,李建增[2]（2019）在《结合学习率调整的自适应特征融合相关滤波跟踪算法》一文中研究指出针对单一特征存在的缺陷和目标快速变化时易跟丢的问题,提出了一种结合学习率调整的自适应特征融合相关滤波跟踪算法。采用互补的梯度特征和颜色特征进行特征融合,通过计算滤波响应的大小来决定下一帧在融合特征中各自所占的权重,凸显优势特征,使目标与背景更具区分度;提取目标后需要更新滤波器,为了避免滤波器跟不上目标变化的情况发生,引入学习率调整机制,使滤波器更新速度能够随目标外观变化进行在线调整。相较同类特征融合算法,提出的算法准确高效,且对于快速形变目标的鲁棒性更强。实验证明,该算法在精度和成功率上都比现有相关滤波算法更优,具有一定的应用价值。(本文来源于《计算机应用研究》期刊2019年07期）
吴越,刘奇,俞凯[3]（2017）在《学习率的自适应调整在语言模型中的应用》一文中研究指出神经网络被广泛应用于智能语音、自然语言处理、图像识别等各个领域,并应用小批量梯度下降法对其进行训练。然而该训练方法对初始学习率非常敏感,如果无法通过大量实验得到较好的初始学习率,会严重影响训练结果。本文将探究在LSTM语言模型中自适应地调整学习率和加入自适应稳定算子的L2范数优化对训练结果、收敛速度、初始学习率的敏感程度上的影响。最后得出结论,在语言模型中加入学习率的自适应稳定算子会降低初始学习率的敏感度,加快收敛速度,加入L2范数能小幅度提升模型性能。(本文来源于《第十四届全国人机语音通讯学术会议（NCMMSC’2017）论文集》期刊2017-10-11）
李成林,李鸿雁,鲍新华,苗立峰[4]（2008）在《学习率有限监督调整BP网络在黄河下游水质预测中的应用》一文中研究指出本文采用学习率有限监督调整BP网络,对黄河干流小浪底至高村河道间主要水质污染物指标NH3-N和COD的传播输移规律进行了模拟和预测,历史数据模拟和预测检验结果的精度评价表明,该方法模拟与预测精度可靠,能够为生产实践中的预测预报提供依据。(本文来源于《东北水利水电》期刊2008年12期）
李鸿雁,赵晓慎,鲍新华,王福刚[5]（2008）在《学习率有限监督调整BP网络在水质评价中的应用》一文中研究指出以地表水环境质量标准基本项目标准限值为依据,随机生成标准样本和检测样本,采用学习率有限监督调整BP网络建立水质评价模型。完成网络训练的模型对检测样本进行检验评价,检验结果表明,该人工神经网络水质评价模型具有较高的精度,同时,可以避免人为主观因素对水质评价的影响,保证了水质鉴定的科学性和公正性。(本文来源于《环境保护科学》期刊2008年03期）
王伟,孙以材,汪鹏[6]（2008）在《无学习率权值调整神经计算法拟合范德堡多项式》一文中研究指出提出了一种新的神经计算的方法,其最大的特点是在进行特定的权值调整时无须加入学习率。计算开始时先给出一组随机的权值作为被拟合多项式的系数,由这组权值得到的拟合点上被拟合多项式值与期望值的各误差绝对值之和。依据其小分数的负值直接来调整权值,使各误差之绝对值不断减小,通过反复迭代计算,最终当各误差都在规定范围内时便得到期望的权值。在实际的计算中利用这种方法进行曲线拟合能方便地求出拟合多项式的系数,便于编程,简化了计算过程。将这种方法应用到范德堡函数的多项式拟合中,得到了范德堡函数f=1+0.03237714η-0.04037678η2+0.00857881η3-0.00077693η4+0.00002604η5并画出了曲线。(本文来源于《电子器件》期刊2008年03期）
李鸿雁,刘宪亮,鲍新华[7]（2007）在《学习率有限监督调整方法》一文中研究指出从学习率对BP网络误差下降曲线的影响机理入手,提出了能够使学习率具有自适应调整能力的有限监督调整方法,通过实证分析并结合实际工程算例阐明了该方法的有效性。(本文来源于《吉林大学学报(工学版)》期刊2007年04期）
徐春梅,尔联洁,刘金琨[8]（2005）在《动态模糊神经网络及其快速自调整学习算法》一文中研究指出针对非线性动态系统辨识和控制的特点,对4层模糊神经网络进行了优化和改进.形成了动态模糊神经网络,提高了网络的稳定性和对动态系统的辨识能力,同时给出了基于Lyapunov函数稳定收敛定理的各权向量以及权矩阵学习速率的自适应调整算法.应用于非线性动态系统的辨识和控制仿真试验表明,改进后的动态模糊神经网络与模糊神经网络相比,可取得更好的辨识精度和跟踪控制效果.(本文来源于《控制与决策》期刊2005年02期）
徐华,刘红琳[9]（2000）在《BP网络学习参数的自调整技术及其应用》一文中研究指出本文针对ＢＰ网络的局限性,给出一种改进的ＢＰ算法,此处强调在ＢＰ网络的学习过程中,尽量减少必须由ＢＰ学习算法确定的参数个数,同时又不过分地降低网络的计算能力。主要根据样本对在训练过程中误差曲面的情况,动态、系统地调整参数,尽量减少依赖人工干预,提高合理通用?..(本文来源于《电脑开发与应用》期刊2000年02期）
詹涛,张春路,丁国良[10]（1999）在《基于学习率优化和调整方向选择的改进BP算法在制冷系统仿真中的应用》一文中研究指出目前,用于制冷系统智能仿真的多层前馈人工神经网络训练方法主要是标准BP算法,其训练效率低,自适应性能差。本文采用了改进的BP算法,用网络输出关于学习率的线性展开法来自适应地优化学习率。用BFGS变尺度法来调整权重。对BFGS法作了局部改进以处理可能发生的BFGS公式中分母项为0的情况。以实际制冷系统的热力性能参数实验数据为样本,对比研究了标准BP算法、含学习率优化的最速下降法和含学习率优化的BFGS法的学习过程。结果表明,文中选用的含学习率优化的BFGS法学习效率高,能达到的学习精度高,且自适应性能好。(本文来源于《上海市制冷学会一九九九年学术年会论文集》期刊1999-11-01）
学习率自调整论文开题报告
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
针对单一特征存在的缺陷和目标快速变化时易跟丢的问题,提出了一种结合学习率调整的自适应特征融合相关滤波跟踪算法。采用互补的梯度特征和颜色特征进行特征融合,通过计算滤波响应的大小来决定下一帧在融合特征中各自所占的权重,凸显优势特征,使目标与背景更具区分度;提取目标后需要更新滤波器,为了避免滤波器跟不上目标变化的情况发生,引入学习率调整机制,使滤波器更新速度能够随目标外观变化进行在线调整。相较同类特征融合算法,提出的算法准确高效,且对于快速形变目标的鲁棒性更强。实验证明,该算法在精度和成功率上都比现有相关滤波算法更优,具有一定的应用价值。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
学习率自调整论文参考文献
[1].严晓明.一种逻辑回归学习率自适应调整方法[J].福建师范大学学报(自然科学版).2019
[2].成悦,李建增.结合学习率调整的自适应特征融合相关滤波跟踪算法[J].计算机应用研究.2019
[3].吴越,刘奇,俞凯.学习率的自适应调整在语言模型中的应用[C].第十四届全国人机语音通讯学术会议（NCMMSC’2017）论文集.2017
[4].李成林,李鸿雁,鲍新华,苗立峰.学习率有限监督调整BP网络在黄河下游水质预测中的应用[J].东北水利水电.2008
[5].李鸿雁,赵晓慎,鲍新华,王福刚.学习率有限监督调整BP网络在水质评价中的应用[J].环境保护科学.2008
[6].王伟,孙以材,汪鹏.无学习率权值调整神经计算法拟合范德堡多项式[J].电子器件.2008
[7].李鸿雁,刘宪亮,鲍新华.学习率有限监督调整方法[J].吉林大学学报(工学版).2007
[8].徐春梅,尔联洁,刘金琨.动态模糊神经网络及其快速自调整学习算法[J].控制与决策.2005
[9].徐华,刘红琳.BP网络学习参数的自调整技术及其应用[J].电脑开发与应用.2000
[10].詹涛,张春路,丁国良.基于学习率优化和调整方向选择的改进BP算法在制冷系统仿真中的应用[C].上海市制冷学会一九九九年学术年会论文集.1999
论文知识图
