优化方法综述

优化方法综述

论文摘要

优化方法是优化问题中模型求解参数的方法,它通过降低代价函数来间接提高模型性能。本文首先从梯度下降引入,依次概述了梯度下降的变体、自适应学习率算法,以及其他方面的优化方法的数学原理和应用场景。然后基于实验,对比其中几个典型的方法的拟合效果、时间性能、误差等。最后,结合实验对全文进行总结。

论文目录

  • 一、引言
  • 二、GD及其衍生算法
  •   2.1 GD
  •   2.2 SGD
  •   2.3 Momentum
  •   2.4 Nesterov
  • 三、AdaLR
  •   3.1 Adagrad
  •   3.2 RMSProp
  •   3.3 Adam
  • 四、其他优化方法
  •   4.1 MLE
  •   4.2 NE
  • 五、总结与展望
  • 文章来源

    类型: 期刊论文

    作者: 尚明杰

    关键词: 梯度下降,自适应学习率算法,正态方程,最大似然估计

    来源: 中国新通信 2019年01期

    年度: 2019

    分类: 信息科技,基础科学

    专业: 数学,自动化技术

    单位: 徐州市第三中学

    分类号: TP18;O224

    页码: 70-72

    总页数: 3

    文件大小: 1594K

    下载量: 264

    相关论文文献

    • [1].利用Matlab实现均值和方差最大似然估计[J]. 数学学习与研究 2017(05)
    • [2].目标最大似然估计在药品安全性主动监测中的应用[J]. 中国药物警戒 2017(06)
    • [3].基于第一价格拍卖的广义分段伪最大似然估计[J]. 系统工程 2015(11)
    • [4].微课模式的翻转课堂教学法在最大似然估计中的应用[J]. 湖北工程学院学报 2019(03)
    • [5].最大似然估计方法在遥感技术中的应用[J]. 科技经济市场 2016(05)
    • [6].四格表OR值点估计的条件与非条件最大似然估计比较[J]. 中国卫生统计 2013(01)
    • [7].区间分段优化最大似然估计算法[J]. 制导与引信 2008(01)
    • [8].LTE网络中基于最大似然估计的协作定位方法[J]. 微型电脑应用 2018(07)
    • [9].经过四个点中的一点的曲线拟合参数的区间估计[J]. 吉林工程技术师范学院学报 2009(07)
    • [10].关于离散型总体参数的最大似然估计量的新方法[J]. 大学数学 2018(06)
    • [11].基于模糊最大似然估计算法的遥感影像分割[J]. 测绘与空间地理信息 2019(01)
    • [12].最大后验概率估计方法在遥感技术中的应用[J]. 科技展望 2016(16)
    • [13].二项分布参数的经典估计与Bayes估计相等的关系[J]. 佳木斯大学学报(自然科学版) 2014(04)
    • [14].基于最大似然估计的锁频环改进算法[J]. 电光与控制 2019(06)
    • [15].基于最大似然估计的16APSK载波捕获算法研究[J]. 无线电工程 2018(03)
    • [16].基于离散观测下Cauchy-OU过程的最大似然估计[J]. 应用数学 2020(03)
    • [17].基于贝叶斯最大似然估计的金融预测[J]. 统计与决策 2018(07)
    • [18].最大似然估计在回归分析中的应用[J]. 安阳师范学院学报 2012(05)
    • [19].基于近似最大似然估计的直接线性变换解法[J]. 工程勘察 2011(12)
    • [20].中国信贷市场的配适性分析[J]. 统计研究 2010(04)
    • [21].多站测向交叉定位的加权最大似然估计算法及其精度分析[J]. 电光与控制 2015(11)
    • [22].最大似然估计ROC凸包曲线算法[J]. 计算机工程 2010(10)
    • [23].基于概率分布的煤层厚度预测研究[J]. 煤炭技术 2018(12)
    • [24].OFDM雷达多目标运动参数的近似最大似然估计[J]. 雷达学报 2018(04)
    • [25].某类分布参数MLE与Bayes估计相等的关系[J]. 佳木斯大学学报(自然科学版) 2013(06)
    • [26].基于最大似然估计算法实现空气温度分布的可视化[J]. 实验室研究与探索 2014(05)
    • [27].泊松分布中一个参数的两个最大似然估计的比较[J]. 大学数学 2008(01)
    • [28].零均值高斯AR(p)模型参数的最小化残差平方和(RSS)下条件最大似然估计及其最优性[J]. 统计与决策 2009(06)
    • [29].基于导频信号和最大似然估计算法的离散小波包调制的研究[J]. 电子测试 2009(07)
    • [30].二元Marshall-Olkin型指数分布的矩估计及最大似然估计[J]. 高等数学研究 2018(03)

    标签:;  ;  ;  ;  

    优化方法综述
    下载Doc文档

    猜你喜欢