自适应学习率算法论文

优化方法综述
论文摘要优化方法是优化问题中模型求解参数的方法,它通过降低代价函数来间接提高模型性能。本文首先从梯度下降引入,依次概述了梯度下降的变体、自适应学习率算法,以及其他方面的优化方法...