L1-正则的最小二乘回归的加速随机梯度逼近算法

L1-正则的最小二乘回归的加速随机梯度逼近算法

论文摘要

对随机优化算法的收敛速度问题进行深入研究,考虑目标函数由L1正则项组成的最小二乘回归问题,提出一个有效的加速随机逼近算法。基于一个非强凸性的条件和利用一个光滑函数近似L1正则项,讨论了学习算法的收敛速度,并得到算法的收敛速度为Ο(1n n/n)。该结论优于前人的收敛结果■。

论文目录

  • 0 引言
  • 1 算法的提出
  • 2 算法的收敛性分析
  • 3数值实验
  • 4结语
  • 文章来源

    类型: 期刊论文

    作者: 程一元,费经泰

    关键词: 随机优化,最小二乘,学习算法,收敛速度

    来源: 巢湖学院学报 2019年06期

    年度: 2019

    分类: 社会科学Ⅱ辑,信息科技

    专业: 自动化技术

    单位: 巢湖学院数学与统计学院,安徽建筑大学城市建设学院基础部

    基金: 安徽省高校青年人才支持项目(项目编号:gxyq2019082),巢湖学院校级科研项目(项目编号:XLY-201903),巢湖学院省级大学生创新创业训练计划项目(项目编号:S201910380067)

    分类号: TP181

    页码: 70-74

    总页数: 5

    文件大小: 528K

    下载量: 18

    相关论文文献

    标签:;  ;  ;  ;  

    L1-正则的最小二乘回归的加速随机梯度逼近算法
    下载Doc文档

    猜你喜欢