L1-正则的最小二乘回归的加速随机梯度逼近算法

对随机优化算法的收敛速度问题进行深入研究,考虑目标函数由L1正则项组成的最小二乘回归问题,提出一个有效的加速随机逼近算法。基于一个非强凸性的条件和利用一个光滑函数近似L1正则项,讨论了学习算法的收敛速度,并得到算法的收敛速度为Ο（1n n/n）。该结论优于前人的收敛结果■。

0 引言

1 算法的提出

2 算法的收敛性分析

3数值实验

4结语

类型: 期刊论文

作者: 程一元,费经泰

关键词: 随机优化,最小二乘,学习算法,收敛速度

来源: 巢湖学院学报 2019年06期

年度: 2019

分类: 社会科学Ⅱ辑,信息科技

专业: 自动化技术

单位: 巢湖学院数学与统计学院,安徽建筑大学城市建设学院基础部

基金: 安徽省高校青年人才支持项目(项目编号:gxyq2019082),巢湖学院校级科研项目(项目编号:XLY-201903),巢湖学院省级大学生创新创业训练计划项目(项目编号:S201910380067)

分类号: TP181

页码: 70-74

总页数: 5

文件大小: 528K

下载量: 18