《计算机应用研究》|Application Research of Computers

基于自适应动量优化算法的正则化极限学习机

Adaptive and momentum method for regularized extreme learning machine

免费全文下载 (已被下载 次)  
获取PDF全文
作者 王粲,夏元清,邹伟东
机构 北京理工大学
统计 摘要被查看 次,已被下载
摘要 针对极限学习机(Extreme Learning Machine,ELM)隐节点不确定性导致的系统不稳定,以及对大型数据计算负担过重的问题,提出了基于自适应动量优化算法(The Adaptive and Momentum Method,AdaMom)的正则化极限学习机。算法主要思想是构造连续可微的目标函数,在梯度下降过程中计算自适应学习率,求自适应学习率与梯度乘积的指数加权平均值,通过迭代得到损失函数最小值对应的隐层输出权重矩阵。实验结果表明,在相同基准数据集的训练中,AdaMom-ELM算法具有非常良好的泛化性能和鲁棒性,提高了计算效率。
关键词 机器学习;极限学习机;梯度下降;模型优化;数据分类;泛化性能;鲁棒性
基金项目 国家重点研发计划资助项目(2018YFB1700400)
国家自然科学基金资助项目(61906015,61836001)
本文URL http://www.arocmag.com/article/02-2021-05-032.html
收稿日期
修回日期
页码 -
中图分类号 TP3
文献标志码