位置:成果数据库 > 期刊 > 期刊详情页
集成Dropout极限学习机数据分类方法
  • ISSN号:1001-4616
  • 期刊名称:《南京师大学报:自然科学版》
  • 时间:0
  • 分类:TP181[自动化与计算机技术—控制科学与工程;自动化与计算机技术—控制理论与控制工程]
  • 作者机构:[1]河北省机器学习与计算智能重点实验室,河北大学数学与信息科学学院,河北保定071002, [2]浙江师范大学数理与信息工程学院,浙江金华321004, [3]河北大学计算机科学与技术学院,河北保定071002
  • 相关基金:国家自然科学基金项目(71371063)、河北省自然科学基金项目(F2017201026)、浙江省计算机科学与技术重中之重学科(浙江师范大学)
中文摘要:

极限学习机(Extreme Learning Machine,ELM)是一种速度快,泛化能力强的训练单隐含层前馈神经网络(Single-hidden Layer Feed-forward Neural-network,SLFN)的算法.但是在应用ELM解决实际问题时,需要先确定合适的SLFN结构.然而,对于给定的问题,确定合适的SLFN结构是非常困难的.针对这一问题,本文提出了一种集成学习方法.用该方法解决问题时,不需要事先确定SLFN的结构.提出的方法包括3步:(1)初始化一个比较大的SLFN;(2)用ELM重复训练若干个Dropout掉若干个隐含层结点的SLFNs;(3)用多数投票法集成训练好的SLFNs,并对测试样例进行分类.在10个数据集上进行了实验,比较了本文提出的方法和传统的极限学习机方法.实验结果表明,本文提出的方法在分类性能上优于传统的极限学习机算法.

英文摘要:

Extreme learning machine ( ELM) is an algorithm for training single-hidden layer feed-forward neural-network (SLFN) with fast speed and good generalization. It is indispensable to firstly select an appropriate architecture of SLFN when applying ELM to solve practical problems. However. It is very difficult to select an appropriate architecture of SLFN.In order to deal with this problem,an ensemble learning method is proposed in this paper. It is unnecessary to select the appropriate architecture of SLFN when using the proposed method to solve the problems. The proposed method includes 3 steps :( 1) initialize a big SLFN; (2 ) retrain some SLFNs with dropout hidden nodes with ELM; (3 ) th e trained SLFNs are integrated by majority voting method, and the integrated model is used to classify testing instances. We experimentally compared the proposed approach with traditional ELM on 10 data sets, and the experimental results confirm that the proposed apprach outperforms the traditional ELM on performance of classification.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《南京师大学报:自然科学版》
  • 中国科技核心期刊
  • 主管单位:江苏省教育厅
  • 主办单位:南京师范大学
  • 主编:王建
  • 地址:南京市宁海路122号
  • 邮编:210097
  • 邮箱:lkxb@njnu.edu.cn
  • 电话:025-83598632
  • 国际标准刊号:ISSN:1001-4616
  • 国内统一刊号:ISSN:32-1239/N
  • 邮发代号:
  • 获奖情况:
  • 全国优秀自然科学学报,江苏省优秀自然科学学报,江苏省优秀期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,美国化学文摘(网络版),美国数学评论(网络版),德国数学文摘,美国生物科学数据库,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版)
  • 被引量:5985