位置:成果数据库 > 期刊 > 期刊详情页
基于Softplus激活函数和改进Fisher判别的ELM算法
  • ISSN号:0254-0037
  • 期刊名称:《北京工业大学学报》
  • 时间:0
  • 分类:U461[机械工程—车辆工程;交通运输工程—载运工具运用工程;交通运输工程—道路与铁道工程] TP308[自动化与计算机技术—计算机系统结构;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]北京工业大学城市交通学院多媒体与智能软件技术北京市重点实验室,北京100124, [2]哈尔滨理工大学应用科学学院,哈尔滨150080
  • 相关基金:国家自然科学基金资助项目(61370119); 北京市自然科学基金资助项目(4132013)
中文摘要:

在极限学习机(extreme learning machine,ELM)网络中,对可加型隐单元的激活函数通常选择的是Sigmoid函数.因此,首先提出一种新型修正线性函数的近似平滑函数Softplus来替代它.Softplus激活函数因为更接近生物学的激活模型且具有一定的稀疏能力,可进一步优化网络性能.其次,为了使ELM算法训练的网络具有更好的分类性能,考虑了类内距和类间距的约束,提出了基于改进Fisher判别约束的ELM算法,从而使解析求得的输出权值更加利于分类,进一步改进了识别性能.最后,在手写数字库和人脸库上的实验证明了改进ELM算法的可行性和优越性.

英文摘要:

In the extreme learning machine(ELM) network,sigmoid activation function is usually chosen for additive hidden neurons.Therefore,this paper replaced this activation function with a smooth approximation called softplus function.Because of being closer to the biological activation model and having certain sparseness,softplus activation function can further optimize network performance.In order to have a better classification performance,the optimization model of ELM by the improved Fisher discriminative analysis was restricted,and animproved ELM algorithm was proposed.Thus the output weights can be obtained analytically and are more conducive for classification.Finally,the experiments on handwritten digit database and face database prove the feasibility and superiority of the improved ELM algorithm.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《北京工业大学学报》
  • 中国科技核心期刊
  • 主管单位:北京市教委
  • 主办单位:北京工业大学
  • 主编:卢振洋
  • 地址:北京市朝阳区平乐园100号
  • 邮编:100124
  • 邮箱:xuebao@bjut.edu.cn
  • 电话:010-67392535
  • 国际标准刊号:ISSN:0254-0037
  • 国内统一刊号:ISSN:11-2286/T
  • 邮发代号:2-86
  • 获奖情况:
  • 中国高等学校自然科学学报优秀学报二等奖,北京市优秀期刊,华北5省市优秀期刊,中国期刊方阵“双效”期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,美国化学文摘(网络版),美国数学评论(网络版),德国数学文摘,荷兰文摘与引文数据库,美国剑桥科学文摘,英国科学文摘数据库,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:11924