位置:成果数据库 > 期刊 > 期刊详情页
高维数据中鲁棒激活函数的极端学习机及线性降维
  • ISSN号:1000-1239
  • 期刊名称:计算机研究与发展
  • 时间:2014.5.21
  • 页码:1331-1340
  • 分类:TP391[自动化与计算机技术—计算机应用技术;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]大连理工大学电子信息与电气工程学部计算机科学与技术学院,辽宁大连116024, [2]大连理工大学创新实验学院,辽宁大连116024
  • 相关基金:国家自然科学基金项目(61173163,51105052);辽宁省自然科学基金项目(201102037)
  • 相关项目:基于流形学习和时序语义网挖掘的人体运动序列分析研究
中文摘要:

极端学习机(extreme learning machine,ELM)训练速度快、分类率高,已经广泛应用于人脸识别等实际问题中,并取得了较好的效果.但实际问题中的数据往往维数较高,且经常带有噪声及离群点,降低了ELM算法的分类率.这主要是由于:1)输入样本维数过高;2)激活函数选取不当.以上两点使激活函数的输出值趋于零,最终降低了ELM算法的性能.针对第1个问题,提出一种鲁棒的线性降维方法(RAF-global embedding,RAF-GE)预处理高维数据,再通过ELM算法对数据进行分类;而对第2个问题,深入分析不同激活函数的性质,提出一种鲁棒激活函数(robust activation function,RAF),该激活函数可尽量避免激活函数的输出值趋于零,提升RAF-GE及ELM算法的性能.实验证实人脸识别方法的性能普遍优于使用其他激活函数的对比方法.

英文摘要:

Extreme learning machine ELM),with the advantage of fast training and high classification accuracy,has been widely used in practical applications (for example,face recognition) and got good result.While ELM algorithm is often severely affected by noise and outliers in highdimensional real word datasets,which will reduce the accuracy rate of ELM.This should be attributed to the following two reasons:1) the high dimensionalities of input samples; 2) improper selection of activation function.The two reasons above result in that the outputs of activation functions are approaching zero,which finally reduce the performance of ELM.As for the first problem,we propose a robust linear dimensionality reduction method,RAF-Global Embedding (RAF-GE),to preprocess the high dimensional data and then classify the data with ELM.While for the second one,we give an in-depth analysis of different activation function and propose a robust activation function (RAF) which can avoid the outputs of activation function approaching zero,thus it can improve the performance of RAF-GE and ELM as well.The experiment results show that the performance of face recognition method in this paper generally outperforms the comparing methods with other activation function.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《计算机研究与发展》
  • 中国科技核心期刊
  • 主管单位:中国科学院
  • 主办单位:中国科学院计算技术研究所
  • 主编:徐志伟
  • 地址:北京市科学院南路6号中科院计算所
  • 邮编:100190
  • 邮箱:crad@ict.ac.cn
  • 电话:010-62620696 62600350
  • 国际标准刊号:ISSN:1000-1239
  • 国内统一刊号:ISSN:11-1777/TP
  • 邮发代号:2-654
  • 获奖情况:
  • 2001-2007百种中国杰出学术期刊,2008中国精品科...,中国期刊方阵“双效”期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,荷兰文摘与引文数据库,美国工程索引,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:40349