位置:成果数据库 > 期刊 > 期刊详情页
线性回归模型的Boosting变量选择方法
  • ISSN号:1005-3085
  • 期刊名称:工程数学学报
  • 时间:2015.10.1
  • 页码:677-689
  • 分类:O212.1[理学—概率论与数理统计;理学—数学]
  • 作者机构:[1]信阳师范学院经济与管理学院,信阳464000, [2]西安交通大学数学与统计学院,西安710049, [3]西安工业大学机电工程学院,西安710021
  • 相关基金:国家自然科学基金(11201367;91230101); 国家重点基础研究发展计划973项目(2013CB329406); 河南省社科规划项目(2014BJJ069); 河南省教育厅科学技术研究重点项目(14B910001)
  • 相关项目:面向高维小样本数据的集成分类方法研究
中文摘要:

针对线性回归模型的变量选择问题,本文基于遗传算法提出了一种新的Boosting学习方法.该方法对每一训练个体赋予权重,以遗传算法作为Boosting的基学习算法,将带有权重分布的训练集作为遗传算法的输入进行变量选择.同时,根据前一次变量选择效果的好坏更新训练集上的权重分布.重复上述步骤多次,最后以加权融合方式合并多次变量选择的结果.基于模拟和实际数据的试验结果表明,本文新提出的Boosting方法能显著提高传统遗传算法用于变量选择的质量,准确识别出与响应变量相关的协变量,这为线性回归模型的变量选择提供了一种有效的新方法.

英文摘要:

With respect to variable selection for linear regression models, this paper proposes a novel Boosting learning method based on genetic algorithm. In the novel algorithm, all train- ing examples are firstly assigned equal weights and a traditional genetic algorithm is adopted as the base learning algorithm of Boosting. Then, the training set associated with a weight distribution is taken as the input of genetic algorithm to do variable selection. Subsequently, the weight distribution is updated according to the quality of the previous variable selection results. Through repeating the above steps for multiple times, the results are then fused via a weighted combination rule. The performance of the proposed Boosting method is investigated on some simulated and real-world data. The experimental results show that our method can significantly improve the variable selection performance of traditional genetic algorithm and accurately identify the relevant variables. Thus, the novel Boosting method can be deemed as an effective technique for handling variable selection problems in linear regression models.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《工程数学学报》
  • 北大核心期刊(2011版)
  • 主管单位:教育部
  • 主办单位:西安交通大学
  • 主编:李大潜
  • 地址:西宁市咸宁西路28号西安交通大学数学与统计学院
  • 邮编:710049
  • 邮箱:jgsx@mail.xjtu.edu.cn
  • 电话:029-82667877
  • 国际标准刊号:ISSN:1005-3085
  • 国内统一刊号:ISSN:61-1269/O1
  • 邮发代号:
  • 获奖情况:
  • 《中文核心期刊要目总览》核心期刊,《中国科学引文数据库》核心期刊,《中国数学文摘》核心期刊,陕西省优秀科技期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,美国数学评论(网络版),德国数学文摘,荷兰文摘与引文数据库,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:6741