位置:成果数据库 > 期刊 > 期刊详情页
增量式最小二乘法分类器与增量式支持向量机的对比
  • 期刊名称:小型微型计算机系统
  • 时间:0
  • 页码:493-498
  • 语言:中文
  • 分类:TP18[自动化与计算机技术—控制科学与工程;自动化与计算机技术—控制理论与控制工程] TP301[自动化与计算机技术—计算机系统结构;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]复旦大学计算机科学技术学院,上海200433
  • 相关基金:国家“九七三”重点基础研究发展计划项目(2010CB327906)资助;国家自然科学基金项目(60873178,60875003)资助;上海市研究与发展基金项目(08511500902)资助.
  • 相关项目:特征抽取的增量式学习算法及其在可移动机器人中的应用研究
中文摘要:

在处理大规模数据时,近似支持向量机及其增量式版本(ISVM)是一种比传统支持向量机更加简单而有效的分类器.但在处理高维数据时,由于ISVM通过计算矩阵的逆来更新模型参数,这使得其计算效果有待提高.针对上述问题,本文提出了基于最小二乘法的增量式方法.该增量式方法通过对矩阵运算的恒等推导,把矩阵求逆问题转变成了除法运算,得到了简单的模型参数更新公式,从而获得了和ISVM同样的预测精度,且在处理高维数据时运行效率更高.在合成数据及图像和生物数据上的试验袁明该增量式方法优于ISVM方法.

英文摘要:

Proximal support vector machine (PSVM) and its incremental version( ISVM) are much simple but more effective classifiers than traditional support vector machines ( SVMs), for dealing with large volume data. Nevertheless, the computational efficiency of the ISVM for high dimensional data is still unsatisfactory, mainly because that it requires explicit matrix inversion for updating model parameter. In this paper, we propose an incremental solution which relies on least squares to get identical prediction accuracy to that of ISVM, but is more efficient for high dimensional data. More specifically, we solve incremental least squares problem by identically transforming the matrix inversion into simple division operation, and obtain simple formulas of model updating. Experimental results on synthetic and real-world ( image and biological data) confirm that the proposed incremental classifier obtains the same pre- diction accuracy as that of the ISVM, moreover, the proposed method performs much better than ISVM for high dimensional data.

同期刊论文项目
期刊论文 7 会议论文 21 专利 9
同项目期刊论文