支持向量机是当今机器学习领域的一个研究热点.在支持向量机中,Twin支持向量机是一个颇具特色的新方法,因而由它产生了一小类方法-Twin型支持向量机。Twin型支持向量机正处于快速发展的阶段。由于它与最优化理论与技术有着紧密的内在联系,本项目拟从最优化角度研究Twin型支持向量机。包括构建新模型,研究模型中最优化问题的求解方法,以及模型中的参数选择问题。除了标准的两类分类问题外,还将研究多类分类问题、顺序回归问题、多示例多标记问题和数据带有不确定性的问题。对于应用,拟研究具有本地区特色的维吾尔语连续语音关键词识别问题。发掘该具体问题的特点,针对其特点建立更有效的基于Twin型支持向量机的模型和更有效的求解方法。
Optimization method;Twin support vector machine;Classification problem;Regression problem;Ordinal regression problem
支持向量机是机器学习领域中的 一个研究热点。Twin支持向量机是支持向量机中的一个新分支,它利用不平行超平面的思想构建了两个小规模的二次规划问题,使其具有更好的推广能力。本项目主要从最优化的角度研究基于Twin支持向量机的新模型。首先,针对分类问题,建立了不平行超平面分类机。主要包括两类分类问题、多类分类问题和半监督分类问题为主要问题,利用Twin支持向量机的不平行超平面原理,构建了一个不平行超平面分类机的框架,通过改变正则项的范数和损失函数,可得到不同的分类模型。其次,针对回归问题,提出了基于Twin支持向量机的新模型。具体包括非平行epsilon-带支持向量回归机、最小二乘双支持向量回归机以及求解算法,并应用到了风电功率预测中。再次,针对顺序回归问题的不同输入模式,如向量输入、矩阵输入和张量输入,建立了基于Twin支持向量机的不平行超平面思想的顺序回归机模型。最后,针对数据带有不确定性的问题建立了稳健的Twin支持向量机,并对解的存在唯一性做了理论分析。项目执行期间共发表论文22篇,获得奖励2个,培养研究生10名。