位置:成果数据库 > 期刊 > 期刊详情页
基于坐标下降邻域选择的高斯图模型结构并行估计
  • ISSN号:0469-5097
  • 期刊名称:《南京大学学报:自然科学版》
  • 时间:0
  • 分类:TP311[自动化与计算机技术—计算机软件与理论;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]江苏省大数据分析技术重点实验室,南京信息工程大学,南京210044, [2]南京信息工程大学电子与信息工程学院,南京210044
  • 相关基金:国家自然科学基金(61402232,61532009,61522308); 江苏省自然科学基金(BK20141003,BK2012045)
中文摘要:

在许多机器学习问题中,往往需要研究高维数据中各个特征之间的统计相关性.稀疏高斯图模型作为解决这一问题的有效方法之一,广泛应用于数据挖掘、生物信息、金融分析等应用问题中.由于模型参数量是数据维度的平方量级,基于高维数据的稀疏高斯图模型的参数估计一直是统计机器学习研究中的挑战性问题之一.提出了一种新颖的基于坐标下降优化的稀疏高斯图模型并行估计算法,其核心思想是根据高斯图模型结构估计等价于每个变量的稀疏近邻选择这一基本结论,采用坐标下降来求解每个近邻选择子问题.通过将样本矩阵进行分布式存储,在MPI(Message-Passing Interface)框架下实现了这些子问题的并行求解.实验结果表明,该算法具有良好的并行运算性能,在保证结构估计精度的同时,能够大幅度提升运算速度.

英文摘要:

In many machine learning tasks,it is necessary to investigate the statistical relationship among a set of high dimensional random variables.As an effective approach to solve this problem,sparse Gaussian Graphical Models(GGMs)has been widely applied to data mining,bioinformatics and financial analysis applications.Due to the high scale of model parameters as a square of data dimensionality,sparse GGMs learning remains a challenge problem especially in high dimensional settings.To address this problem,we propose in this paper a novel coordinate descent procedure to recover the sparse graph structure in a decentralized way.The core idea is based on the fact that sparse GGMs can be recovered by neighbor selection Lasso programs.We propose to apply coordinate descent optimization to each individual Lasso subproblem.When the samples are distributed on different machines,the coordinate descentprocedure can be efficiently implemented in a parallel way using the MPI(Message-Passing Interface)framework.Experimental results show that our algorithm is able to significantly improve the running time efficiency,at almost no cost of structure estimation accuracy.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《南京大学学报:自然科学版》
  • 中国科技核心期刊
  • 主管单位:中华人民共和国教育部
  • 主办单位:南京大学
  • 主编:龚昌德
  • 地址:南京汉口路22号南京大学(自然科学版)编辑部
  • 邮编:210093
  • 邮箱:xbnse@netra.nju.edu.cn
  • 电话:025-83592704
  • 国际标准刊号:ISSN:0469-5097
  • 国内统一刊号:ISSN:32-1169/N
  • 邮发代号:28-25
  • 获奖情况:
  • 中国自然科学核心期刊,中国期刊方阵“双效”期刊
  • 国内外数据库收录:
  • 美国化学文摘(网络版),美国数学评论(网络版),德国数学文摘,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:9316