位置:成果数据库 > 期刊 > 期刊详情页
大数据的整合分析方法
  • ISSN号:1002-4565
  • 期刊名称:统计研究
  • 时间:2015.11.15
  • 页码:3-11
  • 分类:C829.2[社会学—统计学]
  • 作者机构:[1]美国耶鲁大学生物统计系, [2]厦门大学数据挖掘研究中心, [3]湖南大学金融与统计学院, [4]厦门大学经济学院
  • 相关基金:国家统计局重大项目“大数据的统计方法研究”(2012LD001);国家统计局重点项目“大数据线性、理论及处理技术的发展和创新研究”(2013LZ53); 国家社会科学基金重大项目“大数据与统计学理论的发展研究”(13&ZD148);国家社会科学基金青年项目“大数据的高维变量选择方法及其应用研究”(13CTJ001); 国家自然科学基金面上项目“广义线性模型的组变量选择及其在信用评分中的应用”(71471152)资助
  • 相关项目:基于非参数随机森林的分类预测方法及其应用
中文摘要:

大数据具有数据来源差异性、高维性及稀疏性等特点,如何挖掘数据集间的异质性和共同性并降维去噪是大数据分析的目标与挑战之一。整合分析(Integrative Analysis)同时分析多个独立数据集,避免因地域、时间等因素造成的样本差异而引起模型不稳定,是研究大数据差异性的有效方法。它的特点是将每个解释变量在所有数据集中的系数视为一组,通过惩罚函数对系数组进行压缩,研究变量间的关联性并实现降维。本文从同构数据整合分析、异构数据整合分析以及考虑网络结构的整合分析三方面梳理了惩罚整合分析方法的原理、算法和研究现状。统计模拟发现,在弱相关、一般相关和强相关三种情形下,L1Group Bridge、L1Group MCP、Composite MCP都表现良好,其中L1Group Bridge的假阳数最低且最稳定。最后,将整合分析用于研究具有来源差异性的新农合家庭医疗支出,以及具有超高维、小样本等大数据典型特征的癌症基因数据,得到了一些有意义的结论。

英文摘要:

The difference of data source, high dimensionality and sparsity are the main characteristics of big data. How to mining the heterogeneity and association of different datasets and achieve dimension reduction is one of goals and challenges of big data analysis. Integrative analysis provides an effective way of analyzing big data. It simultaneously analyzes multiple datasets, avoiding the model instability from individual variations caused by regional and time factor and so on. The coefficients of each covariate across all datasets are treated as a group and penalty function is used to shrinkage these groups of coefficients to achieve variable selection. In this paper, we review the existing research of penalized integrative analysis from three aspects of homogeneity integrative analysis, heterogeneity integrative analysis and network integrative analysis. Three simulations are conducted to verify the performance of integrative analysis, including weak, moderate and strong correlations. It shows that L1 Group Bridge, L1 Group MCP.Composite MCP perform well, and L1 Group Bridge has the lowest false positive and is most stable. Finally, integrative analysis is applied to analyze the new rural cooperative medical expenditure data with source difference, as well as cancer genetics data with typical characteristics of big data such as super high dimension and small sample.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《统计研究》
  • 北大核心期刊(2011版)
  • 主管单位:国家统计局
  • 主办单位:中国统计学会
  • 主编:万东华
  • 地址:北京西城区月坛南街75号
  • 邮编:100826
  • 邮箱:tjyj@gj.stats.cn
  • 电话:010-68783985
  • 国际标准刊号:ISSN:1002-4565
  • 国内统一刊号:ISSN:11-1302/C
  • 邮发代号:82-14
  • 获奖情况:
  • 国内外数据库收录:
  • 中国中国人文社科核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国社科基金资助期刊,中国国家哲学社会科学学术期刊数据库,中国北大核心期刊(2000版)
  • 被引量:32248