位置:成果数据库 > 期刊 > 期刊详情页
朴素贝叶斯算法的MapReduce并行化分析与实现
  • ISSN号:1673-629X
  • 期刊名称:计算机技术与发展
  • 时间:2013
  • 页码:-
  • 分类:TP31[自动化与计算机技术—计算机软件与理论;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]同济大学计算机科学与技术系,上海201804, [2]上海证券交易所,上海200120, [3]上海师范大学信息与机电工程学院,上海200234, [4]上海市陈家镇建设发展有限公司,上海202162
  • 相关基金:国家自然科学基金资助项目(61103069,71170148);国家科技计划课题(2012BAD35801);上海市科技创新计划(11Dz1501703);上海信息化发展专项基金(20091015);上海市科技创新计划(陈家镇)(11Dz1210600)
  • 相关项目:基于语义计算的高维复杂数据降维理论与实证研究
中文摘要:

朴素贝叶斯方法是一种高效的分类算法,但在处理海量数据时由于内存和L/0等资源的局限,该算法的效率受到极大影响。文中针对朴素贝叶斯分类算法特点,给出了基于MapReduce编程模型的实现朴素贝叶斯分类算法的方法。训练集内文件被分割进行处理,核心处理过程由MapReduce完成,M印函数完成对训练文件的解析,Reduce函数完成类别属性和特征属性知识库的构建。实验主要比较了传统算法和改进并行算法的性能,结果表明:在大数据量的情况下使用Ma—pReduce并行化的朴素贝叶斯算法具有良好的执行效率与较高的扩展性。

英文摘要:

Abstract:Naive Bayes is an efficient algorithm. Due to the limitation of memory and I/O resources, the efficiency of the algorithm has been greatly affected in mass data processing. In this paper,proposed a novel Naive Bayes algorithm based on MapReduce programming model. Training set is cut apart before being processed. The core processing procedure is accomplished by MapReduce model. Extraction and parsing of the training set are processed in the Map function. Knowledge base of class and feature attributes are built in the Reduce function. In the experiments, mainly compare the performance of both the traditional algorithm and the improved parallel algorithm. The result of experiments shows that the parallel Naive Bayes algorithm has good efficiency and high scalability in mass data processing.

同期刊论文项目
期刊论文 74 会议论文 15 获奖 1 著作 1
同项目期刊论文
期刊信息
  • 《计算机技术与发展》
  • 中国科技核心期刊
  • 主管单位:陕西省工业和信息化厅
  • 主办单位:陕西省计算机学会
  • 主编:王守智
  • 地址:西安市雁塔路南段99号
  • 邮编:710054
  • 邮箱:ctad@vip.163.com
  • 电话:029-85522163
  • 国际标准刊号:ISSN:1673-629X
  • 国内统一刊号:ISSN:61-1450/TP
  • 邮发代号:52-127
  • 获奖情况:
  • 《CAJ-CD规范》执行优秀期刊
  • 国内外数据库收录:
  • 中国中国科技核心期刊
  • 被引量:21263