位置:成果数据库 > 期刊 > 期刊详情页
Hadoop平台下自响应故障感知的检测技术研究实现
  • ISSN号:1671-4598
  • 期刊名称:《计算机测量与控制》
  • 时间:0
  • 分类:TP3[自动化与计算机技术—计算机科学与技术]
  • 作者机构:首都师范大学信息工程学院,北京100048
  • 相关基金:国家自然科学基金(31571563);北京市属高等学校创新团队建设与教师职业发展计划项目;高可靠嵌入式系统技术北京市工程研究中心.
中文摘要:

当今云计算环境下,Hadoop已经成为大数据处理的事实标准;然而云计算具有大规模、高复杂和动态性的特点,容易导致故障的发生,影响Hadoop上运行的作业;虽然Hadoop具有内置的故障检测和恢复机制,但云环境中不同节点负载大小的变化,被调度的作业仍然导致失败;针对此问题提出自响应故障感知的检测调度方法,对异构环境负载能力的不同,而做出服务器快节点和慢节点的判断,把作业分配调度到合适的节点上执行,调整任务决策来尽可能的防止任务失败的发生;最后在Hadoop框架下与基本调度器进行实验性能比较,结果显示该方法减少作业失败率最高达19%,并缩短了作业执行时间,同时也减少CPU和内存的使用。

英文摘要:

In today's cloud computing environment, Hadoop has become the fact standard for big data processing. However, cloud com- puting has the characteristics of large scale, high complexity and dynamic characteristics, fault occurrence is common, but it often affects the operation of jobs on the Hadoop. Although the Hadoop has a built--in fault detection and recovery mechanism, but the cloud environment, the changes in the load of different nodes, the job is scheduled to still lead to failure. The proposed self response of fault aware scheduling detection method, according to different load capacity of heterogeneous environment, and make fast server nodes and slow nodes judgment, the scheduling of job allocated to the appropriate node , adjust the decision task to prevent mission failure occurred. Finally in the Hadoop framework and basic scheduler were experimental performance compared results show that the method reduce job failure rate of up to 19 % and shorten job execution time, and also reduce the CPU and memory usage.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《计算机测量与控制》
  • 北大核心期刊(2011版)
  • 主管单位:中国航天科工集团公司
  • 主办单位:中国计算机自动测量与控制技术协会
  • 主编:苟永明
  • 地址:北京海淀区阜成路甲8号中国航天大厦405
  • 邮编:100048
  • 邮箱:ly@chinamca.com
  • 电话:010-68371578 68371556
  • 国际标准刊号:ISSN:1671-4598
  • 国内统一刊号:ISSN:11-4762/TP
  • 邮发代号:82-16
  • 获奖情况:
  • 中国学术期刊综合评价数据库来源期刊,中国科技论文统计源期刊,“国家期刊奖百种重点期刊”
  • 国内外数据库收录:
  • 美国剑桥科学文摘,英国科学文摘数据库,中国中国科技核心期刊,中国北大核心期刊(2008版),中国北大核心期刊(2011版)
  • 被引量:27924