位置:成果数据库 > 期刊 > 期刊详情页
Hadoop 平台的多队列作业调度优化方法研究
  • ISSN号:1001-3695
  • 期刊名称:《计算机应用研究》
  • 时间:0
  • 分类:TP312[自动化与计算机技术—计算机软件与理论;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]湖北经济学院实验教学中心,武汉430205, [2]华中科技大学电子与信息工程系,武汉430074
  • 相关基金:国家科技支撑计划资助项目(2012BAH93F01);国家自然科学基金资助项目(60803005)
中文摘要:

对Hadoop平台的作业调度算法进行了研究,提出了支持作业类型区分的多队列调度优化算法。优化算法支持根据节点当前的负载情况分配不同类型的作业,以提高节点的资源利用率;允许作业队列的资源在闲置时被其他作业队列占用;在原作业队列需要时可以被即时回收,即回收过程支持任务抢占;采用共享队列列表和非共享队列列表的逻辑划分来防止乒乓效应。Hadoop平台的性能测试结果表明,优化算法相比系统默认算法在作业调度的执行效率、执行平稳性等方面都有了显著的提升。

英文摘要:

This paper discussed some job scheduling algorithms for Hadoop platform, and proposed a novel scheduling optimi- zation algorithm based on multi-queue which provided differentiated services based on the type of jobs. Firstly, it assigned the different type of jobs to the opposite node according to its current load so as to increasing the resource efficiency of nodes. Secondly, it allowed the available resource of job queue to be occupied by the other job queues, meanwhile, the occupied re- sources could be reclaimed by preemptive strategies. Finally, it could prevent the ping-pong effect by the logical division of the shared queue list and the non-shared queue list. The experiments on Hadoop cloud computing platform compared the proposed algorithm with the default native algorithms. Results show that it has a significant improvement in execution efficiency and sta- bility of job scheduling.

同期刊论文项目
期刊论文 23 会议论文 5 专利 3
同项目期刊论文
期刊信息
  • 《计算机应用研究》
  • 北大核心期刊(2011版)
  • 主管单位:四川省科学技术厅
  • 主办单位:四川省计算机研究院
  • 主编:刘营
  • 地址:成都市成科西路3号
  • 邮编:610041
  • 邮箱:arocmag@163.com
  • 电话:028-85210177 85249567
  • 国际标准刊号:ISSN:1001-3695
  • 国内统一刊号:ISSN:51-1196/TP
  • 邮发代号:62-68
  • 获奖情况:
  • 第二届国家期刊奖百种重点科技期刊,国内计算技术类重点核心期刊,国内外著名数据库收录期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,波兰哥白尼索引,英国科学文摘数据库,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:60049