位置:成果数据库 > 期刊 > 期刊详情页
集群资源统一管理和调度技术综述
  • ISSN号:1000-5641
  • 期刊名称:《华东师范大学学报:自然科学版》
  • 时间:0
  • 分类:TP303[自动化与计算机技术—计算机系统结构;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]华东师范大学软件学院,上海200062, [2]浙江理工大学经济管理学院,杭州310018
  • 相关基金:浙江省自然科学基金(LY12F02044);国家自然科学基金(61332006)
中文摘要:

随着互联网的快速发展和大数据的来临,基于数据密集型应用的集群计算框架不断涌现,并且这些计算框架都只面向某一类特定领域的应用.基于这一特点,互联网公司往往需要部署和运行多个计算框架,从而为每个应用选择最优的计算框架.因此,资源统一管理和调度系统作为集群共享平台被提出来.集群资源统一管理和调度系统需要同时支持多种不同计算框架,如何管理集群计算资源和不同计算框架间的资源公平分配成为关键技术难点.不同计算框架的作业是异构的,如何在不同框架间进行作业调度,以充分利用集群资源和提高系统吞吐量,成为了新的挑战.本文针对现有的资源管理系统和应用需求特点,研究和分析了集群资源管理和调度的关键技术,并对现有的集群资源管理技术存在的问题和未来发展进行了探讨.

英文摘要:

With the rapid development of Internet and the coming of big data, resource manage- ment system, a thin resource sharing layer that enables sharing cluster across diverse cluster computing frameworks, by giving frameworks a sources, For powering both large Internet services common interface for accessing cluster reand a growing number of data-intensive scientific applications, cluster computing framework will continue emerge, and no framework will be optimal for all applications. Therefore multiplexing a cluster between frameworks makes significant difference. Deploying and running multiple frameworks in the same cluster, improves utilization and allowing applications to share access to large datasets that may be costly to replicate across clusters. This paper is aimed to illustrate current maior techniques of resource management and scheduling in cluster, including resource representation model, resource allocation model and scheduling policy. Finally, current prominent solutions, which have been developed and used by many companies, will be demonstrated, and we then summary and contrast these solutions used in recent years.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《华东师范大学学报:自然科学版》
  • 中国科技核心期刊
  • 主管单位:中华人民共和国教育部
  • 主办单位:华东师范大学
  • 主编:郑伟安
  • 地址:上海中山北路3663号
  • 邮编:200062
  • 邮箱:xblk@xb.ecnu.edu.cn
  • 电话:021-62233703
  • 国际标准刊号:ISSN:1000-5641
  • 国内统一刊号:ISSN:31-1298/N
  • 邮发代号:4-359
  • 获奖情况:
  • 中国综合性科技类核心期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,美国化学文摘(网络版),美国数学评论(网络版),德国数学文摘,美国剑桥科学文摘,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:6600