位置:成果数据库 > 期刊 > 期刊详情页
一种能效优化的MapReduce资源比模型
  • ISSN号:0254-4164
  • 期刊名称:计算机学报
  • 时间:2015
  • 页码:59-73
  • 分类:TP311[自动化与计算机技术—计算机软件与理论;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]东北大学软件学院,沈阳110819, [2]东北大学信息科学与工程学院,沈阳110819
  • 相关基金:国家自然科学青年基金(61202088); 中国博士后科学基金面上项目(2013M540232); 中央高校基本科研业务费专项资金(N120817001); 教育部博士点基金(20120042110028)资助
  • 相关项目:云数据库系统能耗优化方法的研究
中文摘要:

随着云计算的快速发展,IT资源规模的不断扩大导致能耗问题日益凸显.为降低MapReduce编程模型带来的高能耗,文中研究Map/Reduce任务的资源消费特征及该特征与能效的关系,旨在寻找一种能够指导资源分配和任务调度的资源模型,进而实现能效优化.文中提出任务的能效与任务被分配的资源量无关,而与其被分配的各种资源的资源量比例相关,且存在一个"最佳资源比"使得能效达到最高.基于此,文中首先提出了普适的资源和能效模型,从模型层面证明最佳资源比和能效之间的关系,量化空闲资源量和空闲能耗;随后分析MapReduce编程模型,将普适资源比模型变换到MapReduce下.通过抽象的数据的"生产者-消费者"模式,求解Map/Reduce任务的最佳资源比;最后,通过实验从任务能效和空闲能耗两个角度证明了最佳资源比的存在,并根据实验结果,对MapReduce执行过程进行划分,给出了部分Map/Reduce任务的最佳资源比.最佳资源比的提出和求解将有利于基于该最佳资源比的任务调度和资源分配算法的研究,进而实现Map/Reduce任务能效的提高.

英文摘要:

With the rapid development of cloud computing,the explosion of IT resources brings serious high energy consumption problems.To optimize energy consumption of MapReduce applications,we analyze resource consumption characteristics of Map/Reduce task and its relationships with energy efficiency,and aim at finding a resource model that could provide guidance on how to optimize energy-efficiency by using more reasonable resource allocation and task scheduling approach.The paper proposes that the energy efficiency of task is irrelevant to the resource quantity allocated to it,but relevant to a certain ratio of multiple allocated resources,and there exists a best resource ratio that maximizes the energy efficiency.On the basis of these theories,firstly,a universal resource and energy efficiency model is proposed,which proves the relationship between best resource ratio and energy efficiency,then idle resource quantity and idle energy consumption is quantified;Secondly,the MapReduce programming model is analyzed,then,universal resource ratio model is adapted to MapReduce;afterwards,the paper derives the value of best resource ratio of MapReduce task through an abstract producer-consumer model of data processing;finally,through experiments,the existence of best resource ratio is proved from perspectives of energy efficiency and idle energy consumption.The MapReduce execution process is divided into phrases on the basis of experiment results,and best resource ratio is also derived.The proposed best resource ratio of task and its derivation could benefit the further study of resource allocation and task scheduling algorithms,which enables energy efficiency optimization of MapReduce applications.

同期刊论文项目
期刊论文 29 会议论文 2 获奖 1
同项目期刊论文
期刊信息
  • 《计算机学报》
  • 北大核心期刊(2011版)
  • 主管单位:中国科学院
  • 主办单位:中国计算机学会 中国科学院计算技术研究所
  • 主编:孙凝晖
  • 地址:北京中关村科学院南路6号
  • 邮编:100190
  • 邮箱:cjc@ict.ac.cn
  • 电话:010-62620695
  • 国际标准刊号:ISSN:0254-4164
  • 国内统一刊号:ISSN:11-1826/TP
  • 邮发代号:2-833
  • 获奖情况:
  • 中国期刊方阵“双效”期刊
  • 国内外数据库收录:
  • 美国数学评论(网络版),荷兰文摘与引文数据库,美国工程索引,美国剑桥科学文摘,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:48433