位置:成果数据库 > 期刊 > 期刊详情页
基于压缩直方图的劣质数据库上相似连接结果大小估计
  • ISSN号:1000-1220
  • 期刊名称:小型微型计算机系统
  • 时间:2012.10.10
  • 页码:2113-2120
  • 分类:TP311[自动化与计算机技术—计算机软件与理论;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]哈尔滨工业大学计算机科学与技术学院,哈尔滨150001
  • 相关基金:国家“九七三”重点基础研究发展计划项目(2012CB316200)资助; 国家自然科学基金项目(61003046)资助; 教育部博士点基金项目(20102302120054)资助
  • 相关项目:数据质量管理中实体识别关键技术的研究
中文摘要:

现代数据管理系统普遍存在劣质数据,影响了数据质量,给数据管理带来了新的挑战.已经有不少管理劣质数据的数据模型,实体关系数据模型就是其中一种,该模型允许劣质数据的存在,并给出衡量数据质量的方法,并且可根据对结果质量的需求给出查询结果.鉴于该模型的特点,传统的估计查询代价的优化方法很难再适用,需要新的代价估计技术.本文提出了一种新的估计连接结果大小的方法.使用加权的最小哈希函数获得某一属性的最小哈希签名,这使得属性具有相同维数,便于利用直方图进行快速估计;然后建立其直方图,最后使用改进的离散余弦变换压缩直方图信息,使用压缩信息直接进行代价估计,这使得即使对于高维数据也能保证低错误率和低存储代价.此外,此方法可以很好的支持动态数据更新,消除周期性重建直方图的时间开销.

英文摘要:

Modern data management systems widespread of dirty data,which affects the quality of the data and brings new challenges for data management.Many methods for dirty data management have been proposed,and one of them is entity-based relational database in which one tuple represents an entity.The model allows the existence of poor quality data,and proposes the representation of data quality,data quality operators with the requirement of result data quality.In view of the characteristics of the model,the traditional query optimizations difficult to apply,we need new cost estimation techniques.This paper presents a new method to estimate the size of the join results.Using the weighted min-hash,we can get the min-hash signature of a property,which makes the property with the same dimensions and easy to use histogram to perform estimation,and then create its histogram,and finally use the improved discrete cosine transform to compress histogram information,which makes even for high dimensional data to ensure low error rate and low storage cost.We can use the compressed information directly to the cost estimation.In addition,this method can support dynamic data updates very well,which eliminate the need to periodically rebuild the histogram.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《小型微型计算机系统》
  • 中国科技核心期刊
  • 主管单位:中国科学院
  • 主办单位:中国科学院沈阳计算技术研究所
  • 主编:林浒
  • 地址:沈阳市浑南新区南屏东路16号
  • 邮编:110168
  • 邮箱:xwjxt@sict.ac.cn
  • 电话:024-24696120 024-24696190-8870
  • 国际标准刊号:ISSN:1000-1220
  • 国内统一刊号:ISSN:21-1106/TP
  • 邮发代号:8-108
  • 获奖情况:
  • 中国自然科学核心期刊,中国科学引文数据库来源期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,波兰哥白尼索引,荷兰文摘与引文数据库,美国剑桥科学文摘,英国科学文摘数据库,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:23212