位置:成果数据库 > 期刊 > 期刊详情页
基于Deep Web Search技术的主题式爬虫模块研究与设计
  • ISSN号:1000-7857
  • 期刊名称:科技导报
  • 时间:2011
  • 页码:31-35
  • 分类:TP311[自动化与计算机技术—计算机软件与理论;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]广东交通职业技术学院,广州510650, [2]华南师范大学物理与电信工程学院,广州510006, [3]华南理工大学计算机科学与工程学院,广州510040
  • 相关基金:广东省交通科技项目(2007-27); 国家自然科学基金项目(61072028)
  • 相关项目:基于单光子探测的微波集成电路的缺陷检测
作者: 孟敬|刘寿强|
中文摘要:

随着Web技术的飞速发展,海量数据的管理与搜索变得尤为重要。海量信息的异构性和动态性特点要求信息集成需要Web爬虫来自动获取这些页面,以便进一步处理数据。而一些企业内部的资料既要保密又要供不同的内部职员使用,这种既开放又保守的特点成为企业发展的瓶颈。为了帮助用户完成这样的任务,本文改变传统的资源共享形式,为企业提供了一个高效便利保密的资源共享管理平台--企业搜索引擎(ESE),提出了一种基于主题式爬虫的Deep Web页面的企业搜索引擎(ESE)的和基于开源Java Lucene的索引企业搜索系统设计与实现方法。通过在电信行业Deep Web站点部署实验,经运行检验,结果达到了设计指标要求,为电信行业搜索发挥了作用。并对搜索的精度、速度,以及垃圾网页反舞弊等方面研究进行了展望。

英文摘要:

As the web rapidly grows,massive data management and search becomes particularly important.Heterogeneous mass information and dynamic characteristics of information integration require Web crawlers to automatically access these Web pages in order to further process the data,the internal confidential information of enterprises must be only used by different internal staffs,the openness and conservative features become the major bottleneck for the enterprise development.To help out this task,some forms of the traditional resource sharing are changed,an efficient,convenient,and confidential resource sharing management platform-Enterprise Search Engine(ESE) is provided,and the design and implementation method for Deep Web ESE based on topical crawl and indexed enterprise search systems based on open source Java Lucene is proposed.After the deployment and experiment of Deep Web site in the telecommunications industry,the results are proved to meet the design target.It plays an important role in the telecommunications industry.Finally,the studies on the search accuracy and speed,anti-spam pages and fraud,etc are looked forward.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《科技导报》
  • 北大核心期刊(2011版)
  • 主管单位:中国科学技术协会
  • 主办单位:中国科学技术协会
  • 主编:项昌乐
  • 地址:北京市海淀区学院南路86号科技导报社
  • 邮编:100081
  • 邮箱:kjdbbjb@cast.org.cn
  • 电话:010-62138113
  • 国际标准刊号:ISSN:1000-7857
  • 国内统一刊号:ISSN:11-1421/N
  • 邮发代号:2-872
  • 获奖情况:
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,美国化学文摘(网络版),英国农业与生物科学研究中心文摘,波兰哥白尼索引,美国乌利希期刊指南,美国剑桥科学文摘,英国科学文摘数据库,中国中国科技核心期刊,中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版)
  • 被引量:24858