位置:成果数据库 > 期刊 > 期刊详情页
用户定制主题聚焦爬虫的设计与实现
  • ISSN号:1000-7024
  • 期刊名称:《计算机工程与设计》
  • 时间:0
  • 分类:TP311[自动化与计算机技术—计算机软件与理论;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]清华大学电子工程系信息认知与智能系统研究所,北京100084, [2]清华大学信息科学与技术国家实验室,北京100084
  • 相关基金:国家863高技术研究发展计划基金项目(2012AA011004); 清华大学自主科研基金项目(20111081023); 国家基金委前瞻计划基金项目(61161140454)
中文摘要:

传统的聚焦爬虫在主题未知或者缺少相应训练集的情况下无法完成主题爬行。为让聚焦爬虫具有更好的主题适应性,提出基于聚类算法的自适应主题模型,指导聚焦爬虫在只有少量相同主题(主题未知)初始url的情况下完成主题爬行。通过对初始页面聚类得到主题中心向量,寻找相关网页更新主题中心位置;基于best-first策略实现url排序;基于该模型实现用户定制主题聚焦爬虫。通过对比实验验证了使用该模型的爬虫具有较高的收获比(havest rate)。

英文摘要:

The traditional focused crawler can not work without train sets of correspond topics. To make the focused crawler adapt to more topics, a clustering-based adaptive topic model was proposed, which helped the focused crawler to work with some url with the same topic. The topic vector was obtained by clustering the initial page, and correspond page was found out to update the topic vector, the url with the best-first strategy was ordered then. Based on the adaptive topic model, a user customized topic focused crawler was implemented. Finally, an experiment was executed. The results prove the focused crawler with the adaptive topic model performs well.

同期刊论文项目
期刊论文 40 会议论文 31
同项目期刊论文
期刊信息
  • 《计算机工程与设计》
  • 北大核心期刊(2011版)
  • 主管单位:中国航天科工集团
  • 主办单位:中国航天科工集团二院706所
  • 主编:汤铭瑞
  • 地址:北京142信箱37分箱
  • 邮编:100854
  • 邮箱:ced@china-ced.com
  • 电话:010-68389884
  • 国际标准刊号:ISSN:1000-7024
  • 国内统一刊号:ISSN:11-1775/TP
  • 邮发代号:82-425
  • 获奖情况:
  • 中国科学引文数据库来源期刊,中国学术期刊综合评价数据库来源期刊,中国科技论文统计与分析用期刊
  • 国内外数据库收录:
  • 波兰哥白尼索引,美国剑桥科学文摘,英国科学文摘数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版)
  • 被引量:45616