位置:成果数据库 > 期刊 > 期刊详情页
一种结合词项语义信息和TF-IDF方法的文本相似度量方法
  • ISSN号:0254-4164
  • 期刊名称:《计算机学报》
  • 时间:0
  • 分类:TP311[自动化与计算机技术—计算机软件与理论;自动化与计算机技术—计算机科学与技术]
  • 作者机构:[1]中山大学信息科学与技术学院,广州510006, [2]广东金融学院计算机科学与技术系,广州510520
  • 相关基金:国家自然科学基金(61033010); 国家科技重大专项基金(2008ZX10005-013); 广东省科技计划项目(2009A080207005,2009B090300450,2010A040303004)资助~~
中文摘要:

传统的文本相似度量方法大多采用TF-IDF方法把文本建模为词频向量,利用余弦相似度量等方法计算文本之间的相似度.这些方法忽略了文本中词项的语义信息.改进的基于语义的文本相似度量方法在传统词频向量中扩充了语义相似的词项,进一步增加了文本表示向量的维度,但不能很好地反映两篇文本之间的相似程度.文中在TF-IDF模型基础上分析文本中重要词汇的语义信息,提出了一种新的文本相似度量方法.该方法首先应用自然语言处理技术对文本进行预处理,然后利用TF-IDF方法寻找文本中具有较高TF-IDF值的重要词项.借助外部词典分析词项之间的语义相似度,结合该文提出的词项相似度加权树以及文本语义相似度定义计算两篇文本之间的相似度.最后利用文本相似度在基准文本数据集合上进行聚类实验.实验结果表明文中提出的方法在基于F-度量值标准上优于TF-IDF以及另一种基于词项语义相似性的方法.

英文摘要:

Traditional text similarity measurements use TF-IDF method to model text documents as term frequency vectors,and compute similarity between text documents by using cosine similarity.These methods ignore semantic information of text documents,and semantic information enhanced methods distinguish between text documents poorly because extended vectors with semantic similar terms aggravate the curse of dimensionality.This paper proposes a similarity measurement,which is based on TF-IDF method,and analyzes similarity between important terms in text documents.This approach uses NLP technology to pre-process text,and uses TF-IDF method to filter those key terms that have higher TF-IDF value than other common terms.With the proposed data structure TSWT(Term Similarity Weight Tree) and the definition of semantic similarity,this paper resolves the semantic information of those key terms to compute similarities between text documents.Finally,several K-Means clustering methods is used for evaluating performance of the new text document similarity.By comparing with TF-IDF and another the-state-of-art semantic information based similarity method,experimental results on benchmark corpus demonstrate that it can promote the evaluation metrics of F-Measure.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《计算机学报》
  • 北大核心期刊(2011版)
  • 主管单位:中国科学院
  • 主办单位:中国计算机学会 中国科学院计算技术研究所
  • 主编:孙凝晖
  • 地址:北京中关村科学院南路6号
  • 邮编:100190
  • 邮箱:cjc@ict.ac.cn
  • 电话:010-62620695
  • 国际标准刊号:ISSN:0254-4164
  • 国内统一刊号:ISSN:11-1826/TP
  • 邮发代号:2-833
  • 获奖情况:
  • 中国期刊方阵“双效”期刊
  • 国内外数据库收录:
  • 美国数学评论(网络版),荷兰文摘与引文数据库,美国工程索引,美国剑桥科学文摘,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:48433