百度中文分词技术原理介绍

分词是中文搜索引擎特有的步骤,搜索引擎存储和处理页面及用户搜索都是以词为基础的。英文等语言单词与单词之间有空格分隔,搜索引擎索引程序可以直接把句子划分为单词的集合。而中文词与词之间没有任何分隔符,一个句子中的所有字和词都是连在一起的。

搜索引擎必须首先分辨哪几个字组成一个词,哪些字本身就是一个词。比如“减肥方法”将被分词为''减肥”和“方法”两个词。
 

中文分词方法基本上有两种,一种是基于词典匹配,另一种是基于统计。
 

基于词典匹配的方法是指,将待分析的一段汉字与一个事先造好的词典中的词条进行匹配,在待分析汉字串中扫描到词典中已有的词条则匹配成功,或者说切分出一个单词。
 

按照扫描方向,基于词典的匹配法可以分为正向匹配和逆向匹配。按照匹配长度优先级的不同,又可以分为最大匹配和最小匹配。将扫描方向和长度优先混合,又可以产生正向最大匹配、逆向最大匹配等不同方法。
 

词典匹配方法计算简单,其准确度在很大程度上取决于词典的完整性和更新情况。基于统计的分词方法指的是分析大量文字样本,计算出字与字相邻出现的统计概率,几个字相邻出现越多,就越可能形成一个单词。

​基于统计的方法的优势是对新出现的词反应更快速,也有利于消除歧义。
 

基于词典匹配和基于统计的分词方法各有优劣,实际使用中的分词系统都是混合使用两种方法的,快速高效,又能识别生词、新词,消除歧义。
 

中文分词的准确性往往影响搜索引擎排名的相关性。
 

这种分词上的不同很可能是一些关键词排名在不同搜索引擎有不同表现的原因之一。

比如百度更喜欢将搜索词完整匹配地出现在页面上,也就是说搜索“谷歌seo”时,这3个字连续完整出现更容易在百度获得好的排名。英文就与此不同,不太要求完整匹配。

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.198ai.cn/suanfa/26.html