十载风雨路 · 匠心铸精品

量身定制 追求完美

了解搜索引擎之了解中文分词

 发布日期:2011-06-17 12:00:00 浏览:4180次

  了解搜索引擎之了解中文分词

  分词是中文搜索引擎特有的步骤。搜索引擎存储和处理页面,以及用户搜索都是以词为基础。英文等语言单词与单词之间有空格分隔,搜索引擎索引程序可以直接把句子划分为单词的集合。而中文词与词之间没有任何分隔符,一个句子中的所有字和词都是连在一起的。搜索引擎必须首先分辨哪几个字组成一个词,哪些字本身就是一个词。比如“网站建设”将被分词为“网站”和“建设”两个词。

  中文分词方法基本上有两种,一是基于词典匹配,另一个是基于统计。

  基于词典匹配的方法是指,将待分析的一段汉字与一个事先造好的词典中的词条进行匹配,在待分析汉字串中扫描到词典中已有的词条则匹配成功,或者说切分出一个单词。

  按照扫描方向,基于词典的匹配法可以分为正向匹配和逆向匹配。按照匹配长度优先级的不同,又可以分为最大匹配和最小匹配。将扫描方向和长度优先混合,又可以产生正向最大匹配、逆向最大匹配等不同方法。词典匹配方法计算简单,其准确度很大程度上取决于词典的完整性和更新情况。基于统计的分词方法指的是分析大量文字样本,计算出字与字相邻出现的统计概率,几个字相邻出现越多,就越可能形成一个单词。基于统计的方法优势是对新出现的词反应更快速,也有利于消除歧义。

  基于词典匹配和统计的两种分词方法各有优劣,实际使用中的分词系统都是混合使用两种方法,达到快速高效,又能识别生词、新词,消除歧义。中文分词的准确性往往影响搜索引擎排名的相关性。比如在百度搜索“搜索引擎优化”:

  从快照中可以看到,百度把“搜索引擎优化”这六个字当成一个词。而在Google 搜索同样的词:快照显示Google 将其分切为“搜索”,“引擎”和“优化”三个词。显然百度切分得更为合理,搜索引擎优化是一个完整的概念。Google 分词时倾向于更为细碎。

  再举一个更明显的例子。在Google 搜索“佳速网络”四个字:

  快照显示Google 将其切分为“佳”,“速”及“网络”三个词。“佳速网络”这个中文领域最知名的品牌,显然并没有进入Google 的词典中。在百度搜索“佳速网络”时会发现,百度将“佳速网络”当作一个词。

  这种分词上的不同很可能是一些关键词排名在不同搜索引擎有不同表现的原因之一。比如百度更喜欢搜索词完整匹配地出现在页面上,也就是说搜索“佳速网络”时,这四个字连续完整出现更容易在百度获得好的排名。Google 就与此不同,不太要求完整匹配。一些页面出现“佳速”和“网络”两个词,但不必完整匹配地出现,“佳速”出现在前面,“网络”出现在页面的其他地方,这样的页面在Google 搜索“佳速网络”时,也可以获得不错的排名。

  搜索引擎对页面的分词取决于词库的规模、准确性和分词算法的好坏,而不是取决于页面本身如何,所以SEO 人员对分词所能做的很少。唯一能做的是在页面上用某种形式提示搜索引擎,某几个字应该被当作一个词处理,尤其是可能产生歧义的时候,比如在页面标题、h1 标签以及黑体中出现关键词。如果页面是关于“网站”的内容,那么可以把“网站”这两个字特意标为黑体。如果页面是关于“上海网站建设”,可以把“网站建设”两个字标为黑体。这样,搜索引擎对页面进行分析时就知道标为黑体的应该是一个词。

——佳速网络技术团队为您服务!

       佳速网络 ) 服务全国 !   上海网站建设  首选品牌!转载请注明来路。

相关新闻

CopyRight 2004-2018 JSOON NETWORK , Inc. All Rights Reserved 专业互联网开发服务提供商-佳速网络   服务热线:021-58361813   沪ICP备09051443号-4   网站地图
上海佳速公司提供上海网站建设制作、app开发、微信小程序开发服务

021-58361813