SEO之基于统计的分词方法

浅浅、笑时光 · 发表于 2011-12-05 11:10:12

SEO之基于统计的分词方法也被称为科学统筹分词法。

   从形式上看，词是稳定的字的组合，因此在上下文中，相邻的字同时出现的次数越多，就越有可能构成一个词。因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。可以对语料中相邻共现的各个字的组合的频度进行统计，计算它们的互现信息。

   定义两个字的互现信息，计算两个汉字X、Y的相邻共现概率。互现信息体现了汉字之间结合关系的紧密程度。当紧密程度高于某一个阈值时，便可认为此字组可能构成了一个词。这种方法只需对语料中的字组频度进行统计，不需要切分词典，因而又叫做无词典分词法或统计取词方法。但这种方法也有一定的局限性，会经常抽出一些共现频度高、但并不是词的常用字组，例如“这一”、“之一”、“有的”、“我的”、“许多的”等，并且对常用词的识别精度差，时空开销大。实际应用的统计分词系统都要使用一部基本的分词词典（常用词词典）进行串匹配分词，同时使用统计方法识别一些新的词，即将串频统计和串匹配结合起来，既发挥匹配分词切分速度快、效率高的特点，又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。

   前面我们有讲到《SEO之基于字符串匹配的分词方法》和《SEO之基于理解的分词方法》，那么这三种方法中，到底是哪种SEO分词算法的准确度更高，目前尚无定论。对于任何一个成熟的分词系统来说，不可能单独依靠某一种算法来实现，对于中文词的识别，需要综合多种算法来处理不同的问题。

   分词准确性对搜索引擎来说非常重要，如果分词速度太慢，即使准确性再高，对于搜索引擎来说也是不可用的，因为搜索引擎需要处理数以亿计的网页，如果分词耗用的时间过长，会影响到搜索引擎对内容的更新速度。因此对于搜索引擎来说，分词的准确性和速度，都需要达到很高的要求。

TONY · 发表于 2011-12-05 17:14:40

嗯嗯 SEO中分词很重要的谢谢分享啊

落雪依然 · 发表于 2025-11-29 07:27:18

分析得很透彻，很多细节都说到点子上了～

夜已深 · 发表于 2026-01-09 01:10:25

楼主太厉害了，整理得这么详细，必须支持

畅速-萝卜 · 发表于 2026-01-29 21:25:48

完全赞同，我也是这么认为的，英雄所见略同～

1519138366 · 发表于 2026-03-13 06:42:00

说得很实在，没有夸大其词，这种真实分享太难得了

欣圣科技-周 · 发表于 2026-04-16 12:12:38

楼主辛苦了，整理这么多内容，必须点赞收藏

		自动登录	找回密码
密码			加入怎通

[站长八卦] SEO之基于统计的分词方法