登录

搜索引擎的工作原理(三)

网站SEO maolai 668次浏览 0个评论

搜索引擎会有一定的策略从网络上搜集回网页,然而这些刚搜集回来的网页是没有办法直接投入使用的,搜索引擎还需要对这些网页进行一定的预处理,才能为之后的查询服务打好基础。

预处理主要工作

预处理主要是对搜集回来的网页进行分析处理,将每个网页有意义的东西提取出来,只有这样,才能减少干扰因素,让搜索引擎能对每个页面进行更好的定位。在预处理的过程中,主要做的是下面4件亊情。

1、关键词的提取

因为当搜索引擎得到一个网页的源代码时,看到的是大量的HTML代码,这些代码充斥着大量无用的信息,搜索引擎就必项先对网页进行关键词的提取,这样才能更好的分析出一个网页主题。可以用站长工具中的“机器人模拟抓取”进行查询,如下图是对 http://www.lmlblog.com/网页进行关键词提取后,得到的关键词。

机器人模拟抓取

2、重复或转载页面的清除

互联网一大特点就是信息共享,这样的特点导致在互联网上复制一篇文章非常简单。因此,互联网上充斥着大量复制的网页,如果搜索引擎要将每篇网页都进行搜集处理,会浪费很多时间,以及在用户查询的时候可能会返回多个相同的结果,这是用户和搜索引擎都不希望看到的,因此,搜索引擎需要进行重复页的清除。

如下图假设网页A是原创的文章,网页 B、C、D 都是复制A的,那么搜索引擎需要一定的技术将 B、C、D识别出来,然后作为重复项页面删除掉。

重复或转载页面的清除

3、链接分析

搜索引擎是根据链接在互联网上爬行的,因此搜索引擎需要对每个搜集回来的网页进行连接分析,以找到新的网页以及网页间的关系。

链接分析

4、网页重要程度的计算

在预处理的过程中,搜索引擎会将搜集回来的网页进行权重计算,给每个网页建立一个重要性指标,该指标会作为查询服务阶段最织形成结果排序的部分参数。

网页重要程度的计算

以上就是搜索引擎预处理的简介,搜索引擎在预处理的过程中会涉及到中文分词、分析网页和建立倒排文件、网页净化和消重等问题。


本文由maolai编辑整理发布,转载请注明搜索引擎的工作原理(三)
喜欢 (0)
[maolai]
分享 (0)
maolai
关于作者:
无折腾,不生活。一个爱折腾,爱分享的90后,欢迎你认识我,我是MAOLAI。
发表我的评论
取消评论
表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址