百度搜索引擎工作原理-第十章倒排引索的重要过程-入库写库

索引系统在建立倒排索引的最后还需要有一个入库写库的过程,而为了提高效率这个过程还需要将全部term以及偏移量保存在文件头部,并且对数据进行压缩,这涉及到的过于技术化在此就不多提了。在此简要给大家介绍一下索引之后的检索系统。

检索系统主要包含了五个部分,如下图所示:
 %title插图%num

1Query串切词分词即将用户的查询词进行分词,对之后的查询做准备,以“10号线地铁故障”为例,可能的分词如下(同义词问题暂时略过):
10  0x123abc
   0x13445d
        线   0x234d
        地铁 0x145cf
        故障 0x354df
2)查出含每个term的文档集合,即找出待选集合,如下:
         0x123abc   1  2 3  4  7  9..
         0x13445d   2  5 8  9  10  11……
          ……
          ……

3)求交,上述求交,文档2和文档9可能是我们需要找的,整个求交过程实际上关系着整个系统的性能,这里面包含了使用缓存等等手段进行性能优化;

4)各种过滤,举例可能包含过滤掉死链、重复数据、色情、垃圾结果以及你懂的;

5)最终排序,将最能满足用户需求的结果排序在最前,可能包括的有用信息如:网站的整体评价、网页质量、内容质量、资源质量、匹配程度、分散度、时效性等等

 

原创文章,作者:大壮同学,如若转载,请注明出处:https://www.lidazhuang.cn/seo/baidu_spider/520.html

(0)
上一篇 2015年7月15日
下一篇 2015年7月15日

相关推荐

联系我
我们将24小时内回复。
取消