一、什么是全文检索

1、结构化数据与非结构化数据

我们生活中的数据总体分为两种：结构化数据和非结构化数据。

• 结构化数据：指具有固定格式或有限长度的数据，如数据库，元数据等

• 非结构化数据：指不定长或无固定格式的数据，如邮件，word 文档等磁盘上的文件

2、搜索结构化数据和非结构化数据

• 使用 SQL 语言专门搜索结构化的数据

• 使用 ES/Lucene/solr 建立倒排索引，根据关键字就可以搜索一些非结构化(文本)的数据

3、全文检索

全文检索是指：

• 通过一个程序扫描文本中的每一个单词，针对单词建立索引，并保存该单词在文本中的位置、以及出现的次数

• 用户查询时，通过之前建立好的索引来查询，将索引中单词对应的文本位置、出现的次数返回给用户，因为有了具体文本的位置，所以就可以将具体内容读取出来了

• 类似于通过字典中的检索字表查字的过程

二、Lucene 简介

• Lucene 是一种高性能的全文检索库，在 2000 年开源，最初由大名鼎鼎的 Doug Cutting（道格·卡丁）开发

• Lucene 是 Apache 的一个顶级开源项目，是一个全文检索引擎工具包。但 Lucene 不是一个完整的全文检索引擎，它只是提供一个基本的全文检索的架构，还提供了一些基本的文本分词库

• Lucene 是一个简单易用的工具包，可以方便的实现全文检索的功能

三、倒排索引结构

倒排索引是一种建立索引的方法。是全文检索系统中常用的数据结构。通过倒排索引，就是根据单词快速获取包含这个单词的文档列表。倒排索引通常由两个部分组成：单词词典、文档。

文档(Document)：一般搜索引擎的处理对象是互联网网页，而文档这个概念要更宽泛些，代表以文本形式存在的存储对象，相比网页来说，涵盖更多种形式，比如 Word，PDF，html，XML 等不同格式的文件都可以称之为文档。再比如一封邮件，一条短信，一条微博也可以称之为文档。在本书后续内容，很多情况下会使用文档来表征文本信息。

文档集合(Document Collection)：由若干文档构成的集合称之为文档集合。比如海量的互联网网页或者说大量的电子邮件都是文档集合的具体例子。

文档编号(Document ID)：在搜索引擎内部，会将文档集合内每个文档赋予一个唯一的内部编号，以此编号来作为这个文档的唯一标识，这样方便内部处理，每个文档的内部编号即称之为“文档编号”，后文有时会用 DocID 来便捷地代表文档编号。

单词编号(Word ID)：与文档编号类似，搜索引擎内部以唯一的编号来表征某个单词，单词编号可以作为某个单词的唯一表征。

倒排索引(Inverted Index)：倒排索引是实现“单词-文档矩阵”的一种具体存储形式，通过倒排索引，可以根据单词快速获取包含这个单词的文档列表。倒排索引主要由两个部分组成：“单词词典”和“倒排文件”。

单词词典(Lexicon)：搜索引擎的通常索引单位是单词，单词词典是由文档集合中出现过的所有单词构成的字符串集合，单词词典内每条索引项记载单词本身的一些信息以及指向“倒排列表”的指针。

倒排列表(PostingList)：倒排列表记载了出现过某个单词的所有文档的文档列表及单词在该文档中出现的位置信息，每条记录称为一个倒排项(Posting)。根据倒排列表，即可获知哪些文档包含某个单词。

倒排文件(Inverted File)：所有单词的倒排列表往往顺序地存储在磁盘的某个文件里，这个文件即被称之为倒排文件，倒排文件是存储倒排索引的物理文件。

四、企业中为什么不直接使用 Lucene

1、Lucene 的内建不支持分布式

• Lucene 是作为嵌入的类库形式使用的，本身是没有对分布式支持。

2、区间范围搜索速度非常缓慢

• Lucene 的区间范围搜索 API 是扩展补充的，对于在单个文档中 term 出现比较多的情况，搜索速度会变得很慢

• Lucene 只有在数据生成索引文件之后（Segment），才能被查询到，做不到实时

3、可靠性无法保障

• 无法保障 Segment 索引段的可靠性