写点什么

一文掌握 GaussDB(DWS) SQL 进阶技能:全文检索

发布于: 2021 年 04 月 01 日

​​​​摘要: 本文简要介绍了 GaussDB(DWS)全文检索的原理和使用方法。


本文分享自华为云社区《GaussDB(DWS) SQL进阶之全文检索》,原文作者:Zhang Jingyao 。


全文检索(Text search)顾名思义,就是在给定的文档中查找指定模式(pattern)的过程。GaussDB(DWS)支持对表格中文本类型的字段及字段的组合做全文检索,找出能匹配给定模式的文本,并以用户期望的方式将匹配结果呈现出来。


本文结合笔者的经验和思考,对 GaussDB(DWS)的全文检索功能作简要介绍,希望能对读者有所帮助。

1.   预处理


在指定的文档中查找一个模式有很多种办法,例如可以用 grep 命令搜索一个正则表达式。理论上,对数据库中的文本字段也可以用类似 grep 的方式来检索模式,GaussDB(DWS)中就可以通过关键字“LIKE”或操作符“~”来匹配字符串。但这样做有很多问题。首先对每段文本都要扫描,效率比较低,难以衡量“匹配度”或“相关度”。而且只能机械地匹配字符串,缺少对语法语义的分析能力,例如对英语中的名词复数,动词的时态变换等难以自动地识别和匹配,对于由自然语言构成的文本无法获得令人满意的检索结果。


GaussDB(DWS)采用类似搜索引擎的方式来进行全文检索。首先对给定的文本和模式做预处理,包括从一段文本中提取出单词或词组,去掉对检索无用的停用词(stop word),对变形后的单词做标准化等等,使之变为适合检索的形式再作匹配。


GaussDB(DWS)中,原始的文档和搜索条件都用文本(text)表示,或者说,用字符串表示。经过预处理后的文档变为 tsvector 类型,通过函数 to_tsvector 来实现这一转换。例如,


postgres=# select to_tsvector('a fat cat ate fat rats');
            to_tsvector           
-----------------------------------
 'ate':4 'cat':3 'fat':2,5 'rat':6
(1 row)
复制代码


观察上面输出的 tsvector 类型,可以看到 to_tsvector 的效果:


  • 首先各个单词被摘取出来,其位置用整数标识出来,例如“fat”位于原始句子中的第 2 和第 5 个词的位置。

  • 此外,“a”这个词太常见了,几乎每个文档里都会出现,对于检索到有用的信息几乎没有帮助。套用香农理论,一个词出现的概率越大,其包含的信息量越小。像“a”,“the”这种单词几乎不携带任何信息,所以被当做停用词(stop word)去掉了。注意这并没有影响其他词的位置编号,“fat”的位置仍然是 2 和 5,而不是 1 和 4。

  • 另外,复数形式的“rats”被换成了单数形式“rat”。这个操作被称为标准化(Normalize),主要是针对西文中单词在不同语境中会发生的变形,去掉后缀保留词根的一种操作。其意义在于简化自然语言的检索,例如检索“rat”时可以将包含“rat”和“rats”的文档都检索出来。被标准化后得到的单词称为词位(lexeme),比如“rat”。而原始的单词被称为语言符号(token)。

        

将一个文档转换成 tsvector 形式有很多好处。例如,可以方便地创建索引,提高检索的速度和效率,当文档数量巨大时,通过索引来检索关键字比 grep 这种全文扫描匹配要快得多。再比如,可以对不同关键字按重要程度分配不同的权重,方便对检索结果进行排序,找出相关度最高的文档等等。


经过预处理后的检索条件被转换成 tsquery 类型,可通过 to_tsquery 函数实现。例如,


postgres=# select to_tsquery('a & cats & rat');
  to_tsquery  
---------------
 'cat' & 'rat'
(1 row)
复制代码


从上面的例子可以看到:


  • 跟 to_tsvector 类似,to_tsquery 也会对输入文本做去掉停用词、标准化等操作,例如去掉了“a”,把“cats”变成“cat”等。

  • 输入的检索条件本身必须用与(&)、或(|)、非(!)操作符连接,例如下面的语句会报错


postgres=# select to_tsquery('cats rat');
ERROR:  syntax error in tsquery: "cats rat"
CONTEXT:  referenced column: to_tsquery
复制代码


但 plainto_tsquery 没有这个限制。plainto_tsquery 会把输入的单词变成“与”条件:


postgres=# select plainto_tsquery('cats rat');
 plainto_tsquery
-----------------
 'cat' & 'rat'
(1 row)
postgres=# select plainto_tsquery('cats,rat');
 plainto_tsquery
-----------------
 'cat' & 'rat'
(1 row)
复制代码


除了用函数之外,还可以用强制类型转换的方式将一个字符串转换成 tsvector 或 tsquery 类型,例如


postgres=# select 'fat cats sat on a mat and ate a fat rat'::tsvector;
                      tsvector                      
-----------------------------------------------------
 'a' 'and' 'ate' 'cats' 'fat' 'mat' 'on' 'rat' 'sat'
(1 row)
postgres=# select 'a & fat & rats'::tsquery;
       tsquery       
----------------------
 'a' & 'fat' & 'rats'
(1 row)
复制代码


跟函数的区别是强制类型转换不会去掉停用词,也不会作标准化,且对于 tsvector 类型不会记录词的位置。

2.   模式匹配


把输入文档和检索条件转换成 tsvector 和 tsquery 之后,就可以进行模式匹配了。GaussDB(DWS)中使用“@@”操作符来进行模式匹配,成功返回 True,失败返回 false。


例如创建如下表格,


postgres=# create table post(
postgres(# id bigint,
postgres(# author name,
postgres(# title text,
postgres(# body text);
CREATE TABLE
-- insert some tuples
复制代码


然后想检索 body 中含有“physics”或“math”的帖子标题,可以用如下的语句来查询:


postgres=# select title from post where to_tsvector(body) @@ to_tsquery('physics | math');
            title           
-----------------------------
 The most popular math books
复制代码


也可以将多个字段组合起来查询:


postgres=# select title from post where to_tsvector(title || ' ' || body) @@ to_tsquery('physics | math');
            title           
-----------------------------
 The most popular math books
(1 row)
复制代码


 注意不同的查询方式可能产生不同的结果。例如下面的匹配不成功,因为::tsquery 没对检索条件做标准化,前面的 tsvector 里找不到“cats”这个词:


postgres=# select to_tsvector('a fat cat ate fat rats') @@ 'cats & rat'::tsquery;
 ?column?
----------
 f
(1 row)
复制代码


而同样的文档和检索条件,下面的匹配能成功,因为 to_tsquery 会把“cats”变成“cat”:


postgres=# select to_tsvector('a fat cat ate fat rats') @@ to_tsquery('cats & rat');
 ?column?
----------
 t
(1 row)
复制代码


 类似地,下面的匹配不成功,因为 to_tsvector 会把停用词 a 去掉:


postgres=# select to_tsvector('a fat cat ate fat rats') @@ 'cat & rat & a'::tsquery;
 ?column?
----------
 f
(1 row)
复制代码


而下面的能成功,因为::tsvector 保留了所有词:


postgres=# select 'a fat cat ate fat rats'::tsvector @@ 'cat & rat & a'::tsquery;
 ?column?
----------
 f
(1 row)
复制代码


所以应根据需要选择合适的检索方式。


此外,@@操作符可以对输入的 text 做隐式类型转换,例如,


postgres=# select title from post where body @@ 'physics | math';
 title
-------
(0 rows)
复制代码


准确来讲,text@@text 相当于 to_tsvector(text) @@ plainto_tsquery(text),因此上面的匹配不成功,因为 plainto_tsquery 会把或条件'physics | math'变成与条件'physic' & 'math'。使用时要格外小心。

3.   创建和使用索引


前文提到,逐个扫描表中的文本字段缓慢低效,而索引查找能够提高检索的速度和效率。GaussDB(DWS)支持用通用倒排索引 GIN(Generalized Inverted Index)进行全文检索。GIN 是搜索引擎中常用的一种索引,其主要原理是通过关键字反过来查找所在的文档,从而提高查询效率。可通过以下语句在 text 类型的字段上创建 GIN 索引:


postgres=# create index post_body_idx_1 on post using gin(to_tsvector('english', body));
CREATE INDEX
复制代码


注意这里必须使用 to_tsvector 函数生成 tsvector,不能使用强制或隐式类型转换。而且这里用到的 to_tsvector 函数比前一节多了一个参数’english’,这个参数是用来指定文本搜索配置(Text search Configuration)的。关于文本搜索配置将在下一节介绍。不同的配置计算出来的 tsvector 不同,生成的索引自然也不同,所以这里必须明确指定,而且在查询的时候只有配置和字段都与索引定义一致才能通过索引查找。例如下面的查询中,前一个可以通过 post_body_idx_1 来检索,后一个找不到对应的索引,只能通过全表扫描检索。


postgres=# explain select title from post where to_tsvector('english', body) @@ to_tsquery('physics | math');
                                             QUERY PLAN                                             
-----------------------------------------------------------------------------------------------------
  id |            operation            | E-rows | E-width | E-costs
 ----+---------------------------------+--------+---------+---------
   1 | ->  Streaming (type: GATHER)    |      1 |      32 | 42.02  
   2 |    ->  Bitmap Heap Scan on post |      1 |      32 | 16.02  
   3 |       ->  Bitmap Index Scan     |      1 |       0 | 12.00  
postgres=# explain select title from post where to_tsvector('french', body) @@ to_tsquery('physics | math');
                                          QUERY PLAN                                         
----------------------------------------------------------------------------------------------
  id |          operation           | E-rows | E-width |     E-costs     
 ----+------------------------------+--------+---------+------------------
   1 | ->  Streaming (type: GATHER) |      1 |      32 | 1000000002360.50
   2 |    ->  Seq Scan on post      |      1 |      32 | 1000000002334.50
复制代码


4.   全文检索配置(Text search Configuration)


这一节谈谈 GaussDB(DWS)如何对文档做预处理,或者说,to_tsvector 是如何工作的。


文档预处理大体上分如下三步进行:


  • 第一步,将文本中的单词或词组一个一个提取出来。这项工作由解析器(Parser)或称分词(Segmentation)器来进行。完成后文档变成一系列 token。

  • 第二步,对上一步得到的 token 做标准化,包括依据指定的规则去掉前后缀,转换同义词,去掉停用词等等,从而得到一个个词位(lexeme)。这一步操作依据词典(Dictionary)来进行,也就是说,词典定义了标准化的规则。

  • 最后,记录各个词位的位置(和权重),从而得到 tsvector。

 

从上面的描述可以看出,如果给定了解析器和词典,那么文档预处理的规则也就确定了。在 GaussDB(DWS)中,这一整套文档预处理的规则称为全文检索配置(Text search Configuration)。全文检索配置决定了匹配的结果和质量。


如下图所示,一个全文检索配置由一个解析器和一组词典组成。输入文档首先被解析器分解成 token,然后对每个 token 逐个词典查找,如果在某个词典中找到这个 token,就按照该词典的规则对其做 Normalize。有的词典做完 Normalize 后会将该 token 标记为“已处理”,这样后面的字典就不会再处理了。有的词典做完 Normalize 后将其输出为新的 token 交给后面的词典处理,这样的词典称为“过滤型”词典。



 图 1 文档预处理过程


配置使用的解析器在创建配置的时候指定,且不可修改,例如,


postgres=# create text search configuration mytsconf (parser = default);
CREATE TEXT SEARCH CONFIGURATION
复制代码


GaussDB(DWS)内置了 4 种解析器,目前不支持自定义解析器。


postgres=# select prsname from pg_ts_parser;
 prsname 
----------
 default
 ngram
 pound
 zhparser
(4 rows)
复制代码


词典则通过 ALTER TEXT SEARCH CONFIGURATION 命令来指定,例如


postgres=# alter text search configuration mytsconf add mapping for asciiword with english_stem,simple;
ALTER TEXT SEARCH CONFIGURATION
复制代码


指定了 mytsconf 使用 english_stem 和 simple 这两种词典来对“asciiword”类型的 token 做标准化。


上面语句中的“asciiword”是一种 token 类型。解析器会对分解出的 token 做分类,不同的解析器分类方式不同,可通过 ts_token_type 函数查看。例如,‘default’解析器将 token 分为如下 23 种类型:


postgres=# select * from ts_token_type('default');
 tokid |      alias      |               description                
-------+-----------------+------------------------------------------
     1 | asciiword       | Word, all ASCII
     2 | word            | Word, all letters
     3 | numword         | Word, letters and digits
     4 | email           | Email address
     5 | url             | URL
     6 | host            | Host
     7 | sfloat          | Scientific notation
     8 | version         | Version number
     9 | hword_numpart   | Hyphenated word part, letters and digits
    10 | hword_part      | Hyphenated word part, all letters
    11 | hword_asciipart | Hyphenated word part, all ASCII
    12 | blank           | Space symbols
    13 | tag             | XML tag
    14 | protocol        | Protocol head
    15 | numhword        | Hyphenated word, letters and digits
    16 | asciihword      | Hyphenated word, all ASCII
    17 | hword           | Hyphenated word, all letters
    18 | url_path        | URL path
    19 | file            | File or path name
    20 | float           | Decimal notation
    21 | int             | Signed integer
    22 | uint            | Unsigned integer
    23 | entity          | XML entity
(23 rows)
复制代码


当前数据库中已有的词典可以通过系统表 pg_ts_dict 查询。


如果指定了配置,系统会按照指定的配置对文档作预处理,如上一节创建 GIN 索引的命令。如果没指定配置,to_tsvector 使用 default_text_search_config 变量指定的默认配置。


postgres=# show default_text_search_config; -- 查看当前默认配置
 default_text_search_config
----------------------------
 pg_catalog.english
(1 row)
postgres=# set default_text_search_config = mytsconf;  -- 设置默认配置
SET
postgres=# show default_text_search_config;
 default_text_search_config
----------------------------
 public.mytsconf
(1 row)
postgres=# reset default_text_search_config;  -- 恢复默认配置
RESET
postgres=# show default_text_search_config;
 default_text_search_config
----------------------------
 pg_catalog.english
(1 row)
复制代码


 注意 default_text_search_config 是一个 session 级的变量,只在当前会话中有效。如果想让默认配置持久生效,可以修改 postgresql.conf 配置文件中的同名变量,如下图所示。



修改后需要重启进程。

总结


GaussDB(DWS)的全文检索模块提供了强大的文档搜索功能。相比于用“LIKE”关键字,或 “~”操作符的模式匹配,全文检索提供了较丰富的语义语法支持,能对自然语言文本做更加智能化的处理。配合恰当的索引,能够实现对文档的高效检索。


点击关注,第一时间了解华为云新鲜技术~


发布于: 2021 年 04 月 01 日阅读数: 11
用户头像

提供全面深入的云计算技术干货 2020.07.14 加入

华为云开发者社区,提供全面深入的云计算前景分析、丰富的技术干货、程序样例,分享华为云前沿资讯动态,方便开发者快速成长与发展,欢迎提问、互动,多方位了解云计算! 传送门:https://bbs.huaweicloud.com/

评论

发布
暂无评论
一文掌握GaussDB(DWS) SQL进阶技能:全文检索