• 同义词搜索

    同义词搜索

    人类语言文化丰富,同一个意思有无数种不同的表达方式。因此,同义词是全文检索中非常重要和必要的一项基础功能。从 1.3.0 版本起,Xunsearch 开始提供同义搜索搜索功能。1. 什么是同义词搜索为了更好的提升用户搜索体验,我们希望用户在搜索“浙江大学”的时候也同时匹配包含缩写“浙大”的结果,这就是所谓的同义词搜索。通常我们说“浙大”是“浙江大学”的同义词,前者是常用缩写,后者是标准词(原词)。

    同义词搜索 完全依赖于您事先设置好的同义词库,词库内每条记录由“标准词(原词)”和“同义词”组成,它们都必须是独立的词汇,也就是最小的索引单位,不可以是多个词组成的短语。

    Tip: 独立词汇的意思对于英文来说就是一个单词,对于中文来说必须是 scws 词库中的一个词。 Xunsearch 的同义词不同于 Xapian,会智能进行字段匹配和转换,您只需维护通用词库。

    2. 英文同义词的特殊处理英文单词的同义词在 xunsearch 中做了一些个特殊处理:

    • 统一小写 统一转换为小写字母进行存储,不支持必须保留大写字母的同义词。

    • 同根词支持 英语同一个单词有多种不同的形式,如:单复数、过去式和现在分词等。而它们要传送的其实是同一种涵义。因此,对于纯英文的同义词记录会自动进行词根处理。词根记录保存为大写字母 Z 开头的记录。例如:

    设置 findsearch 的同义词,那么检索 searching 时如果 searching 本身没有同义词,那么也会匹配包含 findingfinds 等同根词的结果。

    • 复合词支持 支持对多个单词组成的短语设置同义词,词之间用一个半角空格分开,但同义词仍然只允许一个单词或中文词哦。如:

    设置 您好hello world 的同义词,那么检索 hello world ok 时也会匹配同时包含 您好ok 的记录。3. 管理同义词库您可以通过 XSIndex::addSynonym 和 XSIndex::delSynonym 来添加和删除同义词记录。多次调用这两个接口函数的时候支持使用索引缓冲区来提高效率。

    参数 $raw 是字符串,表示记录中的原词(标准词),$synonym 也是字符串,表示记录中的同义词,对于删除操作可以省略该参数表示清空原词的所有同义词。

    以下为示例代码,其中的 $index 变量是索引操作对像,参见如何开始使用索引?

    1. // 给 "搜索" 增加 "检索" "查找" 两个同义词
    2. $index->addSynonym('搜索', '检索');
    3. $index->addSynonym('搜索', '查找');
    4.  
    5. // 给 "Hello world" 增加同义词 "你好"
    6. $index->addSynonym('hello world', '你好');
    7.  
    8. // 删除 search 的全部同义词
    9. $index->delSynonym('search');
    10.  
    11. // 删除 "搜索" 的同义词 "检索"
    12. $index->delSynonym('搜索', '检索');

    除了调用 API 外,您还可以使用 Indexer 索引管理工具 进行同义词管理。4. 查看已有同义词库通过 XSSearch::getAllSynonyms 来获取当前索引库内的全部同义词记录,返回一个数组,以原词(标准词)为键,其同义词列表为值。

    以下为示例代码,其中的 $search 变量是搜索操作对像,参见如何开始使用搜索?

    1. // 获取当前库的前 100 个同义词记录
    2. $synonyms = $search->getAllSynonyms();
    3.  
    4. // 获取当前库第 6~15 条同义词记录
    5. $synonyms = $search->getAllSynonyms(10, 5);
    6.  
    7. // 查看包含隐藏同义词根在内的前 20 条记录
    8. $synonyms = $search->getAllSynonyms(20, 0, true);

    除了调用 API 外,您还可以使用 Quest 搜索工具 进行同义词管理。5. 使用同义词搜索功能同义词搜索默认是不开启的,如果您打算使用同义词搜索,这部分功能隶属于构建搜索语句。

    在设置查询语句 XSSearch::setQuery 之前调用 XSSearch::setAutoSynonyms 来开启同义词功能。

    1. // 假设”搜索“有且仅有一个同义词”检索“
    2. // 开启同义词搜索,输出:
    3. // Xapian::Query(((搜索:(pos=1) SYNONYM 检索:(pos=89)) AND 世界:(pos=2)))
    4. $search->setAutoSynonyms()->setQuery('搜索世界')->getQuery();
    5.  
    6. // 开启同义词搜索,并带有字段效果,假设 subject 是项目的第二个字段,输出:
    7. // Xapian::Query(((B搜索:(pos=1) SYNONYM B检索:(pos=89)) AND B世界:(pos=2)))
    8. $search->setAutoSynonyms()->setQuery('subject:搜索世界')->getQuery();
    9.  
    10. // 关闭同义词搜索,输出:
    11. // Xapian::Query((搜索:(pos=1) AND 世界:(pos=2)))
    12. $search->setAutoSynonyms(false)->setQuery('搜索世界')->getQuery();

    Tip: 您可以分别在开启/关闭同义词功能的条件下,对比 XSSearch::getQuery 查询语句分析结果。