使用ES的数据搜索功能

DSL查询文档

elasticsearch的查询是基于JSON风格的DSL来实现的

使用下面的代码首先看es的,把数据批量导入之后在运行在Kibana中

查询所有,查询类型时match_all ,没有查询条件

#显示所有
GET /hotel/_search
{
  "query": {
    "match_all": {
      
    }
  }
}

全文检索查询:

使用场景:对内容分词得到词条,根据词条去倒排索引库中匹配,得到文档id。根据文档id找到文档,返回给用户。(因为时词条去 匹配,字段是可分词的text类型的字段)

match查询:单字段查询

#单字段查询
GET /hotel/_search
{
  "query": {
    "match": {
      "FIELD": "TEXT"
    }
  }
}

multi

#多字段查询,结果只能是并集     
GET /hotel/_search
{
  "query": {
    "multi_match": {
      "query": "外滩如家",
      "fields": ["name","all"]
    }
  }
}


#多字段分词查询 结果可控,并集或交集  OR  AND
GET /hotel/_search
{
  "query": {
    "query_string": {
      "fields": ["name","all"],
      "query": "北京 OR 如家"
    }
  }
}

#多字段查询,结果可控,交集或并集  +  |
GET /hotel/_search
{
  "query": {
    "simple_query_string": {
      "query": "北京+如家",
      "fields": ["name","all"]
    }
  }
}

精确查询:一般用于查找keyword,数值,日期,boolean等字段,不会对搜索条件分词

term查询:不分词的词条,查询时用户输入内容和自动值完全匹配才符合条件

##term查询,根据字段值精确查询   FIELD是符合的字段
GET /hotel/_search
{
  "query": {
    "term": {
      "FIELD": {
        "value": "VALUE"
      }
    }
  }
}

range查询:范围查询,一般是对数值型做范围过滤的时候,(如果要复制,把#和前面的空格删除)

#range查询  范围查询
GET /hotel/_search
{
  "query": {
    "range": {
      "price": {
        "gte": 1000,         #gte表示大于等于,gt表示大于
        "lte": 3000         #lte代表小于等于,lt表示小于
      }
    }
  }
}

地理坐标查询

根据经纬度查询,官方文档:Geo queries | Elasticsearch Guide [8.1] | Elastic

geo_bounding_box :矩形查询,坐标落在某个矩形范围的文档,查询时指定 矩形左上,右下两个点的坐标(如果要复制,把#和前面的空格删除)

#矩形查询
GET /hotel/_search
{
  "query": {
    "geo_bounding_box":{
      "location":{
        "top_left":{            #左上
        "lat":31.1,
        "lon":121.5
      },
      "bottom_right":{         #右下
        "lat":30.9,
        "lon":121.7
      }
    }
  }
}
}

附近查询:也叫距离查询(geo_distance):查询到指定中心点小于某个距离值的所有文档。

圆型查询

#圆形查询
GET /hotel/_search
{
  "query": {
    "geo_distance":{
      "distance": "15km" ,    #半径
      "location": "31.21,121.5"   #圆心
    }
  }
}

复合查询:将其他简单查询组合起来,实现更复杂的搜索逻辑

fuction score:算分函数查询,可以控制文档相关性算分,控制文档排名

bool query:布尔查询,利用逻辑关系组合多个其它的查询,实现复杂搜索

相关性算法:在用match查询时,文档结果会根据与搜索词条的关联度打分(_score),返回结果时按照分值降序排列。

在es5.1之前的版本使用TF-IDF算法

在5.1版本之后使用BM25算法

 算法函数查询

  • 原始查询查询条件:query部分,基于这个条件搜索文档,基于BM25算法给文档打分,原始算分(query score)

  • 过滤条件:filter部分,符合该条件的文档从新算分

  • 算法函数:符合filter条件的文档要根据这个函数做运算,得到的函数算分(function score),有四种函数    weight:函数结果是常量      field_value_factor:以文档中的某个字段值作为函数结果       random_score:以随机数作为函数结果       script_score:自定义算分函数算法

  • 运算模式:算法函数的结果,原始查询的相关性算分,两者之间的运算方法。包括multiply相乘    replace  用function score替换query score     其它,例如:sum、avg、max、min等

    function score的运行流程如下:

  • 1)根据原始条件查询搜索文档,并且计算相关性算分,称为原始算分(query score)

  • 2)根据过滤条件,过滤文档

  • 3)符合过滤条件的文档,基于算分函数运算,得到函数算分(function score)

  • 4)将原始算分(query score)和函数算分(function score)基于运算模式做运算,得到最终结果,作为相关性算分。

    #算法相关性   满足外滩条件的所有查询中,满足如家的相关性算法加10,获得查询结果
    GET /hotel/_search
    {
      "query": {
        "function_score": {
          "query": {"match": {
            "all": "外滩"
          }},
          "functions": [
            {
              "filter":{"term": {
                "brand": "如家"
              }
            },
            "weight": 10
            }
          ],
          "boost_mode":"sum"
        }
      }
    }

布尔查询:一个或多个查询子句的组合,每个子句就是一个子查询。每一个不同的字段,其查询的条件、方式都不一样,必须是多个不同的查询,而要组合这些查询,就必须用bool查询了。

must:必须匹配每个子查询,类似”与“

should:选择性匹配子查询,类似”或“

must_not:不匹配,不参与算法,类似’非‘

filter:必须匹配,不参与算分

#布尔查询
#must:必须匹配每个子查询
#should选择性匹配
#must_not 不匹配 不参与算分
#filter必须匹配,不参与算分
#-城市在北京,品牌二选一、价格不小于500、评分大于45
GET /hotel/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "term": {
            "city": {
              "value": "北京"
            }
          }
        }
      ],
      "should": [
        {
          "term": {
            "brand": {
              "value": "皇冠假日"
            }
          }
        },
        {
          "term": {
            "brand": {
              "value": "华美达"
            }
          }
        }
      ],
      "must_not": [
        {
          "range":{
            "price": {
              "lte": 500
            }
          }
        }
      ],
      "filter": [
        {"range": {
          "score": {
            "gte": 45
          }
        }}
      ]
    }
  }
}

#boolean查询 名字包含如家 、价格不高于400
GET /hotel/_search
{
  "query": {
    "bool": {
      "must": [
        {
          "match": {
            "name": "如家"
          }
        }
      ],
      "must_not": [
        {
          "range": {
            "price": {
              "gte": 400
              
            }
          }
        }
      ]
    }
  }
}

将搜索结构按指定方式处理

elasticsearch默认是根据相关度算分(_score)来排序,但是也支持自定义方式对搜索结果排序。可以排序字段类型有:keyword类型、数值类型、地理坐标类型、日期类型等。

1.普通字段排序:keyword、数值、日期类型排序的语法基本一致。排序条件可以是多个,依次排序

#搜索方法结果处理(简写)   FIELD是排序字段,排序方式ASC,DESC
GET /hotel/_search
{
  "query": {
    "match": {
      "name": "北京如家"
    }
  },
  "sort":[
    {
      "FIELD":"desc"
    }]
}
GET /hotel/_search
{
  "query": {
    "match": {
      "name": "北京如家"
    }
  },
  "sort": [
    {
      "price": {
        "order": "desc"
      }
    }
  ]
}

基本的分页

#分页   from 分页开始位置默认为0   size期望获取的文档总数
GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "from": 200
  , "size": 1
}

深度分页问题

要查询990~1000的数据,查询逻辑要这么写

GET /hotel/_search
{
  "query": {
    "match_all": {}
  },
  "from": 990, // 分页开始的位置,默认为0
  "size": 10, // 期望获取的文档总数
  "sort": [
    {"price": "asc"}
  ]
}

查询从990开始的数据,也就是990~1000条数据

如果es是单点模式,elasticsearch内部分页时,先查询 0~1000条,然后截取其中的990 ~ 1000的这10条

如果es是集群模式,例如集群有5个节点,查询TOP1000的数据,并不是每个节点查询200条就可以了。因为节点A的TOP200,在另一个节点可能排到10000名以外了。因此要想获取整个集群的TOP1000,必须先查询出每个节点的TOP1000,汇总结果后,重新排名,重新截取TOP1000。

 当查询分页深度较大时,汇总数据过多,对内存和CPU会产生非常大的压力,因此elasticsearch会禁止from+ size 超过10000的请求。

针对深度分页,es提供了两种解决方式 官方文档 :

1.search after:分页时需要排序,原理是从上一次的排序值开始,查询下一页数据。官方推荐使用的方式。

2.scroll:原理将排序后的文档id形成快照,保存在内存。官方已经不推荐使用。

分页查询的常见实现方法

  • from + size

    • 优点:支持随机翻页

    • 缺点:深度分页问题,默认查询上限(from + size)是10000

    • 场景:百度、京东、谷歌、淘宝这样的随机翻页搜索

  • after search

    • 优点:没有查询上限(单次查询的size不超过10000)

    • 缺点:只能向后逐页查询,不支持随机翻页

    • 场景:没有随机翻页需求的搜索,例如手机向下滚动翻页

  • scroll

    • 优点:没有查询上限(单次查询的size不超过10000)

    • 缺点:会有额外内存消耗,并且搜索结果是非实时的

    • 场景:海量数据的获取和迁移。从ES7.1开始不推荐,建议用 after search方案。

高亮显示:在搜索的时候关键字变成红色,比较醒目

实现高亮,就是给文档中的所有关键字都添加一个标签,例如<em>标签,页面给<em>标签编写CSS样式

#高亮

GET /hotel/_search
{
  "query": {
    "match": {
      "name": "北京如家"
    }
  }
  , "highlight": {
    "fields": {
      "name": {
        "pre_tags": "<em>"
        , "post_tags": "</em>"
      }
    }
  }
}

默认情况下,高亮的字段,必须与搜索指定的字段一致,否则无法高亮。如果要对非搜索字段高亮,则需要添加一个属性:required_field_match=false

RestClient查询文档

前期准备,先连接上虚拟机中的es

@SpringBootTest
public class HotelSearchTest {

    //初始化ES客户端连接实例
    private RestHighLevelClient client;
    //单元测试执行前创建客户端实例
    @BeforeEach
    void initClient(){
        client = new RestHighLevelClient(RestClient.builder(HttpHost.create("192.168.190.136:9200")));
    }
    //单元测试执行后关系客户端实例
    @AfterEach
    void closeClient(){
        try {
            client.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}

发起请求代码解读:

  • 第一步,创建SearchRequest对象,指定索引库名

  • 第二步,利用searchRequest.source()构建DSL,DSL中可以包含查询、分页、排序、高亮等

    • query():代表查询条件,利用QueryBuilders.matchAllQuery()构建一个match_all查询的DSL

  • 第三步,利用client.search()发送请求,得到响应

 //查询所有
    @Test
    void testMatchAll(){
        //1创建搜索请求对象
        SearchRequest searchRequest = new SearchRequest("hotel");
         //2设置搜索类型
        searchRequest.source().query(QueryBuilders.matchAllQuery());

        try {
            //3.发起请求
            SearchResponse searchResponse  = client.search(searchRequest, RequestOptions.DEFAULT);
            //4.解析响应结果(从外向内解析)
            long total = searchResponse.getHits().getTotalHits().value;
            //4.2 遍历获取命中的具体文档数据SON字符串
            SearchHit[] searchHits = searchResponse.getHits().getHits();
            if(searchHits!=null && searchHits.length>0){
                for (SearchHit hit : searchHits) {
                    String hotelDocJson = hit.getSourceAsString();
                    System.out.println("命中的数据:" + hotelDocJson);
                }
            }
        } catch (IOException e) {
            e.printStackTrace();
        }

    }

响应结果解析:elasticsearch返回的结果是一个JSON字符串

  • hits:命中的结果

    • total:总条数,其中的value是具体的总条数值

    • max_score:所有结果中得分最高的文档的相关性算分

    • hits:搜索结果的文档数组,其中的每个文档都是一个json对象

      • _source:文档中的原始数据,也是json对象

因此,我们解析响应结果,就是逐层解析JSON字符串,流程如下:

  • SearchHits:通过response.getHits()获取,就是JSON中的最外层的hits,代表命中的结果

    • SearchHits#getTotalHits().value:获取总条数信息

    • SearchHits#getHits():获取SearchHit数组,也就是文档数组

      • SearchHit#getSourceAsString():获取文档结果中的_source,也就是原始的json文档数据

   //查询类型2:全文检索查询
    @Test
    void testMatch(){
        //1.创建搜索对象
        SearchRequest searchRequest  = new SearchRequest("hotel");
        //2设置搜索类型
        //单字段查询
        //searchRequest.source().query(QueryBuilders.matchQuery("name","北京如家"));

        //多字段查询
        searchRequest.source().query(QueryBuilders.multiMatchQuery("北京如家","name","all"));

        try {
            //3发起请求
            SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT);

            //4解析响应结果
            //4.1搜索名中的记录总数
            long total = searchResponse.getHits().getTotalHits().value;
            //4.2 遍历获取命中的具体文档数据SON字符串
            SearchHit[] searchHits = searchResponse.getHits().getHits();
            if(searchHits!=null&&searchHits.length>0){
                for (SearchHit hit : searchHits) {
                    String hotelDocJson = hit.getSourceAsString();
                    System.out.println("命中数据"+hotelDocJson);
                }
            }

        } catch (IOException e) {
            e.printStackTrace();
        }

    }

    //查询3,精确查询
    @Test
    void testTerm(){
        //创建搜索实例
        SearchRequest searchRequest = new SearchRequest("hotel");

        //2.设置搜索类型
        //term查询
        //searchRequest.source().query(QueryBuilders.termQuery("city","上海"));

        //ids查询
        //searchRequest.source().query(QueryBuilders.idsQuery().addIds("45845","47066"));

        //range查询
        searchRequest.source().query(QueryBuilders.rangeQuery("price").gte(300).lte(500));
        try {

            //3.发起请求
            SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT);

            //4.解析响应结果(从外向内解析)
            //4.1 搜索命中的记录总数
            long total = searchResponse.getHits().getTotalHits().value;
            System.out.println("总记录数:" + total);
            //4.2 遍历获取命中的具体文档数据SON字符串
            SearchHit[] searchHits = searchResponse.getHits().getHits();
            if(searchHits!=null && searchHits.length>0){
                for (SearchHit hit : searchHits) {
                    String hotelDocJson = hit.getSourceAsString();
                    System.out.println("命中的数据:" + hotelDocJson);
                }
            }
        } catch (IOException e) {
            e.printStackTrace();
        }
    }


    //查询4 布尔查询
    @Test
    void testComp() {
        //创建查询请求对象
        SearchRequest searchRequest = new SearchRequest("hotel");
        //设置搜索类型
        //创建布尔查询
        BoolQueryBuilder boolQuery = QueryBuilders.boolQuery();
        //添加must条件
        boolQuery.must(QueryBuilders.termQuery("city", "上海"));
        //添加filter条件
        boolQuery.filter(QueryBuilders.rangeQuery("price").lte(250));

        //构建查询语句
        searchRequest.source().query(boolQuery);
        try {

            //3.发起请求
            SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT);

            //4.解析响应结果(从外向内解析)
            //4.1 搜索命中的记录总数
            long total = searchResponse.getHits().getTotalHits().value;
            System.out.println("总记录数:" + total);
            //4.2 遍历获取命中的具体文档数据SON字符串
            SearchHit[] searchHits = searchResponse.getHits().getHits();
            if (searchHits != null && searchHits.length > 0) {
                for (SearchHit hit : searchHits) {
                    String hotelDocJson = hit.getSourceAsString();
                    System.out.println("命中的数据:" + hotelDocJson);
                }
            }
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
    /**
     * 查询结果处理:排序和分析
     */
    @Test
    void testSortAndPage(){
        //1.创建搜索请求对象
        SearchRequest searchRequest = new SearchRequest("hotel");

        //2.设置搜索类型
        BoolQueryBuilder boolQueryBuilder = QueryBuilders.boolQuery();
        boolQueryBuilder.must(QueryBuilders.termQuery("city","上海"));
        boolQueryBuilder.filter(QueryBuilders.rangeQuery("price").lte(250));

        //range查询
        searchRequest.source().query(boolQueryBuilder);

        searchRequest.source().from(0).size(3);//从第0条开始查询3条
        searchRequest.source().sort("price", SortOrder.DESC);//按照价格倒序
        try {

            //3.发起请求
            SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT);

            //4.解析响应结果(从外向内解析)
            //4.1 搜索命中的记录总数
            long total = searchResponse.getHits().getTotalHits().value;
            System.out.println("总记录数:" + total);
            //4.2 遍历获取命中的具体文档数据SON字符串
            SearchHit[] searchHits = searchResponse.getHits().getHits();
            if(searchHits!=null && searchHits.length>0){
                for (SearchHit hit : searchHits) {
                    String hotelDocJson = hit.getSourceAsString();
                    System.out.println("命中的数据:" + hotelDocJson);
                }
            }
        } catch (IOException e) {
            e.printStackTrace();
        }
    }

    /**
     * 查询结果处理:高亮
     */
    @Test
    void  testHighLight(){
        //1.创建搜索请求对象
        SearchRequest searchRequest = new SearchRequest("hotel");

        //2.设置搜索类型
        searchRequest.source().query(QueryBuilders.matchQuery("all","北京酒店"));

        searchRequest.source().from(8).size(10);//从第4条开始查询3条
        searchRequest.source().sort("price", SortOrder.DESC);//按照价格倒序

//        HighlightBuilder  highlightBuilder = new HighlightBuilder();
//        highlightBuilder.field("name"); //高亮字段
//        highlightBuilder.requireFieldMatch(false); //高亮字段是否与查询条件字段一致
//        highlightBuilder.preTags("<em>"); //高亮前置标签
//        highlightBuilder.postTags("</em>"); //高亮后置标签

        searchRequest.source().highlighter(new HighlightBuilder().field("name").requireFieldMatch(false).preTags("<em>").postTags("</em>"));
        try {

            //3.发起请求
            SearchResponse searchResponse = client.search(searchRequest, RequestOptions.DEFAULT);

            //4.解析响应结果(从外向内解析)
            //4.1 搜索命中的记录总数
            long total = searchResponse.getHits().getTotalHits().value;
            System.out.println("总记录数:" + total);
            //4.2 遍历获取命中的具体文档数据SON字符串
            SearchHit[] searchHits = searchResponse.getHits().getHits();
            if(searchHits!=null && searchHits.length>0){
                for (SearchHit hit : searchHits) {
                    String hotelDocJson = hit.getSourceAsString();
                    HotelDoc hotelDoc = JSON.parseObject(hotelDocJson, HotelDoc.class);

                    HighlightField highlightField = hit.getHighlightFields().get("name");
                    if(highlightField!=null){
                        //获取带高亮标签的酒店名称
                        String highLightName = highlightField.getFragments()[0].toString();
                        hotelDoc.setName(highLightName);
                    }

                    System.out.println("处理后的数据:" + JSON.toJSONString(hotelDoc));
                }
            }
        } catch (IOException e) {
            e.printStackTrace();
        }
    }

高亮结果解析,高亮的结果与查询的文档结果默认是分离的

代码解读:

  • 第一步:从结果中获取source。hit.getSourceAsString(),这部分是非高亮结果,json字符串。还需要反序列为HotelDoc对象

  • 第二步:获取高亮结果。hit.getHighlightFields(),返回值是一个Map,key是高亮字段名称,值是HighlightField对象,代表高亮值

  • 第三步:从map中根据高亮字段名称,获取高亮字段值对象HighlightField

  • 第四步:从HighlightField中获取Fragments,并且转为字符串。这部分就是真正的高亮字符串了

  • 第五步:用高亮的结果替换HotelDoc中的非高亮结果

数据聚合

聚合(aggregations)可以让我们方便的实现对数据的统计运算分析

聚合常见的三类:

桶(Bucket)聚合:用来对文档分组

度量(Metric)聚合:用以计算一些值

管道(pipeline)聚合:其他聚合的结果为基础做聚合

注:参加聚合的字段必须为keyword,日期,数值,布尔类型

DSL实现聚合

Bucket聚合语法

GET /hotel/_search
{
  "size": 0,  // 设置size为0,结果中不包含文档,只包含聚合结果
  "aggs": { // 定义聚合
    "brandAgg": { //给聚合起个名字
      "terms": { // 聚合的类型,按照品牌值聚合,所以选择term
        "field": "brand", // 参与聚合的字段
        "size": 20 // 希望获取的聚合结果数量
      }
    }
  }
}

默认情况下,Bucket聚合会统计Bucket内的文档数量,记作count,并按照count降序排序

指定order属性,自定义聚合的排序方式:

GET /hotel/_search
{
  "size": 0, 
  "aggs": {
    "brandAgg": {
      "terms": {
        "field": "brand",
        "order": {
          "_count": "asc" // 按照_count升序排列
        },
        "size": 20
      }
    }
  }
}

限定聚合范围

默认情况下,Bucket聚合是对索引库的所有文档做聚合,但真实场景下,用户会输入搜索条件,因此聚合必须是对搜索结果聚合。那么聚合必须添加限定条件。可以限定要聚合的文档范围,只要添加query条件即可:

GET /hotel/_search
{
  "query": {
    "range": {
      "price": {
        "lte": 200 // 只对200元以下的文档聚合
      }
    }
  }, 
  "size": 0, 
  "aggs": {
    "brandAgg": {
      "terms": {
        "field": "brand",
        "size": 20
      }
    }
  }
}

Metric聚合语法

GET /hotel/_search
{
  "size": 0, 
  "aggs": {
    "brandAgg": { 
      "terms": { 
        "field": "brand", 
        "size": 20
      },
      "aggs": { // 是brands聚合的子聚合,也就是分组后对每组分别计算
        "score_stats": { // 聚合名称
          "stats": { // 聚合类型,这里stats可以计算min、max、avg等
            "field": "score" // 聚合字段,这里是score
          }
        }
      }
    }
  }
}

score_stats聚合是在brandAgg的聚合内部嵌套的子聚合。因为我们需要在每个桶分别计算。

聚合的三要素:聚合名称,聚合类型,聚合字段

聚合可配置属性:

size:指定聚合结果数量        order:指定聚合结果排序方式         field:指定聚合字段

自动补全

在搜索框输入字符时,我们应该提示出与该字符有关的搜索项。要实现根据字母做补全,就必须对文档按照拼音分词。在GitHub上恰好有elasticsearch的拼音分词插件。地址: GitHub - medcl/elasticsearch-analysis-pinyin: This Pinyin Analysis plugin is used to do conversion between Chinese characters and Pinyin. 安装方式 : 安装elasticsearch_m0_50601240的博客-CSDN博客

自定义分词器

默认的拼音分词器会将每个汉字单独分为拼音,而我们希望的是每个词条形成一组拼音,需要对拼音分词器做个性化定制,形成自定义分词器。

elasticsearch中分词器(analyzer)的组成包含三部分:

  • character filters:在tokenizer之前对文本进行处理。例如删除字符、替换字符

  • tokenizer:将文本按照一定的规则切割成词条(term)。例如keyword,就是不分词;还有ik_smart

  • tokenizer filter:将tokenizer输出的词条做进一步处理。例如大小写转换、同义词处理、拼音处理等

 声明自定义分词器的语法如下:

PUT /test
{
  "settings": {
    "analysis": {
      "analyzer": { // 自定义分词器
        "my_analyzer": {  // 分词器名称
          "tokenizer": "ik_max_word",
          "filter": "py"
        }
      },
      "filter": { // 自定义tokenizer filter
        "py": { // 过滤器名称
          "type": "pinyin", // 过滤器类型,这里是pinyin
		  "keep_full_pinyin": false,
          "keep_joined_full_pinyin": true,
          "keep_original": true,
          "limit_first_letter_length": 16,
          "remove_duplicated_term": true,
          "none_chinese_pinyin_tokenize": false
        }
      }
    }
  },
  "mappings": {
    "properties": {
      "name": {
        "type": "text",
        "analyzer": "my_analyzer",
        "search_analyzer": "ik_smart"
      }
    }
  }
}

为了避免搜索到同音字,搜索时不要使用拼音分词器

自动补全查询

elasticsearch提供了 Completion Suggester查询来实现自动补全功能。这个查询会匹配以用户输入内容开头的词条并返回。为了提高补全查询的效率,对于文档中字段的类型有一些约束:

  • 参与补全查询的字段必须是completion类型。

  • 字段的内容一般是用来补全的多个词条形成的数组。

// 自动补全查询
GET /test/_search
{
  "suggest": {
    "title_suggest": {
      "text": "s", // 关键字
      "completion": {
        "field": "title", // 补全查询的字段
        "skip_duplicates": true, // 跳过重复的
        "size": 10 // 获取前10条结果
      }
    }
  }
}

数据同步

elasticsearch中的酒店数据来自于mysql数据库,因此mysql数据发生改变时,elasticsearch也必须跟着改变,这个就是elasticsearch与mysql之间的数据同步

常见的同步方式:1.同步调用  2.异步通知   3.监听binlog

同步调用

 

基本步骤如下:

  • hotel-demo对外提供接口,用来修改elasticsearch中的数据。酒店管理服务在完成数据库操作后,直接调用hotel-demo提供的接口

异步通知

流程如下:

  • hotel-admin对mysql数据库数据完成增、删、改后,发送MQ消息

  • hotel-demo监听MQ,接收到消息后完成elasticsearch数据修改

监听binlog 

 

流程如下:

  • 给mysql开启binlog功能

  • mysql完成增、删、改操作都会记录在binlog中

  • hotel-demo基于canal监听binlog变化,实时更新elasticsearch中的内容

选择

方式一:同步调用

  • 优点:实现简单,粗暴

  • 缺点:业务耦合度高

方式二:异步通知

  • 优点:低耦合,实现难度一般

  • 缺点:依赖mq的可靠性

方式三:监听binlog

  • 优点:完全解除服务间耦合

  • 缺点:开启binlog增加数据库负担、实现复杂度高

集群

单机的elasticsearch做数据存储,必然面临两个问题:海量数据存储问题、单点故障问题。

  • 海量数据存储问题:将索引库从逻辑上拆分为N个分片(shard),存储到多个节点

  • 单点故障问题:将分片数据在不同节点备份(replica )

ES集群相关概念:

  • 集群(cluster):一组拥有共同的 cluster name 的 节点。

  • 节点(node) :集群中的一个 Elasticearch 实例

  • 分片(shard):索引可以被拆分为不同的部分进行存储,称为分片。在集群环境下,一个索引的不同分片可以拆分到不同的节点中        解决问题:数据量太大,单点存储量有限的问题。

 

  • 主分片(Primary shard):相对于副本分片的定义。

  • 副本分片(Replica shard)每个主分片可以有一个或者多个副本,数据和主分片一样。

数据备份可以保证高可用,但是每个分片备份一份,所需要的节点数量就会翻一倍,成本实在是太高了!

为了在高可用和成本间寻求平衡,我们可以这样做:

  • 首先对数据分片,存储到不同节点

  • 然后对每个分片进行备份,放到对方节点,完成互相备份

这样可以大大减少所需要的服务节点数量,如图,我们以3分片,每个分片备份一份为例:

 

集群职责划分

默认情况下,集群中的任何一个节点都同时具备上述四种角色。

真实的集群一定要将集群职责分离:

  • master节点:对CPU要求高,但是内存要求低。参与集群选主,主节点可以管理集群状态、管理分片信息、处理创建和删除索引库的请求

  • data节点:对CPU和内存要求都高。数据的CRUD

  • coordinating节点:对网络带宽、CPU要求高。路由请求到其它节点,合并查询到的结果,返回给用户

职责分离可以让我们根据不同节点的需求分配不同的硬件去部署。而且避免业务之间的互相干扰。

一个典型的es集群职责划分如图:

集群中的脑裂问题: 

脑裂是因为集群中的节点失联导致的,例如一个集群中,主节点m与其他节点失联。此时,其他节点任务主节点宕机,会重新选择选主。当选出新的主节点n时,n和其他节点自成集群,m自成集群,两个集群数据不同步,出现数据差异。当网络恢复时,因为集群中有两个主节点,集群状态不一致,出现脑裂问题。

解决脑裂的方案是,要求选票超过 ( eligible节点数量 + 1 )/ 2 才能当选为主,因此eligible节点数量最好是奇数。对应配置项是discovery.zen.minimum_master_nodes,在es7.0以后,已经成为默认配置,因此一般不会发生脑裂问题

例如:3个节点形成的集群,选票必须超过 (3 + 1) / 2 ,也就是2票。node3得到node2和node3的选票,当选为主。node1只有自己1票,没有当选。集群中依然只有1个主节点,没有出现脑裂。

分片存储原理

elasticsearch会通过hash算法来计算文档应该存储到哪个分片:

 

  • _routing默认是文档的id。算法与分片数量有关,因此索引库一旦创建,分片数量不能修改!

新增文档的流程如下:

 

集群分布式查询

elasticsearch的查询分成两个阶段:

  • scatter phase:分散阶段,coordinating node会把请求分发到每一个分片

  • gather phase:聚集阶段,coordinating node汇总data node的搜索结果,并处理为最终结果集返回给用户

集群故障转移

集群的master节点会监控集群中的节点状态,如果发现有节点宕机,会立即将宕机节点的分片数据迁移到其它节点,确保数据安全,这个叫做故障转移。

m0_50601240
关注 关注
  • 1
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
ES搜索引擎入门+最佳实践(一)
柳老师的博客
08-03 2649
本篇文章计划给大家介绍什么ES,ES的架构,以及ES搜索入门.我尽量用简单不拖沓的语言给大家介绍,水平有限,时间也有限,各位读者如发现文中有不当之处,请留言指正.ES的全称是Elasticsearch,翻译过来就是弹性搜索,知道就可以,不用纠结这个词的含义,我觉得这个词并不能表述ES的含义.ES并不是传统意义上的数据库,所以不需要用传到的数据库例如Oracle,mysql等数据库与ES进行类比.ES是建立在Lucene(全文搜索)基础上的分布式准实时搜索引擎.
基于Java的Elasticsearch数据搜索系统设计源码
最新发布
06-07
本项目为“基于Java的Elasticsearch数据搜索系统设计源码”,包含77个文件,其中包括20个Java源文件、19个字节码文件、9个XML配置文件、6个Properties配置文件、6个YAML配置文件、2个JAR包、2个日志文件、2个...
ESElasticsearch 全文检索)
不瘦25斤不改名
04-08 2170
对文档的内容进行分词,对词条创建索引,记录词条所在的文档信息根据词条查询到文档的id 从而查到文档。es是面向文档存储的可以是数据库中的一条商品数据订单信息,文档会被序列化为json后存储在es中。根据文档的id创建索引 查询词条必须先找到文档完了判断是否包含词条。删:DELETE /indexName/_doc/docId。增:POST /indexName/_doc/docId。差:GET /indexName/_doc/docId。es:擅长海量数据搜索、分析、计算。
es搜索方式
hubertbb3的博客
04-23 1482
搜索了带有“酒店”名称的所有店家,然后通过function中,对品牌为“如家”的酒店进行了weight为10的加权,加权方式为sum,表示在query查询中算出的原有分数中再加上10。没有查询上限,由于他的分页原理时记录上一次最后的值,所以他不支持向前翻页。geo_bounding_box:匹配在指定矩阵内的值,top_left,bottom_rigth,为矩阵的左上角和右下顶点,在查询匹配中可以通过function_score对匹配的结果进行算分,通过算分的值对结果集展示进行重新排序。
Elasticsearch入门
LF991的博客
06-25 820
Elasticsearch
大规模数据量下ES如何实现高性能检索?
itigoitie的博客
02-28 2099
ElasticSearch,是基于Lucene库的搜索引擎。它提供了一个分布式、多租户的全文搜索引擎,具有HTTP web接口和无模式JSON文档。根据DB引擎排名,Elasticsearch是最受欢迎的企业搜索引擎。ES的特点是分布式、高扩展以及近实时。那么,大规模数据量下ES是如何实现高性能检索的呢?回到我们的文章标题,ES是如何实现高性能模糊查询的呢?ES通过分词然后对每一个单词及其对应文档建立倒排索引,使得能够快速根据关键词找到对应文档id;
Elasticsearch搜索引擎(一)——基础使用
qq_43409401的博客
12-31 1484
Elasticsearch是一个接近实时的分布式搜索平台。
十分钟学会使用 Elasticsearch 优雅搭建自己的搜索系统.pdf
05-18
我们本文案例是一个迷你商品搜索系统,为什么不考虑使用MySQL来实现搜索功能呢?原因如下: MySQL默认使用innodb引擎,底层采用b+树的方式来实现,而Es底层使用倒排索引的方式实现,使用倒排索引支持各种维度的...
springboot整合elasticsearch7实现es数据同步,查询、相关度排序、高亮显示、自动补全搜索功能
03-31
springboot整合elasticsearch7,进行数据同步。elasticsearch相关度查询、排序。高亮显示;自动补全等功能。代码仅供参考,代码中有具体的注释,可以根据代码及注释内容,对自己项目架构及业务进行修改、整合。
ElasticSearch搜索引擎教程实战篇
09-19
Elasticsearch是一个基于Lucene的搜索引擎,提供了强大的搜索功能和可扩展的架构。Elasticsearch的核心概念包括索引、文档、字段、映射、查询、过滤器等。 知识点2:Elasticsearch安装和配置 Elasticsearch的安装...
ElasticSearch+Django+Scrapy搜索引擎
02-22
scrapy爬虫获取数据存储至esElasticSearch+Django实现搜索页面。 快速开始 # 下拉项目代码 git clone https://github.com/downdawn/eswork.git # 安装requirements.txt依赖 pip install -r requirements.txt # ...
ES如何指定返回的字段field
不见其长,日有所长
04-16 9945
1. elasticsearch 2.x 在elasticsearch 2.x版本中,如果我们想指定查询返回的字段,可以使用fields字段设置,代码如下: String index = xxx; String type = xxx; // 指定要返回的字段 String[] fields = new String[2]; fields[0] = "field1"; // ...
ES中的三种查询
qq_40708942的博客
10-20 1万+
es的三种查询,以及需要注意的事项
java操作需要用户名密码验证的elasticsearch
热门推荐
m0_37817986的博客
04-18 1万+
最近有项目用到Elasticsearch,一开始不需要用户名密码验证,操作起来倒挺简单,后来加了密码验证便不知如何操作了.在网上找了许多资料,发现大多不好用,最后找呀找呀还是被我找到了,就在这里记录下吧. 引入相关maven依赖 <dependency> <groupId>org.elasticsearch</groupId> &...
全文检索 Elasticsearch(简称es)
CORN的博客
06-04 1万+
全文检索 Elasticsearch 研究 1. ElasticSearch 介绍 1.1 介绍 **Elasticsearch**是一个基于Lucene库的搜索引擎。它提供了一个分布式、支持多租户的全文搜索引擎,具有HTTP Web接口和无模式JSON文档。Elasticsearch是用Java开发的,并在Apache许可证下作为开源软件发布。官方客户端在Java、.NET(C#)、PHP、Py...
ES学习(三)全文查询[超多图预警]
changgongcheng_yq的博客
12-18 1340
3.1 _analyze 分析器 3.2 全文搜索 match 3.3 组合查询 3.4 聚集查询 四、SpringBoot集成 五、ELK+Skywalking
ES搜索引擎
qq_40728490的博客
05-02 2506
131414
Elasticsearch分页解决方案研究
WorldMvp的专栏
11-12 4044
1.1 常见的分页方式:from+size elasticsearch默认采用的分页方式是from+size的形式。但是,在深度分页的情况下,这种使用方式的效率是非常低的,比如from=5000,size=10,es需要在各个分片上匹配排序并得到5000*10条有效数据,然后在结果集中取最后10条数据返回。除了会遇到效率上的问题,还有一个无法解决的问题:es目前支持最大的skip值是max_result_window(默认为10000),也就是说,当from+size > max_resul...
Es搜索引擎概述和语句案例
yhyh1233的博客
03-12 5181
个人学习ES总结,仅当参考
如何使用ES实现高效搜索功能
04-25
ESElasticsearch)是一个基于Lucene库开发的开源搜索引擎,可以快速地存储、搜索和分析大量的数据。要实现高效搜索功能,你可以按照以下步骤进行: 1. 创建一个ES索引,并设置好文档的mapping信息。 2. 将数据集...

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
写文章

热门文章

  • 使用ES的数据搜索功能 9273
  • SpringCloud 微服务框架 6529
  • 黑马头条简述 5870
  • 阿里云实现短信发送 3068
  • Docker 3005

分类专栏

  • 日常问题 2篇
  • 前端 1篇
  • 虚拟机 2篇
  • java 4篇
  • sql 1篇
  • Freemarker 1篇
  • MinIO 1篇
  • 接口工具 1篇
  • SpringCache 1篇
  • mybatisPlus 1篇

最新评论

  • 黑马头条简述

    是星星呀~: 这个项目的简历怎么写呀表情包表情包

  • 黑马头条简述

    m0_65525787: 这个项目大概得做多久啊

  • 虚拟机选择网关

    weixin_44584341: 大佬,怎么设置想要的那个ip呢,他这个固定是随机的吗

  • 黑马头条简述

    Lil G.: 有视频资源吗兄弟

  • 黑马头条简述

    m0_50601240: 技术应该都是一样的,我也没细看过b站上的

大家在看

  • 为什么建议下载python3.10
  • 冒泡排序Java详细注释版
  • 基于ZigBee设计的天气监测系统(串口通信+上位机)
  • Mybatis 481
  • Python大作业完成咯 286

最新文章

  • sql数据库按照年月日匹配
  • 端口被占用
  • 解决前端可以进入首页,菜单导航无法加载
2024年2篇
2023年2篇
2022年33篇

目录

目录

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值

深圳SEO优化公司山南外贸网站建设推荐霍邱网站设计价格安庆营销型网站建设公司铜川建站哪家好昆明模板网站建设推荐深圳模板推广价格廊坊网站改版推荐孝感阿里店铺托管推荐成都百度关键词包年推广公司辽阳建网站公司汕头网站建设设计哪家好资阳网站开发推荐巴中网站改版价格张家口网站优化软件报价荆门模板推广价格衡水网站推广哪家好双龙网站seo优化保定外贸网站制作多少钱抚顺模板网站建设推荐伊犁SEO按天收费价格乐山网站优化排名价格宜宾网站推广工具价格飞来峡网站排名优化宿州百姓网标王推广推荐宝安网站优化推广公司唐山seo排名多少钱绵阳网站开发报价海口百度关键词包年推广价格乐山网站优化排名哪家好醴陵模板制作推荐歼20紧急升空逼退外机英媒称团队夜以继日筹划王妃复出草木蔓发 春山在望成都发生巨响 当地回应60岁老人炒菠菜未焯水致肾病恶化男子涉嫌走私被判11年却一天牢没坐劳斯莱斯右转逼停直行车网传落水者说“没让你救”系谣言广东通报13岁男孩性侵女童不予立案贵州小伙回应在美国卖三蹦子火了淀粉肠小王子日销售额涨超10倍有个姐真把千机伞做出来了近3万元金手镯仅含足金十克呼北高速交通事故已致14人死亡杨洋拄拐现身医院国产伟哥去年销售近13亿男子给前妻转账 现任妻子起诉要回新基金只募集到26元还是员工自购男孩疑遭霸凌 家长讨说法被踢出群充个话费竟沦为间接洗钱工具新的一天从800个哈欠开始单亲妈妈陷入热恋 14岁儿子报警#春分立蛋大挑战#中国投资客涌入日本东京买房两大学生合买彩票中奖一人不认账新加坡主帅:唯一目标击败中国队月嫂回应掌掴婴儿是在赶虫子19岁小伙救下5人后溺亡 多方发声清明节放假3天调休1天张家界的山上“长”满了韩国人?开封王婆为何火了主播靠辱骂母亲走红被批捕封号代拍被何赛飞拿着魔杖追着打阿根廷将发行1万与2万面值的纸币库克现身上海为江西彩礼“减负”的“试婚人”因自嘲式简历走红的教授更新简介殡仪馆花卉高于市场价3倍还重复用网友称在豆瓣酱里吃出老鼠头315晚会后胖东来又人满为患了网友建议重庆地铁不准乘客携带菜筐特朗普谈“凯特王妃P图照”罗斯否认插足凯特王妃婚姻青海通报栏杆断裂小学生跌落住进ICU恒大被罚41.75亿到底怎么缴湖南一县政协主席疑涉刑案被控制茶百道就改标签日期致歉王树国3次鞠躬告别西交大师生张立群任西安交通大学校长杨倩无缘巴黎奥运

深圳SEO优化公司 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化