ElasticSearch實戰

ElasticSearch實戰

es: //www.elastic.co/cn/

kibana: //www.elastic.co/cn/kibana

鏈接：//pan.baidu.com/s/1qmXNZBVGrcp0fuo9bBqrRA 提取碼：6zpo --來自百度網盤超級會員V5的分享 來自狂神公眾號

防京東商城搜索（高亮）

1、工程創建（springboot）

創建過程略

目錄結構

2、基本編碼

①導入依賴

  1. <properties>
  2. <java.version>1.8</java.version>
  3. <elasticsearch.version>7.6.1</elasticsearch.version>
  4. </properties>
  6. <dependencies>
  7. <!-- jsoup解析頁面 -->
  8. <!-- 解析網頁 爬影片可 研究tiko -->
  9. <dependency>
  10. <groupId>org.jsoup</groupId>
  11. <artifactId>jsoup</artifactId>
  12. <version>1.10.2</version>
  13. </dependency>
  14. <!-- fastjson -->
  15. <dependency>
  16. <groupId>com.alibaba</groupId>
  17. <artifactId>fastjson</artifactId>
  18. <version>1.2.70</version>
  19. </dependency>
  20. <!-- ElasticSearch -->
  21. <dependency>
  22. <groupId>org.springframework.boot</groupId>
  23. <artifactId>spring-boot-starter-data-elasticsearch</artifactId>
  24. </dependency>
  25. <!-- thymeleaf -->
  26. <dependency>
  27. <groupId>org.springframework.boot</groupId>
  28. <artifactId>spring-boot-starter-thymeleaf</artifactId>
  29. </dependency>
  30. <!-- web -->
  31. <dependency>
  32. <groupId>org.springframework.boot</groupId>
  33. <artifactId>spring-boot-starter-web</artifactId>
  34. </dependency>
  35. <!-- devtools熱部署 -->
  36. <dependency>
  37. <groupId>org.springframework.boot</groupId>
  38. <artifactId>spring-boot-devtools</artifactId>
  39. <scope>runtime</scope>
  40. <optional>true</optional>
  41. </dependency>
  42. <!-- -->
  43. <dependency>
  44. <groupId>org.springframework.boot</groupId>
  45. <artifactId>spring-boot-configuration-processor</artifactId>
  46. <optional>true</optional>
  47. </dependency>
  48. <!-- lombok 需要安裝插件 -->
  49. <dependency>
  50. <groupId>org.projectlombok</groupId>
  51. <artifactId>lombok</artifactId>
  52. <optional>true</optional>
  53. </dependency>
  54. <!-- test -->
  55. <dependency>
  56. <groupId>org.springframework.boot</groupId>
  57. <artifactId>spring-boot-starter-test</artifactId>
  58. <scope>test</scope>
  59. </dependency>
  60. </dependencies>

②導入前端素材

略

③編寫 application.preperties配置文件

  1. # 更改埠，防止衝突
  2. server.port=9999
  3. # 關閉thymeleaf快取
  4. spring.thymeleaf.cache=false

④測試controller和view

  1. @Controller
  2. public class IndexController {
  4. @GetMapping({"/","index"})
  5. public String index(){
  6. return "index";
  7. }
  8. }

訪問 localhost:9999

到這裡可以先去編寫爬蟲，編寫之後，回到這裡

⑤編寫Config

  1. @Configuration
  2. public class ElasticSearchConfig {
  3. @Bean
  4. public RestHighLevelClient restHighLevelClient(){
  5. RestHighLevelClient client = new RestHighLevelClient(
  6. RestClient.builder(
  7. new HttpHost("127.0.0.1",9200,"http")
  8. )
  9. );
  10. return client;
  11. }
  12. }

⑥編寫service

因為是爬取的數據，那麼就不走Dao，以下編寫都不會編寫介面，開發中必須嚴格要求編寫

ContentService

  1. @Service
  2. public class ContentService {
  4. @Autowired
  5. private RestHighLevelClient restHighLevelClient;
  8. // 1、解析數據放入 es 索引中
  9. public Boolean parseContent(String keyword) throws IOException {
  10. // 獲取內容
  11. List<Content> contents = HtmlParseUtil.parseJD(keyword);
  12. // 內容放入 es 中
  13. BulkRequest bulkRequest = new BulkRequest();
  14. bulkRequest.timeout("2m"); // 可更具實際業務是指
  15. for (int i = 0; i < contents.size(); i++) {
  16. bulkRequest.add(
  17. new IndexRequest("jd_goods")
  18. .id(""+(i+1))
  19. .source(JSON.toJSONString(contents.get(i)), XContentType.JSON)
  20. );
  21. }
  22. BulkResponse bulk = restHighLevelClient.bulk(bulkRequest, RequestOptions.DEFAULT);
  23. restHighLevelClient.close();
  24. return !bulk.hasFailures();
  25. }
  27. // 2、根據keyword分頁查詢結果
  28. public List<Map<String, Object>> search(String keyword, Integer pageIndex, Integer pageSize) throws IOException {
  29. if (pageIndex < 0){
  30. pageIndex = 0;
  31. }
  33. SearchRequest jd_goods = new SearchRequest("jd_goods");
  34. // 創建搜索源建造者對象
  35. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
  36. // 條件採用：精確查詢 通過keyword查欄位name
  37. TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("name", keyword);
  38. searchSourceBuilder.query(termQueryBuilder);
  39. searchSourceBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));// 60s
  40. // 分頁
  41. searchSourceBuilder.from(pageIndex);
  42. searchSourceBuilder.size(pageSize);
  43. // 高亮
  44. // ....
  46. // 搜索源放入搜索請求中
  47. jd_goods.source(searchSourceBuilder);
  48. // 執行查詢，返回結果
  49. SearchResponse searchResponse = restHighLevelClient.search(jd_goods, RequestOptions.DEFAULT);
  50. restHighLevelClient.close();
  52. // 解析結果
  53. SearchHits hits = searchResponse.getHits();
  54. List<Map<String,Object>> results = new ArrayList<>();
  55. for (SearchHit documentFields : hits.getHits()) {
  56. Map<String, Object> sourceAsMap = documentFields.getSourceAsMap();
  57. results.add(sourceAsMap);
  58. }
  60. // 返回查詢的結果
  61. return results;
  62. }
  63. }

⑦編寫controller

  1. @Controller
  2. public class ContentController {
  4. @Autowired
  5. private ContentService contentService;
  7. @ResponseBody
  8. @GetMapping("/parse/{keyword}")
  9. public Boolean parse(@PathVariable("keyword") String keyword) throws IOException {
  10. return contentService.parseContent(keyword);
  11. }
  13. @ResponseBody
  14. @GetMapping("/search/{keyword}/{pageIndex}/{pageSize}")
  15. public List<Map<String, Object>> parse(@PathVariable("keyword") String keyword,
  16. @PathVariable("pageIndex") Integer pageIndex,
  17. @PathVariable("pageSize") Integer pageSize) throws IOException {
  18. return contentService.search(keyword,pageIndex,pageSize);
  19. }
  20. }

⑧測試結果

1、解析數據放入 es 索引中

2、根據keyword分頁查詢結果

3、爬蟲（jsoup）

數據獲取：資料庫、消息隊列、爬蟲、…

①搜索京東搜索頁面，並分析頁面

  1. http://search.jd.com/search?keyword=java
頁面如下

審查頁面元素

頁面列表id：J_goodsList

目標元素：img、price、name

②爬取數據（獲取請求返回的頁面資訊，篩選出可用的）

創建HtmlParseUtil，並簡單編寫
  1. public class HtmlParseUtil {
  2. public static void main(String[] args) throws IOException {
  3. /// 使用前需要聯網
  4. // 請求url
  5. String url = "//search.jd.com/search?keyword=java";
  6. // 1.解析網頁(jsoup 解析返回的對象是瀏覽器Document對象)
  7. Document document = Jsoup.parse(new URL(url), 30000);
  8. // 使用document可以使用在js對document的所有操作
  9. // 2.獲取元素（通過id）
  10. Element j_goodsList = document.getElementById("J_goodsList");
  11. // 3.獲取J_goodsList ul 每一個 li
  12. Elements lis = j_goodsList.getElementsByTag("li");
  13. // 4.獲取li下的 img、price、name
  14. for (Element li : lis) {
  15. String img = li.getElementsByTag("img").eq(0).attr("src");// 獲取li下 第一張圖片
  16. String name = li.getElementsByClass("p-name").eq(0).text();
  17. String price = li.getElementsByClass("p-price").eq(0).text();
  19. System.out.println("=======================");
  20. System.out.println("img : " + img);
  21. System.out.println("name : " + name);
  22. System.out.println("price : " + price);
  23. }
  24. }
  25. }

運行結果

原因是啥？

一般圖片特別多的網站，所有的圖片都是通過延遲載入的

  1. // 列印標籤內容
  2. Elements lis = j_goodsList.getElementsByTag("li");
  3. System.out.println(lis);

列印所有li標籤，發現img標籤中並沒有屬性src的設置，只是data-lazy-ing設置圖片載入的地址

創建HtmlParseUtil、改寫

  • 更改圖片獲取屬性為 data-lazy-img

  • 與實體類結合，實體類如下

    1. @Data
    2. @AllArgsConstructor
    3. @NoArgsConstructor
    4. public class Content implements Serializable {
    5. private static final long serialVersionUID = -8049497962627482693L;
    6. private String name;
    7. private String img;
    8. private String price;
    9. }

  • 封裝為方法

  1. public class HtmlParseUtil {
  2. public static void main(String[] args) throws IOException {
  3. System.out.println(parseJD("java"));
  4. }
  7. public static List<Content> parseJD(String keyword) throws IOException {
  8. /// 使用前需要聯網
  9. // 請求url
  10. String url = "//search.jd.com/search?keyword=" + keyword;
  11. // 1.解析網頁(jsoup 解析返回的對象是瀏覽器Document對象)
  12. Document document = Jsoup.parse(new URL(url), 30000);
  13. // 使用document可以使用在js對document的所有操作
  14. // 2.獲取元素（通過id）
  15. Element j_goodsList = document.getElementById("J_goodsList");
  16. // 3.獲取J_goodsList ul 每一個 li
  17. Elements lis = j_goodsList.getElementsByTag("li");
  18. // System.out.println(lis);
  19. // 4.獲取li下的 img、price、name
  20. // list存儲所有li下的內容
  21. List<Content> contents = new ArrayList<Content>();
  22. for (Element li : lis) {
  23. // 由於網站圖片使用懶載入，將src屬性替換為data-lazy-img
  24. String img = li.getElementsByTag("img").eq(0).attr("data-lazy-img");// 獲取li下 第一張圖片
  25. String name = li.getElementsByClass("p-name").eq(0).text();
  26. String price = li.getElementsByClass("p-price").eq(0).text();
  27. // 封裝為對象
  28. Content content = new Content(name,img,price);
  29. // 添加到list中
  30. contents.add(content);
  31. }
  32. // System.out.println(contents);
  33. // 5.返回 list
  34. return contents;
  35. }
  36. }

結果展示

4、搜索高亮

在3、的基礎上添加內容

①ContentService

  1. // 3、 在2的基礎上進行高亮查詢
  2. public List<Map<String, Object>> highlightSearch(String keyword, Integer pageIndex, Integer pageSize) throws IOException {
  4. SearchRequest searchRequest = new SearchRequest("jd_goods");
  5. SearchSourceBuilder searchSourceBuilder = new SearchSourceBuilder();
  6. // 精確查詢，添加查詢條件
  7. TermQueryBuilder termQueryBuilder = QueryBuilders.termQuery("name", keyword);
  8. searchSourceBuilder.timeout(new TimeValue(60, TimeUnit.SECONDS));
  9. searchSourceBuilder.query(termQueryBuilder);
  10. // 分頁
  11. searchSourceBuilder.from(pageIndex);
  12. searchSourceBuilder.size(pageSize);
  13. // 高亮 =========
  14. HighlightBuilder highlightBuilder = new HighlightBuilder();
  15. highlightBuilder.field("name");
  16. highlightBuilder.preTags("<span style='color:red'>");
  17. highlightBuilder.postTags("</span>");
  18. searchSourceBuilder.highlighter(highlightBuilder);
  20. // 執行查詢
  21. searchRequest.source(searchSourceBuilder);
  22. SearchResponse searchResponse = restHighLevelClient.search(searchRequest, RequestOptions.DEFAULT);
  23. // 解析結果 ==========
  24. SearchHits hits = searchResponse.getHits();
  25. List<Map<String, Object>> results = new ArrayList<>();
  26. for (SearchHit documentFields : hits.getHits()) {
  27. // 使用新的欄位值（高亮），覆蓋舊的欄位值
  28. Map<String, Object> sourceAsMap = documentFields.getSourceAsMap();
  29. // 高亮欄位
  30. Map<String, HighlightField> highlightFields = documentFields.getHighlightFields();
  31. HighlightField name = highlightFields.get("name");
  32. // 替換
  33. if (name != null){
  34. Text[] fragments = name.fragments();
  35. StringBuilder new_name = new StringBuilder();
  36. for (Text text : fragments) {
  37. new_name.append(text);
  38. }
  39. sourceAsMap.put("name",new_name.toString());
  40. }
  41. results.add(sourceAsMap);
  42. }
  43. return results;
  44. }

②ContentController

  1. @ResponseBody
  2. @GetMapping("/h_search/{keyword}/{pageIndex}/{pageSize}")
  3. public List<Map<String, Object>> highlightParse(@PathVariable("keyword") String keyword,
  4. @PathVariable("pageIndex") Integer pageIndex,
  5. @PathVariable("pageSize") Integer pageSize) throws IOException {
  6. return contentService.highlightSearch(keyword,pageIndex,pageSize);
  7. }

③結果展示

5、前後端分離（簡單使用Vue）

刪除Controller 方法上的 @ResponseBody註解

①下載並引入Vue.min.js和axios.js

如果安裝了nodejs，可以按如下步驟，沒有可以到後面素材處下載

  1. npm install vue
  2. npm install axios

②修改靜態頁面

引入js
  1. <script th:src="@{/js/vue.min.js}"></script>
  2. <script th:src="@{/js/axios.min.js}"></script>
修改後的index.html
  1. <!DOCTYPE html>
  2. <html xmlns:th="//www.thymeleaf.org">
  4. <head>
  5. <meta charset="utf-8"/>
  6. <title>狂神說Java-ES仿京東實戰</title>
  7. <link rel="stylesheet" th:href="@{/css/style.css}"/>
  8. <script th:src="@{/js/jquery.min.js}"></script>
  9. </head>
  11. <body class="pg">
  12. <div class="page">
  13. <div id="app" class=" mallist tmall- page-not-market ">
  15. <!-- 頭部搜索 -->
  16. <div id="header" class=" header-list-app">
  17. <div class="headerLayout">
  18. <div class="headerCon ">
  19. <!-- Logo-->
  20. <h1 id="mallLogo">
  21. <img th:src="@{/images/jdlogo.png}" alt="">
  22. </h1>
  24. <div class="header-extra">
  26. <!--搜索-->
  27. <div id="mallSearch" class="mall-search">
  28. <form name="searchTop" class="mallSearch-form clearfix">
  29. <fieldset>
  30. <legend>天貓搜索</legend>
  31. <div class="mallSearch-input clearfix">
  32. <div class="s-combobox" id="s-combobox-685">
  33. <div class="s-combobox-input-wrap">
  34. <input v-model="keyword" type="text" autocomplete="off" id="mq"
  35. class="s-combobox-input" aria-haspopup="true">
  36. </div>
  37. </div>
  38. <button type="submit" @click.prevent="searchKey" id="searchbtn">搜索</button>
  39. </div>
  40. </fieldset>
  41. </form>
  42. <ul class="relKeyTop">
  43. <li><a>狂神說Java</a></li>
  44. <li><a>狂神說前端</a></li>
  45. <li><a>狂神說Linux</a></li>
  46. <li><a>狂神說大數據</a></li>
  47. <li><a>狂神聊理財</a></li>
  48. </ul>
  49. </div>
  50. </div>
  51. </div>
  52. </div>
  53. </div>
  55. <!-- 商品詳情頁面 -->
  56. <div id="content">
  57. <div class="main">
  58. <!-- 品牌分類 -->
  59. <form class="navAttrsForm">
  60. <div class="attrs j_NavAttrs" style="display:block">
  61. <div class="brandAttr j_nav_brand">
  62. <div class="j_Brand attr">
  63. <div class="attrKey">
  64. 品牌
  65. </div>
  66. <div class="attrValues">
  67. <ul class="av-collapse row-2">
  68. <li><a href="#"> 狂神說 </a></li>
  69. <li><a href="#"> Java </a></li>
  70. </ul>
  71. </div>
  72. </div>
  73. </div>
  74. </div>
  75. </form>
  77. <!-- 排序規則 -->
  78. <div class="filter clearfix">
  79. <a class="fSort fSort-cur">綜合<i class="f-ico-arrow-d"></i></a>
  80. <a class="fSort">人氣<i class="f-ico-arrow-d"></i></a>
  81. <a class="fSort">新品<i class="f-ico-arrow-d"></i></a>
  82. <a class="fSort">銷量<i class="f-ico-arrow-d"></i></a>
  83. <a class="fSort">價格<i class="f-ico-triangle-mt"></i><i class="f-ico-triangle-mb"></i></a>
  84. </div>
  86. <!-- 商品詳情 -->
  87. <div class="view grid-nosku" >
  89. <div class="product" v-for="result in results">
  90. <div class="product-iWrap">
  91. <!--商品封面-->
  92. <div class="productImg-wrap">
  93. <a class="productImg">
  94. <img :src="result.img">
  95. </a>
  96. </div>
  97. <!--價格-->
  98. <p class="productPrice">
  99. <em v-text="result.price"></em>
  100. </p>
  101. <!--標題-->
  102. <p class="productTitle">
  103. <a v-html="result.name"></a>
  104. </p>
  105. <!-- 店鋪名 -->
  106. <div class="productShop">
  107. <span>店鋪： 狂神說Java </span>
  108. </div>
  109. <!-- 成交資訊 -->
  110. <p class="productStatus">
  111. <span>月成交<em>999筆</em></span>
  112. <span>評價 <a>3</a></span>
  113. </p>
  114. </div>
  115. </div>
  116. </div>
  117. </div>
  118. </div>
  119. </div>
  120. </div>
  121. <script th:src="@{/js/vue.min.js}"></script>
  122. <script th:src="@{/js/axios.min.js}"></script>
  123. <script>
  124. new Vue({
  125. el:"#app",
  126. data:{
  127. "keyword": '', // 搜索的關鍵字
  128. "results":[] // 後端返回的結果
  129. },
  130. methods:{
  131. searchKey(){
  132. var keyword = this.keyword;
  133. console.log(keyword);
  134. axios.get('h_search/'+keyword+'/0/20').then(response=>{
  135. console.log(response.data);
  136. this.results=response.data;
  137. })
  138. }
  139. }
  140. });
  142. </script>
  143. </body>
  144. </html>
測試

安裝包及前端素材

鏈接：//pan.baidu.com/s/1M5uWdYsCZyzIAOcgcRkA_A
提取碼：qk8p
複製這段內容後打開百度網盤手機App，操作更方便哦

疑惑：

1、使用term（精確查詢）時，我發現三個問題，問題如下：

  • 欄位值必須是一個詞（索引中存在的詞），才能匹配

    • 問題：中文字元串，term查詢時無法查詢到數據（比如，「編程」兩字在文檔中存在，但是搜索不到）

    • 原因：索引為配置中文分詞器（默認使用standard，即所有中文字元串都會被切分為單個中文漢字作為單詞），所以沒有超過1個漢字的詞，也就無法匹配，進而查不到數據

    • 解決：創建索引時配置中文分詞器，如

      1. PUT example
      2. {
      3. "mappings": {
      4. "properties": {
      5. "name":{
      6. "type": "text",
      7. "analyzer": "ik_max_word" // ik分詞器
      8. }
      9. }
      10. }
      11. }

  • 查詢的英文字元只能是小寫，大寫都無效

  • 查詢時英文單詞必須是完整的

 
Tags:

VirMach 便宜 VPS