Springboot之整合ElasticSearch使用
- 2019 年 10 月 8 日
- 笔记
“ 技术分享,不停更。除非老板娘喊我。
引入
先说一起昨天发生的事件。
(来自infoq)据外媒报道,1月22日,美国一家网上赌场集团泄露了超过 1.08 亿笔投注信息,包括客户个人资料,存取款记录、家庭住址、电话号码、电子邮件地址、出生日期、网站用户名、帐户余额、IP 地址、浏览器、操作系统信息、上次登录信息和游戏列表,甚至包含当前投注、获胜、用于交易的银行卡等详细信息。
该服务器被安全研究员 Justin Paine 发现,数据泄露源头竟然是 ElasticSearch 服务器,该服务器没有密码保护,不需要身份验证且很明显信息来源于在线投注门户网站。
近年关于ElasticSearch 的安全事故频发
ElasticSearch 是一个搜索引擎,企业一般用它来改进自有网络内的数据索引和搜索功能,通常会装在内部网络用来处理公司机密信息,信息不会泄露在网上,因为通常处理的是公司内部最敏感的信息。
虽然 ElasticSearch 通常在公司内部运行,但近年因为其未加密而发生的数据泄露事件不在少数:
2017 年,白帽汇曾对全球使用 ElasticSearch 引擎发生的勒索事件进行监测,最终发现因被攻击而删除的数据至少 500 亿条,被删除数据规模至少 450TB。系统显示,互联网上公开可访问的 ElasticSearch 服务器超过 68000 余台,受害总数达 9750 台。其中,美国 4380 台,中国第二为 944 台,其余来自法国、爱尔兰和新加坡等地。此次事件后,1% 的 Elasticsearch 启用了验证插件,另外有 2% 则关闭了 Elasticsearch。
2018 年 11 月份,美国还曾发生一起 ElasticSearch 服务器在没有密码的开放状态下泄露了将近 5700 万美国民众个人信息的事件。当时共泄漏超过 73GB 数据,并且几个数据库被缓存在服务器内存中,其中一个数据库包含的个人信息就达到了 56,934,021 份。
2018 年 12 月份,巴西最大的订阅电视服务之一的 Sky Brasil 在没有密码的情况下将 ElasticSearch 服务器暴露在互联网上,其 3200 万客户数据在网上暴露了很长时间,存储数据包括客户姓名、电子邮件地址、密码、付费电视包数据、客户端 IP 地址、个人地址、付款方式、设备型号等。
回顾几起案例,相似之处在于 ElasticSearch 服务器均在没有密码保护的情况下遭到泄露,因此企业应该对该服务器进行加密,如果不喜欢付费软件,网络中也有很多开源工具可供选择;其次,升级目前所用的 ElasticSearch 版本,较高版本暂时安全性更好;最后,如果选用了与 ElasticSearch 一起使用的集成工具,也需要检查这些工具是否会存在漏洞并做好加密工作。
那为什么不加密呢?我想有一个重要的原因,那还不是人家收费嘛。官方集成的Plugin – Xpack就有安全这一功能。但是!要收费,要收费,要收费。
扯了这么多,那为啥我们还用它啊,因为它好用啊。

02
具体配置
关于安全,或者网关权限,业内有各式各样的曲线救国办法。比如Nginx中配置htpasswd等等,想了解的网上一搜就会有很多。今天,我们来说一个由Spring公司的spring-data-elasticsearch对ES数据的简单集成和使用。所谓,站在巨人的肩膀上用现成的工具,从开发效率上讲,可谓是事半功倍。
使用前提:
- JDK8+
- Springboot 2.1.1.RELEASE
- IDEA
- Mysql5.5+
- lombok
- Greenwich.RELEASE(如果有集成Cloud,建议使用)
1、pom.xml
1 <groupId>com.bboyHan</groupId> 2 <artifactId>demo-project</artifactId> 3 <packaging>pom</packaging> 4 <version>1.0-SNAPSHOT</version> 5 6 <parent> 7 <groupId>org.springframework.boot</groupId> 8 <artifactId>spring-boot-starter-parent</artifactId> 9 <version>2.1.1.RELEASE</version> 10 </parent> 11 12 <dependencyManagement> 13 <dependencies> 14 <dependency> 15 <groupId>org.springframework.cloud</groupId> 16 <artifactId>spring-cloud-dependencies</artifactId> 17 <version>Greenwich.RELEASE</version> 18 <!--<version>Edgware.SR3</version>--> 19 <type>pom</type> 20 <scope>import</scope> 21 </dependency> 22 </dependencies> 23 </dependencyManagement> 24 25 <dependencies> 26 ... 27 28 <!-- 对应es 6.2.2 version--> 29 <dependency> 30 <groupId>org.springframework.data</groupId> 31 <artifactId>spring-data-elasticsearch</artifactId> 32 </dependency> 33 <dependency> 34 <groupId>org.springframework.boot</groupId> 35 <artifactId>spring-boot-starter-web</artifactId> 36 </dependency> 37 ... 38 </dependencies>
2、application.yml
1server: 2 port: 8080 3 4spring: 5 profiles: 6 active: dev 7 application: 8 name: @pom.artifactId@ 9 10 data: 11 elasticsearch: 12 cluster-name: my-application # 对应es.yml里的cluster.name 13 cluster-nodes: 127.0.0.1:9300 14 repositories: 15 enabled: true 16 17 datasource: 18 url: jdbc:mysql://localhost:3306/bboyhan?characterEncoding=UTF-8&useUnicode=true&useSSL=false 19 username: root 20 password: root 21 type: com.alibaba.druid.pool.DruidDataSource 22 driver-class-name: com.mysql.cj.jdbc.Driver 23
补充:
Mysql在升级6之后,Driver有了新的变化,使用的是“com.mysql.cj.jdbc.Driver”,之前的“com.mysql.jdbc.Driver”已经弃用。另外,如果大家使用了JDBC连接Mysql6 com.mysql.cj.jdbc.Driver, 需要指定时区serverTimezone。
1 datasource: 2 url: jdbc:mysql://localhost:3306/bboyHan?serverTimezone=UTC&useSSL=false
0
3
写代码
最近工作比较忙,小编代码命名比较随意了,就是传统的MVC,大家凑合看哈。
3、Controller
1@RestController 2public class TestController { 3 4 @Autowired 5 private TestService testService; 6 7 @GetMapping("/test") 8 public Result test() { 9 return testService.test(); 10 } 11}
4、Service
1/** 2 * @Auther: bboyHan 3 * @Date: 2019/1/23 19:24 4 */ 5@Service 6public class TestService { 7 8 @Autowired 9 private TestEsRepo testEsRepo; 10 11 public Result test() { 12 TestEs entity = new TestEs(); 13 testEsRepo.save(entity); 14 return Result.success(save); 15 } 16}
5、repository
1/** 2 * @Auther: bboyHan 3 * @Date: 2019/1/23 19:20 4 */ 5@Repository 6public interface TestEsRepo extends ElasticsearchRepository<TestEs,Long>{ 7}
6、entity
1import lombok.Data; 2/** 3 * @Auther: bboyHan 4 * @Date: 2019/1/23 19:15 5 * @Description: 6 */ 7@Data 8public class TestEs { 9 10 private Long id; 11 private String name; 12 private String money; 13 14}
7、启动类
1@SpringBootApplication 2@EnableElasticsearchRepositories 3public class SearchApplication { 4 5 public static void main(String[] args) { 6 SpringApplication.run(SearchApplication.class, args); 7 } 8}
到这里就完成了,亲测可行。