SpringBoot項目中應用Jedis和一些常見配置
- 2020 年 3 月 31 日
- 筆記
優雅的使用Jedis
博客地址:https://www.cnblogs.com/keatsCoder/p/12609109.html 轉載請註明出處,謝謝
Redis的Java客戶端有很多,Jedis是其中使用比較廣泛和性能比較穩定的一個。並且其API和RedisAPI命名風格類似,推薦大家使用
在項目中引入Jedis
可以通過Maven的方式直接引入,目前最新版本是3.2.0
<dependency> <groupId>redis.clients</groupId> <artifactId>jedis</artifactId> <version>3.2.0</version> </dependency>
直連及使用連接池
Jedis直連
引入Jedis之後,項目可以通過 new 的方式獲取 Jedis 使用。
- 首先在yml中配置好 redis 的地址和端口
@SpringBootTest(classes = RedisCliApplication.class) @RunWith(SpringRunner.class) public class JedisConnectionDemo { @Value("${redis.host}") private String host; @Value("${redis.port}") private int port; @Test public void testConnection(){ // 建立連接 Jedis jedis = new Jedis(host, port); // 添加 key-value。添加成功則返回OK String setResult = jedis.set("name", "keats"); Assert.assertEquals("OK", setResult); // 通過 key 獲取 value String value = jedis.get("name"); Assert.assertEquals("keats", value); // 關閉連接 jedis.close(); } }
使用連接池
直連的話每次都會新建TCP連接和斷開TCP連接,這個過程是很耗時的,對於Redis這種需要頻繁訪問和高效訪問的軟件顯然是不合適的。並且也不方便對連接進行管理。類似數據庫連接池思想,Jedis也提供了JedisPool連接池進行連接池管理。所有的Jedis對象預先放在JedisPool中,客戶端需要使用的時候從池中借用,用完後歸還到池中。這樣避免了頻繁建立和斷開TCP連接的網絡開銷,速度非常快。並且通過合理的配置也能實現合理的管理連接,分配連接。
@Test public void testConnectionWithPool(){ // 創建連接池 JedisPool jedisPool = new JedisPool(host, port); Jedis jedis = jedisPool.getResource(); // doSomething // 歸還連接 jedis.close(); }
這裡雖然最後使用的 close() 方法,字面意思看起來好像是關閉連接,實際上點進去可以發現,如果dataSource(連接池)不為空,將執行歸還連接的方法
@Override public void close() { if (dataSource != null) { if (client.isBroken()) { this.dataSource.returnBrokenResource(this); } else { this.dataSource.returnResource(this); } } else { client.close(); } }
連接池使用的一個常見問題
上面歸還連接的方法有沒有問題呢?試想一下,如果在執行任務的時候,報了異常,那麼勢必是不能執行 close() 方法的,久而久之池中的 Jedis 連接就會耗盡,整個服務可能就不能在使用了。這個問題在開發和測試環境下一般不容易發現,而生產環境由於使用量增多,就會暴露出來。
JedisPool中默認的最大連接數是8個,默認的從池中獲取連接超時時間是 -1(表示一直等待)
為了演示不歸還連接產生的錯誤,我寫了下面的代碼
@Test public void testConnectionNotClose(){ // 創建連接池 JedisPoolConfig poolConfig = new JedisPoolConfig(); poolConfig.setMaxWaitMillis(5000L); // 等待Jedis連接超時時間 JedisPool jedisPool = new JedisPool(poolConfig, host, port); try { for (int i = 1; i <= 10; i++) { Jedis jedis = jedisPool.getResource(); System.out.println(i); // doSomething } } catch (Exception e) { e.printStackTrace(); } }
循環前8次,分別從池中獲取一個連接進行使用而不歸還。第9次的時候想要獲取連接已經沒有了。默認情況下會一直等待。而我更改了配置是5S,等待5S就會報錯,錯誤信息如下:
1 2 3 4 5 6 7 8 redis.clients.jedis.exceptions.JedisException: Could not get a resource from the pool at redis.clients.util.Pool.getResource(Pool.java:51) at redis.clients.jedis.JedisPool.getResource(JedisPool.java:99) at cn.keats.rediscli.jedis.JedisConnectionDemo.testConnectionNotClose(JedisConnectionDemo.java:64) at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) at java.lang.reflect.Method.invoke(Method.java:498) at org.junit.runners.model.FrameworkMethod$1.runReflectiveCall(FrameworkMethod.java:50) at org.junit.internal.runners.model.ReflectiveCallable.run(ReflectiveCallable.java:12) at org.junit.runners.model.FrameworkMethod.invokeExplosively(FrameworkMethod.java:47) at org.junit.internal.runners.statements.InvokeMethod.evaluate(InvokeMethod.java:17) at org.springframework.test.context.junit4.statements.RunBeforeTestExecutionCallbacks.evaluate(RunBeforeTestExecutionCallbacks.java:74) at org.springframework.test.context.junit4.statements.RunAfterTestExecutionCallbacks.evaluate(RunAfterTestExecutionCallbacks.java:84) at org.springframework.test.context.junit4.statements.RunBeforeTestMethodCallbacks.evaluate(RunBeforeTestMethodCallbacks.java:75) at org.springframework.test.context.junit4.statements.RunAfterTestMethodCallbacks.evaluate(RunAfterTestMethodCallbacks.java:86) at org.springframework.test.context.junit4.statements.SpringRepeat.evaluate(SpringRepeat.java:84) at org.junit.runners.ParentRunner.runLeaf(ParentRunner.java:325) at org.springframework.test.context.junit4.SpringJUnit4ClassRunner.runChild(SpringJUnit4ClassRunner.java:251) at org.springframework.test.context.junit4.SpringJUnit4ClassRunner.runChild(SpringJUnit4ClassRunner.java:97) at org.junit.runners.ParentRunner$3.run(ParentRunner.java:290) at org.junit.runners.ParentRunner$1.schedule(ParentRunner.java:71) at org.junit.runners.ParentRunner.runChildren(ParentRunner.java:288) at org.junit.runners.ParentRunner.access$000(ParentRunner.java:58) at org.junit.runners.ParentRunner$2.evaluate(ParentRunner.java:268) at org.springframework.test.context.junit4.statements.RunBeforeTestClassCallbacks.evaluate(RunBeforeTestClassCallbacks.java:61) at org.springframework.test.context.junit4.statements.RunAfterTestClassCallbacks.evaluate(RunAfterTestClassCallbacks.java:70) at org.junit.runners.ParentRunner.run(ParentRunner.java:363) at org.springframework.test.context.junit4.SpringJUnit4ClassRunner.run(SpringJUnit4ClassRunner.java:190) at org.junit.runner.JUnitCore.run(JUnitCore.java:137) at com.intellij.junit4.JUnit4IdeaTestRunner.startRunnerWithArgs(JUnit4IdeaTestRunner.java:68) at com.intellij.rt.execution.junit.IdeaTestRunner$Repeater.startRunnerWithArgs(IdeaTestRunner.java:47) at com.intellij.rt.execution.junit.JUnitStarter.prepareStreamsAndStart(JUnitStarter.java:242) at com.intellij.rt.execution.junit.JUnitStarter.main(JUnitStarter.java:70) Caused by: java.util.NoSuchElementException: Timeout waiting for idle object at org.apache.commons.pool2.impl.GenericObjectPool.borrowObject(GenericObjectPool.java:439) at org.apache.commons.pool2.impl.GenericObjectPool.borrowObject(GenericObjectPool.java:349) at redis.clients.util.Pool.getResource(Pool.java:49) ... 32 more
無論是報錯還是一直等待,這在生產環境中無異於宕機。所以這個操作一定是要避免掉的。那麼我在執行代碼的最後一句寫上 close() 是不是就高枕無憂了呢?認真從前面都過來的同學肯定會說不是的。因為當代碼一旦拋出異常。是不能執行到 close() 方法的。
@Test public void testConnectionWithException() { // 創建連接池 JedisPoolConfig poolConfig = new JedisPoolConfig(); poolConfig.setMaxWaitMillis(5000L); // 等待Jedis連接超時時間 JedisPool jedisPool = new JedisPool(poolConfig, host, port); for (int i = 1; i <= 8; i++) { System.out.println(i); try { new Thread(() -> { Jedis jedis = jedisPool.getResource(); // doSomething // 模擬一個錯誤 int j = 1 / 0; jedis.close(); }).run(); } catch (Exception e) { // 服務器運行過程中出現了8次異常,沒有執行到close方法 } } // 第9次無法獲取連接 Jedis jedis = jedisPool.getResource(); }
這樣還會報和上面一樣的錯誤。推薦使用 Java7 之後的 try with resources 寫法來完成連接歸還。
try (Jedis jedis = jedisPool.getResource()) { new Thread(() -> { // doSomething // 模擬一個錯誤 int j = 1 / 0; jedis.close(); }).run(); } catch (Exception e) { // 異常處理 }
這樣相當於寫了 finally。在正常執行/出錯時都會執行 close() 方法關閉連接。除非代碼中寫了死循環。
這樣寫還有一個弊端就是有的小夥伴可能忘記歸還,《Redis深度歷險:核心原理和應用實踐》作者老錢介紹了一種強制歸還的連接池管理辦法:
通過一個特殊的自定義的 RedisPool 對象將 JedisPool 對象隱藏起來,避免程序員直接使用它的 getResource 方法而忘記了歸還。程序員使用 RedisPool 對象時需要提供一個
回調類來才能使用 Jedis 對象。結合 Java8 的 Lambda 表達式。使用起來也還可以。但是因此產生了閉包的問題,Lambda中的匿名內部類無法訪問外部的變量。他又採用了 Hodler 來將變量包裝以達到其被訪問的目的。大佬的方法很厲害。但是個人愚見,這樣代碼的複雜度提高了很多。對於一個使用完Resource完後忘記歸還的程序員來說寫起來可能比較複雜。所以就不在博客中貼出了。感興趣的夥伴可以讀一下老錢的書或者從我的GITHUB中查閱老錢的代碼:優雅的Jedis-老錢
連接池配置詳解
除了使用默認構造方法初始化連接池外,Jedis還提供了配置類來初始化
JedisPoolConfig poolConfig = new JedisPoolConfig(); poolConfig.setMaxWaitMillis(5000L); // 等待Jedis連接超時時間 JedisPool jedisPool = new JedisPool(poolConfig, host, port);
配置類常用的參數解釋如下:
參數名 | 含義 | 默認值 |
---|---|---|
maxActive | 連接池中的最大連接數 | 8 |
maxIdle(minIdle) | 連接池中的最大(小)空閑連接數 | 8(0) |
maxWaitMillis | 當鏈接池沒有連接時,調用者的最大等待時間,單位是毫秒。不建議使用默認值 | -1 表示一直等 |
jmxEnabled | 是否開啟jmx監控 | |
minEvictableIdleTimeMillis | 連接的最小空閑時間,達到此值後空閑連接將被移除 | 1800000L 30分鐘 |
numTestsPerEvictionRun | 做空閑連接檢測時,每次的採樣數 | 3 |
testOnBorrow | 向連接池借用連接時是否做連接有效性檢測(Ping)無效連接將會被刪除 | false |
testOnReturn | 是否做周期性空閑檢測 | false |
testWhileIdle | 向連接池借用連接時是否做空閑檢測,空閑超時的將會被移除 | false |
timeBetweenEvictionRunsMillis | 空閑連接的檢測周期,單位為毫秒 | -1 不做檢測 |
blockWhenExhausted | 當連接池資源耗盡時,調用者是否需要等待。和maxWaitMillis對應,當它為true時,maxWaitMillis生效 | true |
PipeLine一次執行多個命令
Redis雖然提供了 mset、mget 等方法。但是並未提供 mdel 方法。我們在業務中如果遇到一次 mget 後,有多個需要刪除的 key,可以通過 PipeLine 來模擬 mdel。雖然操作不是原子性的,但大多數情況下也能滿足要求:
@Test public void testPipeline() { // 創建連接池 JedisPool jedisPool = new JedisPool(host, port); try (Jedis jedis = jedisPool.getResource()){ Pipeline pipelined = jedis.pipelined(); // doSomething 獲取 keys List<String> keys = new ArrayList<>(); // pipelined 添加命令 for (String key : keys) { pipelined.del(key); } // 執行命令 pipelined.sync(); } }
項目代碼
在學習Redis的過程中,我將博客中的代碼都在Github中上傳,以便小夥伴們核對。項目地址:https://github.com/keatsCoder/redis-cli
參考文獻
《Redis開發與運維》 — 付磊 張益軍
《Redis深度歷險:核心原理和應用實踐》 — 錢文品