rabbitmq如何保證消息可靠性不丟失
- 2021 年 3 月 4 日
- 筆記
之前我們簡單介紹了rabbitmq的功能。他的作用就是方便我們的消息解耦。緊接著問題就會暴露出來。解耦就設計到雙方系統不穩定問題。在mq中有生產者、mq、消費者三個角色。其中一個角色down機或者重啟後。就設計到消息的丟失問題。
因為MQ整個消息周期設計到上述的三個角色,所以我們從這個三個角色開始討論丟失數據的情況。並如何解決
生產者丟失消息
- 在生產數據程式中,消息已經處理好還未發送給MQ這個階段,生產者因為意外情況中斷了。這個時候生產者這條消息就會丟失。因為程式重啟好之後可能不會再次生產該消息。
實際案列1:
- 購物商城中已經選購了商品提交到支付介面。在支付成功後我們的程式需要發送消息給商家。這個時候程式中斷了。待重啟後客戶介面訂單狀態是付款成功的。但是這個訂單就沒有及時通知給商家。這會造成商家延遲發貨。
實際案例2:
- 同樣是購物支付,A客戶先付款order1訂單,支付成功後發送MQ前直線異常但並未導致程式中斷。這個時候order1商家收不到通知,然後B客戶對order2訂單進行支付且整個過程正常。order2訂單就會通知到對應的商家。整個周期order1訂單就屬於丟失
總結:
- 兩種情況都是在發送消息是出現問題。第一種是程式中斷,第二種是訂單異常,第一種異常級別高會影響整個程式使用反而是好排查。第二種程式不異常。這種情況很難發現,只會是個別情況。
解決方案:
- 針對上述情況mq也提供了兩種方法解決。
- 1、開啟rabbitmq事務(同步)
- 2、開啟confirm模式(非同步)
程式碼模擬
Map<String, Object> resultMap = new HashMap<String, Object>(){
{
put("code", 200);
}
};
String msg = "";
Integer index = 0;
if (params.containsKey("msg")) {
msg = params.get("msg").toString();
}
if (params.containsKey("index")) {
index = Integer.valueOf(params.get("index").toString());
}
if (index != 0) {
//這裡開始模擬異常出現。消息將會丟失
int i = 1 / 0;
}
rabbitTemplate.convertAndSend(RabbitConfig.TOPICEXCHANGE, "zxh", msg);
return resultMap;
- 上述程式碼
//localhost:8282/rabbitmq/sendTopic?msg=test&index=1
就會發生異常,這個時候數據丟失 //localhost:8282/rabbitmq/sendTopic?msg=test
可以正常發送。讀者可以自行測試- 其實通過rabbitmq的事務並不能解決上面的丟失情況。但是加上事務會保證消息發送的可靠性。上面發送消息後出異常這時候我們就沒法回退消息了。但是事務可以幫我們實現
事務
String msg = "trantest";
Connection connection = rabbitTemplate.getConnectionFactory().createConnection();
Channel channel = connection.createChannel(true);
try {
channel.basicPublish(RabbitConfig.TOPICEXCHANGE, "zxh", null, msg.getBytes());
int i = 1 / 0;
} catch (IOException e) {
channel.txRollback();
e.printStackTrace();
}
channel.txCommit();
connection.close();
- 最終測試效果是mq沒有收到消息的。
confirm模式確實
Connection connection = rabbitTemplate.getConnectionFactory().createConnection();
Channel channel = connection.createChannel(false);
channel.confirmSelect();
try {
channel.basicPublish(RabbitConfig.TOPICEXCHANGE, "zxh", null, msg.getBytes());
} catch (IOException e) {
e.printStackTrace();
}
boolean b = channel.waitForConfirms();
if (b) {
System.out.println("mq接收消息成功");
Thread.sleep(1000*5);
}
System.out.println("end1");
channel.confirmSelect();
channel.basicPublish(RabbitConfig.TOPICEXCHANGE, "zxh", null, msg.getBytes());
channel.addConfirmListener(new ConfirmListener() {
@SneakyThrows
@Override
public void handleAck(long deliveryTag, boolean multiple) throws IOException {
System.out.println("~~~~~消息成功發送到交換機");
Thread.sleep(1000 * 5);
}
@Override
public void handleNack(long deliveryTag, boolean multiple) throws IOException {
System.out.println("~~~~~消息發送到交換機失敗");
}
});
System.out.println("end2");
channel.close();
connection.close();
- 上面使用了兩種確認方式,前者是同步確認,後者是非同步確認。因為在同一個方法里。msg都是能獲取到的。所以在ConfimListener中就沒有返回消息。
數據退回監聽
- 上面兩種一個增加安全可靠性。一個增加確認機制。還有一種情況是數據回退。當交換機沒有隊列綁定是這個時候發送數據後如果設置了回退屬性,那麼消息會回退到監聽器匯中的。channel中的mandatory表示是否檢測分發到隊列中。
String msg = "Hello World!";
Connection connection = rabbitTemplate.getConnectionFactory().createConnection();
Channel channel = connection.createChannel(false);
channel.confirmSelect();
//return機制:監控交換機是否將消息分發到隊列
channel.addReturnListener(new ReturnListener() {
@Override
public void handleReturn(int i, String s, String s1, String s2, AMQP.BasicProperties basicProperties, byte[] bytes) throws IOException {
//如果交換機分發消息到隊列失敗,則會執行此方法(用來處理交換機分發消息到隊列失敗的情況)
System.out.println("*****"+i); //標識
System.out.println("*****"+s); //
System.out.println("*****"+s1); //交換機名
System.out.println("*****"+s2); //交換機對應的隊列的key
System.out.println("*****"+new String(bytes)); //發送的消息
}
});
//發送消息
//channel.basicPublish("ex2", "c", null, msg.getBytes());
channel.basicPublish(RabbitConfig.DIRECTEXCHANGE, "c", true, null, msg.getBytes());
channel.addConfirmListener(new ConfirmListener() {
@SneakyThrows
@Override
public void handleAck(long deliveryTag, boolean multiple) throws IOException {
System.out.println("~~~~~消息成功發送到交換機");
Thread.sleep(1000 * 5);
}
@Override
public void handleNack(long deliveryTag, boolean multiple) throws IOException {
System.out.println("~~~~~消息發送到交換機失敗");
}
});
- 上面ReturnListener就會被觸發,這個時候confirm監聽器也被觸發認為成功接收的只不過被退回。
MQ事務相關軟文推薦
MQ丟失資訊
- 在發送消息到MQ時我們可以設置消息屬性是否為可持久化。如果設置了直接就會存儲在磁碟上。在記憶體可用時也會同步到記憶體中提高效率。如果消息屬性中設置的是非持久化的話,就會直接存儲在記憶體里,當記憶體不足是會將數據備份至磁碟上。
消費者丟失資訊
-
消費端如果沒有單獨設置的話默認就是MQ不管理。換句話說MQ只負責發送消息。mq為我們提供了三種模式
NONE,
MANUAL,
AUTO; 默認的 -
我們需要手動將連接工廠設置MANUAL後再接收到消息後我們需要手動確認,mq才會刪除消息。否則會一直等待到消費端重啟才會進行重新分發數據
-
channel.basicAck(long,boolean); 確認收到消息,消息將被隊列移除,false只確認當前consumer一個消息收到,true確認所有consumer獲得的消息。
-
channel.basicNack(long,boolean,boolean); 確認否定消息,第一個boolean表示一個consumer還是所有,第二個boolean表示requeue是否重新回到隊列,true重新入隊。
-
channel.basicReject(long,boolean); 拒絕消息,requeue=false 表示不再重新入隊,如果配置了死信隊列則進入死信隊列。
當消息回滾到消息隊列時,這條消息不會回到隊列尾部,而是仍是在隊列頭部,這時消費者會又接收到這條消息,如果想消息進入隊尾,須確認消息後再次發送消息。