日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 軟件

消息隊列批量收發消息,請避開這五個坑!

來源: 責編: 時間:2023-11-30 09:26:20 269觀看
導讀大家好,我是君哥。使用消息隊列時,為了提高生產和消費的性能,有時會開啟批量處理。在生產端,生產者發送的消息先發送到一個消息列表,積累到一定的消息量之后再批量發送給 Broker,如下圖:在消費端,消費者拉取消息后先不立即處

d2j28資訊網——每日最新資訊28at.com

大家好,我是君哥。d2j28資訊網——每日最新資訊28at.com

使用消息隊列時,為了提高生產和消費的性能,有時會開啟批量處理。d2j28資訊網——每日最新資訊28at.com

在生產端,生產者發送的消息先發送到一個消息列表,積累到一定的消息量之后再批量發送給 Broker,如下圖:d2j28資訊網——每日最新資訊28at.com

d2j28資訊網——每日最新資訊28at.com

在消費端,消費者拉取消息后先不立即處理,而是把消息轉存到一個內存隊列或數據庫,由業務線程去處理,如下圖:d2j28資訊網——每日最新資訊28at.com

d2j28資訊網——每日最新資訊28at.com

無論是生產者做批量發送,還是消費者做批量處理,都需要考慮使用批量消息的業務場景,避免踩坑。下面看一下批量操作可能會遇到哪些坑。d2j28資訊網——每日最新資訊28at.com

批量大小

當生產者采用批量發送的方式來提高發送性能時,一定要考慮發送消息的批量大小。下面是 RocketMQ 批量發送的官方示例:d2j28資訊網——每日最新資訊28at.com

String topic = "BatchTest";List<Message> messages = new ArrayList<>();messages.add(new Message(topic, "TagA", "OrderID001", "Hello world 0".getBytes()));messages.add(new Message(topic, "TagA", "OrderID002", "Hello world 1".getBytes()));messages.add(new Message(topic, "TagA", "OrderID003", "Hello world 2".getBytes()));try {    producer.send(messages);} catch (Exception e) {    e.printStackTrace();    //handle the error}

RocketMQ 默認消息大小是 4M,由 maxMessageSize 參數控制,如果批量消息大小超過 maxMessageSize,則會拋出異常。d2j28資訊網——每日最新資訊28at.com

如果遇到消息大小超過 maxMessageSize 的情況時,可以用下面方法進行處理:d2j28資訊網——每日最新資訊28at.com

  • 把這個參數改大,但需要考慮 Broker 的性能和網絡帶寬;
  • 將消息進行拆分后分批發送;
  • 對消息進行壓縮處理。

RabbitMQ 相關的 API 則提供了更加靈活的批量控制,對消息數量和消息大小都做了控制,下面看一下源碼:d2j28資訊網——每日最新資訊28at.com

d2j28資訊網——每日最新資訊28at.com

d2j28資訊網——每日最新資訊28at.com

冪等

消費端可以批量拉取消息進行消費,這樣可以減少拉取消息時的 RPC 次數,提升消費性能。比如在 RocketMQ 中,可以通過 Consumer 中的 pullBatchSize 來設置一次拉取的消息數量,通過 consumeMessageBatchMaxSize 參數來設置一次消費的消息數量。d2j28資訊網——每日最新資訊28at.com

但需要注意的是,如果批量消息中一條消息消費失敗了,這一批消息都需要進行重試,已經消費成功的消息會被重復消費,帶來業務問題。d2j28資訊網——每日最新資訊28at.com

為了不對業務造成影響,必須考慮冪等。一個簡單的方法是在消息中增加全局唯一 id 屬性,對消息消費結果進行記錄,消費成功后保存 id。這樣在消費消息之前先查詢是否存在消費成功的記錄,如果存在則直接返回處理成功。d2j28資訊網——每日最新資訊28at.com

時延

在使用消息隊列進行批量操作時,必須要考慮到時延問題。比如我們設置一個批次 100 條消息,積累夠 100 條消息后再發送,在消息量小的情況下,可能積累夠 100 條消息會很長時間,導致消費端拉取到一條消息時延很大。d2j28資訊網——每日最新資訊28at.com

雖然消息隊列的一個重要作用是削峰填谷,但在一些場景下,對消息的實時性也有要求。比如在車聯網的充電場景,車聯網平臺需要實時感知充電樁的狀態,如果充電樁積累夠一批消息再上報平臺,平臺獲取到的狀態會不準確,如果心跳消息延時太久,平臺會認為充電樁離線。d2j28資訊網——每日最新資訊28at.com

對于有時延要求又需要批量操作的場景,可以設置一個超時時間,超時后即使消息數量不夠,也會發送出去。看下 RabbitMQ 的處理:d2j28資訊網——每日最新資訊28at.com

public synchronized void send(String exchange, String routingKey, Message message, CorrelationData correlationData)  throws AmqpException { if (correlationData != null) {  //...  super.send(exchange, routingKey, message, correlationData); } else {  if (this.scheduledTask != null) {   this.scheduledTask.cancel(false);  }  MessageBatch batch = this.batchingStrategy.addToBatch(exchange, routingKey, message);  if (batch != null) {   super.send(batch.getExchange(), batch.getRoutingKey(), batch.getMessage(), null);  }  //這里獲取到超時時間,到達超時時間后使用定時器將消息發送出去  Date next = this.batchingStrategy.nextRelease();  if (next != null) {   this.scheduledTask = this.scheduler.schedule((Runnable) () -> releaseBatches(), next);  } }}

可靠性

使用批處理一定要考慮可靠性的問題。d2j28資訊網——每日最新資訊28at.com

在消費端,消費者批量拉取一批消息后把消息暫存到一個內存臨時隊列,然后多線程去臨時隊列消費消息,如果服務宕機,臨時隊列中的消息會丟失。d2j28資訊網——每日最新資訊28at.com

為了避免宕機引發的損失,可以拉取一批消息后保存到數據庫,然后給 Broker 返回 ACK,之后業務代碼去數據庫查詢消息并消費,不過要考慮數據庫大事務、鎖競爭等問題。d2j28資訊網——每日最新資訊28at.com

當然,對于一些消息丟失不敏感的場景,比如日志收集之類的,可靠性這個指標是不用太關注的。d2j28資訊網——每日最新資訊28at.com

特殊場景

因為批量消息有一些復雜性,消息隊列的部分特性不支持。d2j28資訊網——每日最新資訊28at.com

事務消息

批量消息會增加消息重試的難度,所以對于事務消息,建議使用單條消息,一條消息對應一個事務。d2j28資訊網——每日最新資訊28at.com

順序消息

順序消息的實現思路一般是生產者將消息發送到同一個分區,消費者綁定這個分區并使用單線程消費這個分區的消息。如果對同一個 Topic 下的同一個分區來實現批量發送,難度會增大。所以建議順序消息使用單條消息進行發送。d2j28資訊網——每日最新資訊28at.com

延時消息

如果延時消息使用批量進行發送,這一批消息的延時時間必須相同,同時要考慮批量消息的超時時間,超時時間太大會影響延時時間的準確性,生產端實現復雜度大大增加。d2j28資訊網——每日最新資訊28at.com

總結

使用批量消息,在一定程度上可以提高性能和吞吐量,但是確實也會存在一些問題,使用的時候要結合業務場景避開這些坑。d2j28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-35258-0.html消息隊列批量收發消息,請避開這五個坑!

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 利用屬性選擇器對外部鏈接進行樣式設計

下一篇: 全網最詳細的OpenFeign講解,肯定有你不知道的

標簽:
  • 熱門焦點
  • 對標蘋果的靈動島 華為帶來實況窗功能

    繼蘋果的靈動島之后,華為也在今天正式推出了“實況窗”功能。據今天鴻蒙OS 4.0的現場演示顯示,華為的實況窗可以更高效的展現出實時通知,比如鎖屏上就能看到外賣、打車、銀行
  • vivo TWS Air開箱體驗:真輕 臻好聽

    在vivo S15系列新機的發布會上,vivo的最新款真無線藍牙耳機vivo TWS Air也一同發布,本次就這款耳機新品給大家帶來一個簡單的分享。外包裝盒上,vivo TWS Air保持了vivo自家產
  • 石頭自清潔掃拖機器人G10S評測:多年黑科技集大成之作 懶人終極福音

    科技圈經常能看到一個詞叫“縫合怪”,用來形容那些把好多功能或者外觀結合在一起的產品,通常這樣的詞是貶義詞,但如果真的是產品縫合的好、縫合的實用的話,那它就成了中性詞,今
  • 5月安卓手機好評榜:魅族20 Pro奪冠

    性能榜和性價比榜之后,我們來看最后的安卓手機好評榜,數據來源安兔兔評測,收集時間2023年5月1日至5月31日,僅限國內市場。第一名:魅族20 Pro好評率:97.50%不得不感慨魅族老品牌還
  • 19個 JavaScript 單行代碼技巧,讓你看起來像個專業人士

    今天這篇文章跟大家分享18個JS單行代碼,你只需花幾分鐘時間,即可幫助您了解一些您可能不知道的 JS 知識,如果您已經知道了,就當作復習一下,古人云,溫故而知新嘛。現在,我們就開始今
  • 一文搞定Java NIO,以及各種奇葩流

    大家好,我是哪吒。很多朋友問我,如何才能學好IO流,對各種流的概念,云里霧里的,不求甚解。用到的時候,現百度,功能雖然實現了,但是為什么用這個?不知道。更別說效率問題了~下次再遇到,
  • 本地生活這塊肥肉,拼多多也想吃一口

    出品/壹覽商業 作者/李彥編輯/木魚拼多多也看上本地生活這塊蛋糕了。近期,拼多多在App首頁&ldquo;充值中心&rdquo;入口上線了本機生活界面。壹覽商業發現,該界面目前主要
  • 花7萬退貨退款無門:誰在縱容淘寶珠寶商家造假?

    來源:極點商業作者:楊銘在淘寶購買珠寶玉石后,因為保證金不夠賠付,店鋪關閉,退貨退款難、維權無門的比比皆是。&ldquo;提供相關產品鑒定證書,支持全國復檢,可以30天無理由退換貨。&
  • 朋友圈可以修改可見范圍了 蘋果用戶可率先體驗

    近日,iOS用戶迎來微信8.0.27正式版更新,除了可更換二維碼背景外,還新增了多項實用功能。在新版微信中,朋友圈終于可以修改可見范圍,簡單來說就是已發布的朋友圈
Top 主站蜘蛛池模板: 洪湖市| 博湖县| 濮阳县| 邮箱| 胶南市| 通山县| 上犹县| 忻州市| 阿拉善盟| 合江县| 兖州市| 虎林市| 开阳县| 运城市| 砀山县| 汕头市| 盐边县| 洪雅县| 白水县| 昭觉县| 西昌市| 沾化县| 肥城市| 万全县| 崇信县| 谢通门县| 喀喇沁旗| 松江区| 吴旗县| 九龙坡区| 沂源县| 托里县| 揭东县| 赤城县| 噶尔县| 巨野县| 布拖县| 达州市| 漳平市| 溧水县| 璧山县|