• 1 初識(shí)ActiveMQ
  • 1.1 異步&解耦
  • 1.2 調(diào)度中心
  • 1.3 重啟大法
  • 1.4 復(fù)盤
• 2 進(jìn)階Redis&RabbitMQ
  • 2.1 Redis可以做消息隊(duì)列嗎
  • 2.2 RabbitMQ是管子不是池子
• 3 升華MetaQ
  • 3.1 驚艷消費(fèi)者模型
  • 3.2 激進(jìn)的消峰
  • 3.3 消息SDK封裝
  • 3.4 重構(gòu)MetaQ , 自成體系
• 4 鐘情RocketMQ
  • 4.1 開源的盛宴
  • 4.2 Kafka: 大數(shù)據(jù)生態(tài)的不可或缺的部分
  • 4.3 如何技術(shù)選型
• 5 寫到最后

---

談起消息隊(duì)列，內(nèi)心還是會(huì)有些波瀾。

消息隊(duì)列 ，緩存，分庫(kù)分表是高并發(fā)解決方案三劍客，而消息隊(duì)列是我最喜歡，也是思考最多的技術(shù)。

我想按照下面的四個(gè)階段分享我與消息隊(duì)列的故事，同時(shí)也是對(duì)我技術(shù)成長(zhǎng)經(jīng)歷的回顧。

• 初識(shí)：ActiveMQ
• 進(jìn)階：Redis&RabbitMQ
• 升華：MetaQ
• 鐘情：RocketMQ

1 初識(shí)ActiveMQ

1.1 異步&解耦

2011年初，我在一家互聯(lián)網(wǎng)彩票公司做研發(fā)。

我負(fù)責(zé)的是用戶中心系統(tǒng)，提供用戶注冊(cè)，查詢，修改等基礎(chǔ)功能。用戶注冊(cè)成功之后，需要給用戶發(fā)送短信。

因?yàn)樵瓉矶际敲嫦蜻^程編程，我就把新增用戶模塊和發(fā)送短信模塊都揉在一起了。

起初都還好，但問題慢慢的顯現(xiàn)出來。

• 短信渠道不夠穩(wěn)定，發(fā)送短信會(huì)達(dá)到5秒左右，這樣用戶注冊(cè)接口耗時(shí)很大，影響前端用戶體驗(yàn);
• 短信渠道接口發(fā)生變化，用戶中心代碼就必須修改了。但用戶中心是核心系統(tǒng)。每次上線都必要謹(jǐn)小慎微。這種感覺很別扭，非核心功能影響到核心系統(tǒng)了。

第一個(gè)問題，我可以采取線程池的方法來做，主要是異步化 。但第二個(gè)問題卻讓我束手無(wú)措。

于是我向技術(shù)經(jīng)理請(qǐng)教，他告訴我引入消息隊(duì)列去解決這個(gè)問題。

• 將發(fā)送短信功能單獨(dú)拆成獨(dú)立的Job服務(wù);
• 用戶中心用戶注冊(cè)成功后，發(fā)送一條消息到消息隊(duì)列，Job服務(wù)收到消息調(diào)用短信服務(wù)發(fā)送短信即可。

這時(shí)，我才明白: 消息隊(duì)列最核心的功能就是異步 和解耦 。

1.2 調(diào)度中心

彩票系統(tǒng)的業(yè)務(wù)是比較復(fù)雜的。在彩票訂單的生命周期里，經(jīng)過創(chuàng)建，拆分子訂單，出票，算獎(jiǎng)等諸多環(huán)節(jié)。每一個(gè)環(huán)節(jié)都需要不同的服務(wù)處理，每個(gè)系統(tǒng)都有自己獨(dú)立的表，業(yè)務(wù)功能也相對(duì)獨(dú)立。假如每個(gè)應(yīng)用都去修改訂單主表的信息，那就會(huì)相當(dāng)混亂了。

公司的架構(gòu)師設(shè)計(jì)了調(diào)度中心 的服務(wù)，調(diào)度中心的職責(zé)是維護(hù)訂單核心狀態(tài)機(jī)，訂單返獎(jiǎng)流程，彩票核心數(shù)據(jù)生成。

調(diào)度中心通過消息隊(duì)列 和出票網(wǎng)關(guān)，算獎(jiǎng)服務(wù)等系統(tǒng)傳遞和交換信息。

這種設(shè)計(jì)在那個(gè)時(shí)候青澀的我的眼里，簡(jiǎn)直就是水滴vs人類艦隊(duì)，降維打擊。

隨著我對(duì)業(yè)務(wù)理解的不斷深入，我隱約覺得：“好的架構(gòu)是簡(jiǎn)潔的，也是應(yīng)該易于維護(hù)的”。

當(dāng)彩票業(yè)務(wù)日均千萬(wàn)交易額的時(shí)候，調(diào)度中心的研發(fā)維護(hù)人員也只有兩個(gè)人。調(diào)度中心的源碼里業(yè)務(wù)邏輯，日志，代碼規(guī)范都是極好的。

在我日后的程序人生里，我也會(huì)下意識(shí)模仿調(diào)度中心的編碼方式，“不玩奇技淫巧，代碼是給人閱讀的”。

1.3 重啟大法

隨著彩票業(yè)務(wù)的爆炸增長(zhǎng)，每天的消息量從30萬(wàn)激增到150~200萬(wàn)左右，一切看起來似乎很平穩(wěn)。

某一天雙色球投注截止，調(diào)度中心無(wú)法從消息隊(duì)列中消費(fèi)數(shù)據(jù)。消息總線處于只能發(fā)，不能收的狀態(tài)下。整個(gè)技術(shù)團(tuán)隊(duì)都處于極度的焦慮狀態(tài)，“要是出不了票，那可是幾百萬(wàn)的損失呀，要是用戶中了兩個(gè)雙色球？那可是千萬(wàn)呀”。大家急得像熱鍋上的螞蟻。

這也是整個(gè)技術(shù)團(tuán)隊(duì)第一次遇到消費(fèi)堆積的情況，大家都沒有經(jīng)驗(yàn)。

首先想到的是多部署幾臺(tái)調(diào)度中心服務(wù)，部署完成之后，調(diào)度中心消費(fèi)了幾千條消息后還是Hang住了。這時(shí)，架構(gòu)師只能采用重啟 的策略。你沒有看錯(cuò)，就是重啟大法。說起來真的很慚愧，但當(dāng)時(shí)真的只能采用這種方式。

調(diào)度中心重啟后，消費(fèi)了一兩萬(wàn)后又Hang住了。只能又重啟一次。來來回回持續(xù)20多次，像擠牙膏一樣。而且隨著出票截止時(shí)間的臨近，這種思想上的緊張和恐懼感更加強(qiáng)烈。終于，通過1小時(shí)的手工不斷重啟，消息終于消費(fèi)完了。

我當(dāng)時(shí)正好在讀畢玄老師的《分布式java應(yīng)用基礎(chǔ)與實(shí)踐》，猜想是不是線程阻塞了，于是我用Jstack命令查看堆棧情況。果然不出所料，線程都阻塞在提交數(shù)據(jù)的方法上。

我們馬上和DBA溝通，發(fā)現(xiàn)oracle數(shù)據(jù)庫(kù)執(zhí)行了非常多的大事務(wù)，每次大的事務(wù)執(zhí)行都需要30分鐘以上，導(dǎo)致調(diào)度中心的調(diào)度出票線程阻塞了。

技術(shù)部后來采取了如下的方案規(guī)避堆積問題：

1. 生產(chǎn)者發(fā)送消息的時(shí)候，將超大的消息拆分成多批次的消息，減少調(diào)度中心執(zhí)行大事務(wù)的幾率;
2. 數(shù)據(jù)源配置參數(shù)，假如事務(wù)執(zhí)行超過一定時(shí)長(zhǎng)，自動(dòng)拋異常，回滾。

1.4 復(fù)盤

Spring封裝的ActiveMQ的API非常簡(jiǎn)潔易用，使用過程中真的非常舒服。

受限于當(dāng)時(shí)彩票技術(shù)團(tuán)隊(duì)的技術(shù)水平和視野，我們?cè)谑褂肁ctiveMQ中遇到了一些問題。

高吞吐下，堆積到一定消息量易Hang住

技術(shù)團(tuán)隊(duì)發(fā)現(xiàn)在吞吐量特別高的場(chǎng)景下，假如消息堆積越大，ActiveMQ有較小幾率會(huì)Hang住的。

出票網(wǎng)關(guān)的消息量特別大，有的消息并不需要馬上消費(fèi)，但是為了規(guī)避消息隊(duì)列Hang住的問題，出票網(wǎng)關(guān)消費(fèi)數(shù)據(jù)的時(shí)候，先將消息先持久化到本地磁盤，生成本地XML文件，然后異步定時(shí)執(zhí)行消息。通過這種方式，我們大幅度提升了出票網(wǎng)關(guān)的消費(fèi)速度，基本杜絕了出票網(wǎng)關(guān)隊(duì)列的堆積。

但這種方式感覺也挺怪的，消費(fèi)消息的時(shí)候，還要本地再存儲(chǔ)一份數(shù)據(jù)，消息存儲(chǔ)在本地，假如磁盤壞了，也有丟消息的風(fēng)險(xiǎn)。

高可用機(jī)制待完善

我們采用的master/slave部署模式，一主一從，服務(wù)器配置是4核8G 。

這種部署方式可以同時(shí)運(yùn)行兩個(gè)ActiveMQ， 只允許一個(gè)slave連接到Master上面，也就是說只能有2臺(tái)MQ做集群，這兩個(gè)服務(wù)之間有一個(gè)數(shù)據(jù)備份通道，利用這個(gè)通道Master向Slave單向地?cái)?shù)據(jù)備份。這個(gè)方案在實(shí)際生產(chǎn)線上不方便， 因?yàn)楫?dāng)Master掛了之后， Slave并不能自動(dòng)地接收Client發(fā)來的請(qǐng)來，需要手動(dòng)干預(yù)，且要停止Slave再重啟Master才能恢復(fù)負(fù)載集群。

還有一些很詭異丟消息的事件，生產(chǎn)者發(fā)送消息成功，但master控制臺(tái)查詢不到，但slave控制臺(tái)竟然能查詢到該消息。

但消費(fèi)者沒有辦法消費(fèi)slave上的消息，還得通過人工介入的方式去處理。

基于 Spring Boot + MyBatis Plus + Vue & Element 實(shí)現(xiàn)的后臺(tái)管理系統(tǒng) + 用戶小程序，支持 RBAC 動(dòng)態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能

• 項(xiàng)目地址：https://github.com/YunaiV/ruoyi-vue-pro
• 視頻教程：https://doc.iocoder.cn/video/

2 進(jìn)階Redis&RabbitMQ

2014年，我在藝龍網(wǎng)從事紅包系統(tǒng)和優(yōu)惠券系統(tǒng)優(yōu)化相關(guān)工作。

2.1 Redis可以做消息隊(duì)列嗎

酒店優(yōu)惠券計(jì)算服務(wù)使用的是初代流式計(jì)算框架Storm 。Storm這里就不詳細(xì)介紹，可以參看下面的邏輯圖：

這里我們的Storm集群的水源頭（數(shù)據(jù)源）是redis集群，使用list 數(shù)據(jù)結(jié)構(gòu)實(shí)現(xiàn)了消息隊(duì)列的push/pop功能。

流式計(jì)算的整體流程：

1. 酒店信息服務(wù)發(fā)送酒店信息到Redis集群A/B;
2. Storm的spout組件從Redis集群A/B獲取數(shù)據(jù), 獲取成功后，發(fā)送tuple消息給Bolt組件;
3. Bolt組件收到消息后，通過運(yùn)營(yíng)配置的規(guī)則對(duì)數(shù)據(jù)進(jìn)行清洗;
4. 最后Storm把處理好的數(shù)據(jù)發(fā)送到Redis集群C;
5. 入庫(kù)服務(wù)從Redis集群C獲取數(shù)據(jù),存儲(chǔ)數(shù)據(jù)到數(shù)據(jù)庫(kù);
6. 搜索團(tuán)隊(duì)掃描數(shù)據(jù)庫(kù)表，生成索引。

storm說明

這套流式計(jì)算服務(wù)每天處理千萬(wàn)條數(shù)據(jù)，處理得還算順利。但方案在團(tuán)隊(duì)內(nèi)部還是有不同聲音:

• storm的拓?fù)渖?jí)時(shí)候，或者優(yōu)惠券服務(wù)重啟的時(shí)候，偶爾出現(xiàn)丟消息的情況。但消息的丟失，對(duì)業(yè)務(wù)來講沒有那么敏感，而且我們也提供了手工刷新的功能，也在業(yè)務(wù)的容忍范圍內(nèi);
• 團(tuán)隊(duì)需要經(jīng)常關(guān)注Redis的緩存使用量，擔(dān)心Redis隊(duì)列堆積, 導(dǎo)致out of memory;
• 架構(gòu)師認(rèn)為搜索團(tuán)隊(duì)直接掃描數(shù)據(jù)庫(kù)不夠解耦，建議將Redis集群C替換成Kafka，搜索團(tuán)隊(duì)從kafka直接消費(fèi)消息，生成索引;

我認(rèn)為使用Redis做消息隊(duì)列應(yīng)該滿足如下條件：

1. 容忍小概率消息丟失，通過定時(shí)任務(wù)/手工觸發(fā)達(dá)到最終一致的業(yè)務(wù)場(chǎng)景;
2. 消息堆積概率低，有相關(guān)的報(bào)警監(jiān)控;
3. 消費(fèi)者的消費(fèi)模型要足夠簡(jiǎn)單。

2.2 RabbitMQ是管子不是池子

RabbitMQ是用erlang 語(yǔ)言編寫的。RabbitMQ滿足了我的兩點(diǎn)需求：

1. 高可用機(jī)制。藝龍內(nèi)部是使用的鏡像高可用模式，而且這種模式在藝龍已經(jīng)使用了較長(zhǎng)時(shí)間了，穩(wěn)定性也得到了一定的驗(yàn)證。
2. 我負(fù)責(zé)的紅包系統(tǒng)里，RabbitMQ每天的吞吐也在百萬(wàn)條消息左右，消息的發(fā)送和消費(fèi)都還挺完美。

優(yōu)惠券服務(wù)原使用SqlServer ，由于數(shù)據(jù)量太大，技術(shù)團(tuán)隊(duì)決定使用分庫(kù)分表的策略，使用公司自主研發(fā)的分布式數(shù)據(jù)庫(kù)DDA。

因?yàn)槭堑谝淮问褂梅植际綌?shù)據(jù)庫(kù)，為了測(cè)試DDA的穩(wěn)定性，我們模擬發(fā)送1000萬(wàn)條消息到RabbitMQ，然后優(yōu)惠券重構(gòu)服務(wù)消費(fèi)消息后，按照用戶編號(hào)hash到不同的mysql庫(kù)。

RabbitMQ集群模式是鏡像高可用，3臺(tái)服務(wù)器，每臺(tái)配置是4核8G 。

我們以每小時(shí)300萬(wàn)條消息的速度發(fā)送消息，最開始1個(gè)小時(shí)生產(chǎn)者和消費(fèi)者表現(xiàn)都很好，但由于消費(fèi)者的速度跟不上生產(chǎn)者的速度，導(dǎo)致消息隊(duì)列有積壓情況產(chǎn)生。第三個(gè)小時(shí)，消息隊(duì)列已堆積了500多萬(wàn)條消息了， 生產(chǎn)者發(fā)送消息的速度由最開始的2毫秒激增到500毫秒左右。RabbitMQ的控制臺(tái)已血濺當(dāng)場(chǎng)，標(biāo)紅報(bào)警。

這是一次無(wú)意中的測(cè)試，從測(cè)試的情況來看，RabbitMQ很優(yōu)秀，但RabbitMQ對(duì)消息堆積的支持并不好，當(dāng)大量消息積壓的時(shí)候，會(huì)導(dǎo)致 RabbitMQ 的性能急劇下降 。

有的朋友對(duì)我講：“RabbitMQ明明是管子，你非得把他當(dāng)池子？”

隨著整個(gè)互聯(lián)網(wǎng)數(shù)據(jù)量的激增, 很多業(yè)務(wù)場(chǎng)景下是允許適當(dāng)堆積的，只要保證消費(fèi)者可以平穩(wěn)消費(fèi)，整個(gè)業(yè)務(wù)沒有大的波動(dòng)即可。

我心里面越來越相信：消息隊(duì)列既可以做管子 ，也可以當(dāng)做池子 。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實(shí)現(xiàn)的后臺(tái)管理系統(tǒng) + 用戶小程序，支持 RBAC 動(dòng)態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能

• 項(xiàng)目地址：https://github.com/YunaiV/yudao-cloud
• 視頻教程：https://doc.iocoder.cn/video/

3 升華MetaQ

Metamorphosis的起源是我從對(duì)linkedin的開源MQ–現(xiàn)在轉(zhuǎn)移到apache的kafka的學(xué)習(xí)開始的，這是一個(gè)設(shè)計(jì)很獨(dú)特的MQ系統(tǒng)，它采用pull機(jī)制，而 不是一般MQ的push模型，它大量利用了zookeeper做服務(wù)發(fā)現(xiàn)和offset存儲(chǔ)，它的設(shè)計(jì)理念我非常欣賞并贊同，強(qiáng)烈建議你閱讀一下它的設(shè)計(jì)文檔，總體上說metamorphosis的設(shè)計(jì)跟它是完全一致的。--- MetaQ的作者莊曉丹

3.1 驚艷消費(fèi)者模型

2015年，我主要從事神州專車訂單研發(fā)工作。

MetaQ滿足了我對(duì)于消息隊(duì)列的幻想：“分布式，高吞吐，高堆積”。

MetaQ支持兩種消費(fèi)模型：集群消費(fèi) 和廣播消費(fèi) ，因?yàn)橐郧笆褂眠^的消費(fèi)者模型都是用隊(duì)列模型，當(dāng)我第一次接觸到這種發(fā)布訂閱模型的時(shí)候還是被驚艷到了。

集群消費(fèi)

訂單創(chuàng)建成功后，發(fā)送一條消息給MetaQ。這條消息可以被派單服務(wù)消費(fèi)，也可以被BI服務(wù)消費(fèi)。

廣播消費(fèi)

派單服務(wù)在講訂單指派給司機(jī)的時(shí)候，會(huì)給司機(jī)發(fā)送一個(gè)推送消息。推送就是用廣播消費(fèi)的模式實(shí)現(xiàn)的。

大體流程是:

1. 司機(jī)端推送服務(wù)是一個(gè)TCP服務(wù)，啟動(dòng)后，采用的是廣播模式消費(fèi)MetaQ的PushTopic;
2. 司機(jī)端會(huì)定時(shí)發(fā)送TCP請(qǐng)求到推送服務(wù)，鑒權(quán)成功后，推送服務(wù)會(huì)保存司機(jī)編號(hào)和channel的引用；
3. 派單服務(wù)發(fā)送推送消息到MetaQ；
4. 推送服務(wù)的每一臺(tái)機(jī)器都會(huì)收到該消息，然后判斷內(nèi)存中是否存在該司機(jī)的channel引用，若存在，則推送消息。

這是非常經(jīng)典的廣播消費(fèi)的案例。我曾經(jīng)研讀京麥TCP網(wǎng)關(guān)的設(shè)計(jì)，它的推送也是采用類似的方式。

3.2 激進(jìn)的消峰

2015年是打車大戰(zhàn)硝煙彌漫的一年。

對(duì)神州專車來講，隨著訂單量的不斷增長(zhǎng)，欣喜的同時(shí)，性能的壓力與日俱增。早晚高峰期，用戶打車的時(shí)候，經(jīng)常點(diǎn)擊下單經(jīng)常無(wú)響應(yīng)。在系統(tǒng)層面來看，專車api網(wǎng)關(guān)發(fā)現(xiàn)大規(guī)模超時(shí)，訂單服務(wù)的性能急劇下降。數(shù)據(jù)庫(kù)層面壓力更大，高峰期一條記錄插入竟然需要8秒的時(shí)間。

整個(gè)技術(shù)團(tuán)隊(duì)需要盡快提升專車系統(tǒng)的性能，此前已經(jīng)按照模塊領(lǐng)域做了數(shù)據(jù)庫(kù)的拆分。但系統(tǒng)的瓶頸依然很明顯。

我們?cè)O(shè)計(jì)了現(xiàn)在看來有點(diǎn)激進(jìn)的方案：

1. 設(shè)計(jì)訂單緩存。緩存方案大家要有興趣，我們可以以后再聊，里面有很多可以詳聊的點(diǎn);
2. 在訂單的載客生命周期里，訂單的修改操作先修改緩存，然后發(fā)送消息到MetaQ，訂單落盤服務(wù)消費(fèi)消息，并判斷訂單信息是否正常（比如有無(wú)亂序)，若訂單數(shù)據(jù)無(wú)誤，則存儲(chǔ)到數(shù)據(jù)庫(kù)中。

這里有兩個(gè)細(xì)節(jié)：

1. 消費(fèi)者消費(fèi)的時(shí)候需要順序消費(fèi)，實(shí)現(xiàn)的方式是按照訂單號(hào)路由到不同的partition，同一個(gè)訂單號(hào)的消息，每次都發(fā)到同一個(gè)partition;
2. 一個(gè)守護(hù)任務(wù)，定時(shí)輪詢當(dāng)前正在進(jìn)行的訂單，當(dāng)緩存與數(shù)據(jù)不一致時(shí)候，修復(fù)數(shù)據(jù)，并發(fā)送報(bào)警。

這次優(yōu)化大大提升訂單服務(wù)的整體性能，也為后來訂單服務(wù)庫(kù)分庫(kù)分表以及異構(gòu)打下了堅(jiān)實(shí)的基礎(chǔ)，根據(jù)我們的統(tǒng)計(jì)數(shù)據(jù)，基本沒有發(fā)生過緩存和數(shù)據(jù)庫(kù)最后不一致的場(chǎng)景。但這種方案對(duì)緩存高可用有較高的要求，還是有點(diǎn)小激進(jìn)吧。

3.3 消息SDK封裝

做過基礎(chǔ)架構(gòu)的同學(xué)可能都有經(jīng)驗(yàn)：“三方組件會(huì)封裝一層”，神州架構(gòu)團(tuán)隊(duì)也是將metaq-client封裝了一層。

在我的思維里面，封裝一層可以減少研發(fā)人員使用第三方組件的心智投入，統(tǒng)一技術(shù)棧，也就如此了。

直到發(fā)生一次意外，我的思維升級(jí)了。那是一天下午，整個(gè)專車服務(wù)崩潰較長(zhǎng)時(shí)間。技術(shù)團(tuán)隊(duì)發(fā)現(xiàn)："專車使用zookeeper做服務(wù)發(fā)現(xiàn)。zk集群的leader機(jī)器掛掉了，一直在選主。"

臨時(shí)解決后，我們發(fā)現(xiàn)MetaQ和服務(wù)發(fā)現(xiàn)都使用同一套zk集群，而且consumer的offset提交，以及負(fù)載均衡都會(huì)對(duì)zk集群進(jìn)行大量的寫操作。

為了減少M(fèi)etaQ對(duì)zk集群的影響，我們的目標(biāo)是：“MetaQ使用獨(dú)立的zk集群”。

1. 需要部署新的zk集群；
2. MetaQ的zk數(shù)據(jù)需要同步到新的集群；
3. 保證切換到新的集群，應(yīng)用服務(wù)基本無(wú)感知。

我很好奇向架構(gòu)部同學(xué)請(qǐng)教，他說新的集群已經(jīng)部署好了，但需要同步zk數(shù)據(jù)到新的集群。他在客戶端里添加了雙寫 的操作。也就是說：我們除了會(huì)寫原有的zk集群一份數(shù)據(jù)，同時(shí)也會(huì)在新的zk集群寫一份。過了幾周后，MetaQ使用獨(dú)立的zk集群這個(gè)任務(wù)已經(jīng)完成了。

這一次的經(jīng)歷帶給我很大的感慨：“還可以這么玩？” ，也讓我思考著：三方組件封裝沒有想像中那么簡(jiǎn)單。

我們可以看下快手 消息的SDK封裝策略：

1. 對(duì)外只提供最基本的 API，所有訪問必須經(jīng)過SDK提供的接口。簡(jiǎn)潔的 API 就像冰山的一個(gè)角，除了對(duì)外的簡(jiǎn)單接口，下面所有的東西都可以升級(jí)更換，而不會(huì)破壞兼容性 ;
2. 業(yè)務(wù)開發(fā)起來也很簡(jiǎn)單，只要需要提供 Topic（全局唯一）和 Group 就可以生產(chǎn)和消費(fèi)，不用提供環(huán)境、NameServer 地址等。SDK 內(nèi)部會(huì)根據(jù) Topic 解析出集群 NameServer 的地址，然后連接相應(yīng)的集群。生產(chǎn)環(huán)境和測(cè)試環(huán)境環(huán)境會(huì)解析出不同的地址，從而實(shí)現(xiàn)了隔離；
3. 上圖分為 3 層，第二層是通用的，第三層才對(duì)應(yīng)具體的 MQ 實(shí)現(xiàn)，因此，理論上可以更換為其它消息中間件，而客戶端程序不需要修改；
4. SDK 內(nèi)部集成了熱變更機(jī)制，可以在不重啟 Client 的情況下做動(dòng)態(tài)配置，比如下發(fā)路由策略（更換集群 NameServer 的地址，或者連接到別的集群去），Client 的線程數(shù)、超時(shí)時(shí)間等。通過 Maven 強(qiáng)制更新機(jī)制，可以保證業(yè)務(wù)使用的 SDK 基本上是最新的。

3.4 重構(gòu)MetaQ , 自成體系

我有一個(gè)習(xí)慣 : "經(jīng)常找運(yùn)維，DBA，架構(gòu)師了解當(dāng)前系統(tǒng)是否有什么問題，以及他們解決問題的思路。這樣，我就有另外一個(gè)視角來審視公司的系統(tǒng)運(yùn)行情況"。

MetaQ也有他的缺點(diǎn)。

1. MetaQ的基層通訊框架是gecko，MetaQ偶爾會(huì)出現(xiàn)rpc無(wú)響應(yīng)，應(yīng)用假死的情況，不太好定位問題；
2. MetaQ的運(yùn)維能力薄弱，只有簡(jiǎn)單的Dashboard界面，無(wú)法實(shí)現(xiàn)自動(dòng)化主題申請(qǐng)，消息追蹤等功能。

有一天，我發(fā)現(xiàn)測(cè)試環(huán)境的一臺(tái)消費(fèi)者服務(wù)器啟動(dòng)后，不斷報(bào)鏈接異常的問題，而且cpu占用很高。我用netstat命令馬上查一下，發(fā)現(xiàn)已經(jīng)創(chuàng)建了幾百個(gè)鏈接。出于好奇心，我打開了源碼，發(fā)現(xiàn)網(wǎng)絡(luò)通訊框架gecko已經(jīng)被替換成了netty。我們馬上和架構(gòu)部的同學(xué)聯(lián)系。

我這才明白：他們已經(jīng)開始重構(gòu)MetaQ了。我從來沒有想過重構(gòu)一個(gè)開源軟件，因?yàn)榫嚯x我太遠(yuǎn)了?；蛘吣莻€(gè)時(shí)候，我覺得自己的能力還達(dá)不到。

后來，神州自研的消息隊(duì)列自成體系了，已經(jīng)在生產(chǎn)環(huán)境運(yùn)行的挺好。

時(shí)至今天，我還是很欣賞神州架構(gòu)團(tuán)隊(duì)。他們自研了消息隊(duì)列，DataLink（數(shù)據(jù)異構(gòu)中間件），分庫(kù)分表中間件等。他們?cè)敢馊?chuàng)新，有勇氣去做一個(gè)更好的技術(shù)產(chǎn)品。

我從他們身上學(xué)到很多。

也許在看到他們重構(gòu)MetaQ的那一刻，我的心里埋下了種子。

4 鐘情RocketMQ

4.1 開源的盛宴

2014年，我搜羅了很多的淘寶的消息隊(duì)列的資料，我知道MetaQ的版本已經(jīng)升級(jí)MetaQ 3.0，只是開源版本還沒有放出來。

大約秋天的樣子，我加入了RocketMQ技術(shù)群。誓嘉(RocketMQ創(chuàng)始人)在群里說：“最近要開源了，放出來后，大家趕緊fork呀”。他的這句話發(fā)在群里之后，群里都炸開了鍋。我更是歡喜雀躍，期待著能早日見到阿里自己內(nèi)部的消息中間件。

終于，RocketMQ終于開源了。我迫不及待想一窺他的風(fēng)采。

因?yàn)槲蚁雽W(xué)網(wǎng)絡(luò)編程，而RocketMQ的通訊模塊remoting底層也是Netty寫的。所以，RocketMQ的通訊層是我學(xué)習(xí)切入的點(diǎn)。

我模仿RocketMQ的remoting寫了一個(gè)玩具的rpc，這更大大提高我的自信心。正好，藝龍舉辦技術(shù)創(chuàng)新活動(dòng)。我想想，要不嘗試一下用Netty改寫下Cobar的通訊模塊。于是參考Cobar的源碼花了兩周寫了個(gè)netty版的proxy，其實(shí)非常粗糙，很多功能不完善。后來，這次活動(dòng)頒給我一個(gè)鼓勵(lì)獎(jiǎng)，現(xiàn)在想想都很好玩。

因?yàn)樵谏裰輧?yōu)車使用MetaQ的關(guān)系，我學(xué)習(xí)RocketMQ也比較得心應(yīng)手。為了真正去理解源碼，我時(shí)常會(huì)參考RocketMQ的源碼，寫一些輪子來驗(yàn)證我的學(xué)習(xí)效果。

雖然自己做了一些練習(xí)，但一直沒有在業(yè)務(wù)環(huán)境使用過。2018年是我真正使用RocketMQ的一年，也是有所得的一年。

短信服務(wù)

短信服務(wù)應(yīng)用很廣泛，比如用戶注冊(cè)登錄驗(yàn)證碼，營(yíng)銷短信，下單成功短信通知等等。最開始設(shè)計(jì)短信服務(wù)的時(shí)候，我想學(xué)習(xí)業(yè)界是怎么做的。于是把目標(biāo)鎖定在騰訊云的短信服務(wù)上。騰訊云的短信服務(wù)有如下特點(diǎn)：

• 統(tǒng)一的SDK，后端入口是http/https服務(wù) , 分配appId/appSecret鑒權(quán)；
• 簡(jiǎn)潔的API設(shè)計(jì)：?jiǎn)伟l(fā)，群發(fā)，營(yíng)銷單發(fā)，營(yíng)銷群發(fā)，模板單發(fā)，模板群發(fā)。

于是，我參考了這種設(shè)計(jì)思路。

1. 模仿騰訊云的SDK設(shè)計(jì)，提供簡(jiǎn)單易用的短信接口；
2. 設(shè)計(jì)短信服務(wù)API端，接收發(fā)短信請(qǐng)求，發(fā)送短信信息到消息隊(duì)列；
3. worker服務(wù)消費(fèi)消息，按照負(fù)載均衡的算法，調(diào)用不同渠道商的短信接口；
4. Dashboard可以查看短信發(fā)送記錄，配置渠道商信息。

短信服務(wù)是我真正意義第一次生產(chǎn)環(huán)境使用RocketMQ，當(dāng)短信一條條發(fā)出來的時(shí)候，還是蠻有成就感的。

MQ控制臺(tái)

使用過RocketMQ的朋友，肯定對(duì)上圖的控制臺(tái)很熟悉。當(dāng)時(shí)團(tuán)隊(duì)有多個(gè)RocketMQ集群，每組集群都需要單獨(dú)部署一套控制臺(tái)。于是我想著：能不能稍微把控制臺(tái)改造一番，能滿足支持多組集群。

于是，擼起袖子干了起來。大概花了20天的時(shí)間，我們基于開源的版本改造了能支持多組集群的版本。做完之后，雖然能滿足我最初的想法，但是做的很粗糙。而且搜狐開源了他們自己的MQCloud ，我看了他們的設(shè)計(jì)之后， 覺得離一個(gè)消息治理平臺(tái)還很遠(yuǎn)。

后來我讀了《網(wǎng)易云音樂的消息隊(duì)列改造之路》，《今日頭條在消息服務(wù)平臺(tái)和容災(zāi)體系建設(shè)方面的實(shí)踐與思考》這兩篇文章，越是心癢難耐，蠻想去做的是一個(gè)真正意義上的消息治理平臺(tái)。一直沒有什么場(chǎng)景和機(jī)會(huì)，還是有點(diǎn)可惜。

最近看了哈羅單車架構(gòu)專家梁勇的一篇文章《哈啰在分布式消息治理和微服務(wù)治理中的實(shí)踐》，推薦大家一讀。

一扇窗子，開始自研組件

后來，我嘗試進(jìn)一步深入使用RocketMQ。

• 仿ONS風(fēng)格封裝消息SDK；
• 運(yùn)維側(cè)平滑擴(kuò)容消息隊(duì)列；
• 生產(chǎn)環(huán)境DefaultMQPullConsumer消費(fèi)模式嘗試

這些做完之后，我們又自研了注冊(cè)中心、配置中心，任務(wù)調(diào)度系統(tǒng)。設(shè)計(jì)這些系統(tǒng)的時(shí)候，從RocketMQ源碼里汲取了很多的營(yíng)養(yǎng)，雖然現(xiàn)在看來有很多設(shè)計(jì)不完善的地方，代碼質(zhì)量也有待提高，但做完這些系統(tǒng)后，還是大大提升我的自信心。

RocketMQ給我打開了一扇窗子，讓我能看到更廣闊的Java世界。對(duì)我而言，這就是開源的盛宴。

4.2 Kafka: 大數(shù)據(jù)生態(tài)的不可或缺的部分

Kafka是一個(gè)擁有高吞吐、可持久化、可水平擴(kuò)展，支持流式數(shù)據(jù)處理等多種特性的分布式消息流處理中間件，采用分布式消息發(fā)布與訂閱機(jī)制，在日志收集、流式數(shù)據(jù)傳輸、在線/離線系統(tǒng)分析、實(shí)時(shí)監(jiān)控等領(lǐng)域有廣泛的應(yīng)用。

日志同步

在大型業(yè)務(wù)系統(tǒng)設(shè)計(jì)中，為了快速定位問題，全鏈路追蹤日志，以及故障及時(shí)預(yù)警監(jiān)控，通常需要將各系統(tǒng)應(yīng)用的日志集中分析處理。

Kafka設(shè)計(jì)初衷就是為了應(yīng)對(duì)大量日志傳輸場(chǎng)景，應(yīng)用通過可靠異步方式將日志消息同步到消息服務(wù)，再通過其他組件對(duì)日志做實(shí)時(shí)或離線分析，也可用于關(guān)鍵日志信息收集進(jìn)行應(yīng)用監(jiān)控。

日志同步主要有三個(gè)關(guān)鍵部分：日志采集客戶端，Kafka消息隊(duì)列以及后端的日志處理應(yīng)用。

1. 日志采集客戶端，負(fù)責(zé)用戶各類應(yīng)用服務(wù)的日志數(shù)據(jù)采集，以消息方式將日志“批量”“異步”發(fā)送Kafka客戶端。Kafka客戶端批量提交和壓縮消息，對(duì)應(yīng)用服務(wù)的性能影響非常小。
2. Kafka將日志存儲(chǔ)在消息文件中，提供持久化。
3. 日志處理應(yīng)用，如Logstash，訂閱并消費(fèi)Kafka中的日志消息，最終供文件搜索服務(wù)檢索日志，或者由Kafka將消息傳遞給Hadoop等其他大數(shù)據(jù)應(yīng)用系統(tǒng)化存儲(chǔ)與分析。

日志同步示意圖：

流計(jì)算處理

在很多領(lǐng)域，如股市走向分析、氣象數(shù)據(jù)測(cè)控、網(wǎng)站用戶行為分析，由于數(shù)據(jù)產(chǎn)生快、實(shí)時(shí)性強(qiáng)且量大，您很難統(tǒng)一采集這些數(shù)據(jù)并將其入庫(kù)存儲(chǔ)后再做處理，這便導(dǎo)致傳統(tǒng)的數(shù)據(jù)處理架構(gòu)不能滿足需求。Kafka以及Storm、Samza、Spark等流計(jì)算引擎的出現(xiàn)，就是為了更好地解決這類數(shù)據(jù)在處理過程中遇到的問題，流計(jì)算模型能實(shí)現(xiàn)在數(shù)據(jù)流動(dòng)的過程中對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)地捕捉和處理，并根據(jù)業(yè)務(wù)需求進(jìn)行計(jì)算分析，最終把結(jié)果保存或者分發(fā)給需要的組件。

數(shù)據(jù)中轉(zhuǎn)樞紐

近10多年來，諸如KV存儲(chǔ)（HBase）、搜索（ElasticSearch）、流式處理（Storm、Spark、Samza）、時(shí)序數(shù)據(jù)庫(kù)（OpenTSDB）等專用系統(tǒng)應(yīng)運(yùn)而生。這些系統(tǒng)是為單一的目標(biāo)而產(chǎn)生的，因其簡(jiǎn)單性使得在商業(yè)硬件上構(gòu)建分布式系統(tǒng)變得更加容易且性價(jià)比更高。通常，同一份數(shù)據(jù)集需要被注入到多個(gè)專用系統(tǒng)內(nèi)。例如，當(dāng)應(yīng)用日志用于離線日志分析時(shí)，搜索單個(gè)日志記錄同樣不可或缺，而構(gòu)建各自獨(dú)立的工作流來采集每種類型的數(shù)據(jù)再導(dǎo)入到各自的專用系統(tǒng)顯然不切實(shí)際，利用消息隊(duì)列Kafka版作為數(shù)據(jù)中轉(zhuǎn)樞紐，同份數(shù)據(jù)可以被導(dǎo)入到不同專用系統(tǒng)中。

下圖是美團(tuán) MySQL 數(shù)據(jù)實(shí)時(shí)同步到 Hive 的架構(gòu)圖，也是一個(gè)非常經(jīng)典的案例。

4.3 如何技術(shù)選型

2018年去哪兒QMQ開源了，2019年騰訊TubeMQ開源了，2020年P(guān)ulsar如火如荼。

消息隊(duì)列的生態(tài)是如此的繁榮，那我們?nèi)绾芜x型呢？

我想我們不必局限于消息隊(duì)列，可以再擴(kuò)大一下。簡(jiǎn)單談一談我的看法。

Databases are specializing – the “one size fits all” approach no longer applies ----- MongoDB設(shè)計(jì)哲學(xué)

第一點(diǎn)：先有場(chǎng)景，然后再有適配這種場(chǎng)景的技術(shù)。什么樣的場(chǎng)景選擇什么樣的技術(shù)。

第二點(diǎn)：現(xiàn)實(shí)往往很復(fù)雜，當(dāng)我們真正做技術(shù)選型，并需要落地的時(shí)候，技術(shù)儲(chǔ)備 和成本 是兩個(gè)我們需要重點(diǎn)考量的因素。

技術(shù)儲(chǔ)備

• 技術(shù)團(tuán)隊(duì)有無(wú)使用這門技術(shù)的經(jīng)驗(yàn)，是否踩過生產(chǎn)環(huán)境的坑，以及針對(duì)這些坑有沒有完備的解決方案；
• 架構(gòu)團(tuán)隊(duì)是否有成熟的SDK，工具鏈，甚至是技術(shù)產(chǎn)品。

成本

• 研發(fā)，測(cè)試，運(yùn)維投入人力成本；
• 服務(wù)器資源成本；
• 招聘成本等。

最后一點(diǎn)是人 的因素，特別是管理者的因素。每一次大的技術(shù)選型考驗(yàn)技術(shù)管理者的視野，格局，以及管理智慧。

5 寫到最后

我覺得這個(gè)世界上沒有什么毫無(wú)道理的橫空出世，真的，如果沒有大量的積累大量的思考是不會(huì)把事情做好的。。?？傊?，在經(jīng)歷了這部電影以后，我覺得我要學(xué)的太多了，這世界上有太多的能人，你以為的極限，弄不好，只是別人的起點(diǎn)。所以只有不停地進(jìn)取，才能不丟人。那，人可以不上學(xué)，但一定要學(xué)習(xí)，真的。------ 韓寒《后會(huì)無(wú)期》演講

我學(xué)習(xí)消息隊(duì)列的過程是不斷思考，不斷實(shí)踐的過程，雖然我以為的極限，弄不好，只是別人的起點(diǎn)，但至少現(xiàn)在，當(dāng)我面對(duì)這門技術(shù)的時(shí)候，我的內(nèi)心充滿了好奇心，同時(shí)也是無(wú)所畏懼的。

我始終相信：每天學(xué)習(xí)一點(diǎn)點(diǎn)，比昨天進(jìn)步一點(diǎn)點(diǎn)就好。