摘要:不同的是是獨(dú)立上市子公司,而是整合了的某些資源,現(xiàn)在并沒有上市。一個有兩個部分有效載荷和標(biāo)簽。就是協(xié)議本身不支持。每個都要被確認(rèn),。第二種是從中立即刪除該。對的處理是完美的。會向響應(yīng)的廣播。
1. 歷史
RabbitMQ是一個由erlang開發(fā)的AMQP(Advanced Message Queue )的開源實(shí)現(xiàn)。AMQP 的出現(xiàn)其實(shí)也是應(yīng)了廣大人民群眾的需求,雖然在同步消息通訊的世界里有很多公開標(biāo)準(zhǔn)(如 COBAR的 IIOP ,或者是 SOAP 等),但是在異步消息處理中卻不是這樣,只有大企業(yè)有一些商業(yè)實(shí)現(xiàn)(如微軟的 MSMQ ,IBM 的 Websphere MQ 等),因此,在 2006 年的 6 月,Cisco 、Redhat、iMatix 等聯(lián)合制定了 AMQP 的公開標(biāo)準(zhǔn)。 RabbitMQ是由RabbitMQ Technologies Ltd開發(fā)并且提供商業(yè)支持的。該公司在2010年4月被SpringSource(VMWare的一個部門)收購。在2013年5月被并入Pivotal。其實(shí)VMWare,Pivotal和EMC本質(zhì)上是一家的。不同的是VMWare是獨(dú)立上市子公司,而Pivotal是整合了EMC的某些資源,現(xiàn)在并沒有上市。 RabbitMQ的官網(wǎng)是http://www.rabbitmq.com
2. 應(yīng)用場景
言歸正傳。RabbitMQ,或者說AMQP解決了什么問題,或者說它的應(yīng)用場景是什么? 對于一個大型的軟件系統(tǒng)來說,它會有很多的組件或者說模塊或者說子系統(tǒng)或者(subsystem or Component or submodule)。那么這些模塊的如何通信?這和傳統(tǒng)的IPC有很大的區(qū)別。傳統(tǒng)的IPC很多都是在單一系統(tǒng)上的,模塊耦合性很大,不適合擴(kuò)展(Scalability);如果使用socket那么不同的模塊的確可以部署到不同的機(jī)器上,但是還是有很多問題需要解決。比如:
1)信息的發(fā)送者和接收者如何維持這個連接,如果一方的連接中斷,這期間的數(shù)據(jù)如何方式丟失?
2)如何降低發(fā)送者和接收者的耦合度?
3)如何讓Priority高的接收者先接到數(shù)據(jù)?
4)如何做到load balance?有效均衡接收者的負(fù)載?
5)如何有效的將數(shù)據(jù)發(fā)送到相關(guān)的接收者?也就是說將接收者subscribe 不同的數(shù)據(jù),如何做有效的filter。
6)如何做到可擴(kuò)展,甚至將這個通信模塊發(fā)到cluster上?
7)如何保證接收者接收到了完整,正確的數(shù)據(jù)?
AMDQ協(xié)議解決了以上的問題,而RabbitMQ實(shí)現(xiàn)了AMQP。
3. 系統(tǒng)架構(gòu)
成為系統(tǒng)架構(gòu)可能不太合適,可能叫應(yīng)用場景的系統(tǒng)架構(gòu)更合適。
RabbitMQ Server: 也叫broker server,它不是運(yùn)送食物的卡車,而是一種傳輸服務(wù)。原話是RabbitMQisn’t a food truck, it’s a delivery service. 他的角色就是維護(hù)一條從Producer到Consumer的路線,保證數(shù)據(jù)能夠按照指定的方式進(jìn)行傳輸。但是這個保證也不是100%的保證,但是對于普通的應(yīng)用來說這已經(jīng)足夠了。當(dāng)然對于商業(yè)系統(tǒng)來說,可以再做一層數(shù)據(jù)一致性的guard,就可以徹底保證系統(tǒng)的一致性了。 Client A & B: 也叫Producer,數(shù)據(jù)的發(fā)送方。createmessages and publish (send) them to a broker server (RabbitMQ).一個Message有兩個部分:payload(有效載荷)和label(標(biāo)簽)。payload顧名思義就是傳輸?shù)臄?shù)據(jù)。label是exchange的名字或者說是一個tag,它描述了payload,而且RabbitMQ也是通過這個label來決定把這個Message發(fā)給哪個Consumer。AMQP僅僅描述了label,而RabbitMQ決定了如何使用這個label的規(guī)則。 Client 1,2,3:也叫Consumer,數(shù)據(jù)的接收方。Consumersattach to a broker server (RabbitMQ) and subscribe to a queue。把queue比作是一個有名字的郵箱。當(dāng)有Message到達(dá)某個郵箱后,RabbitMQ把它發(fā)送給它的某個訂閱者即Consumer。當(dāng)然可能會把同一個Message發(fā)送給很多的Consumer。在這個Message中,只有payload,label已經(jīng)被刪掉了。對于Consumer來說,它是不知道誰發(fā)送的這個信息的。就是協(xié)議本身不支持。但是當(dāng)然了如果Producer發(fā)送的payload包含了Producer的信息就另當(dāng)別論了。 對于一個數(shù)據(jù)從Producer到Consumer的正確傳遞,還有三個概念需要明確:exchanges, queues and bindings。 Exchanges are where producers publish their messages. Queuesare where the messages end up and are received by consumers Bindings are how the messages get routed from the exchange to particular queues.
還有幾個概念是上述圖中沒有標(biāo)明的,那就是Connection(連接),Channel(通道,頻道)。
Connection: 就是一個TCP的連接。Producer和Consumer都是通過TCP連接到RabbitMQ Server的。以后我們可以看到,程序的起始處就是建立這個TCP連接。
Channels: 虛擬連接。它建立在上述的TCP連接中。數(shù)據(jù)流動都是在Channel中進(jìn)行的。也就是說,一般情況是程序起始建立TCP連接,第二步就是建立這個Channel。
那么,為什么使用Channel,而不是直接使用TCP連接? 對于OS來說,建立和關(guān)閉TCP連接是有代價(jià)的,頻繁的建立關(guān)閉TCP連接對于系統(tǒng)的性能有很大的影響,而且TCP的連接數(shù)也有限制,這也限制了系統(tǒng)處理高并發(fā)的能力。但是,在TCP連接中建立Channel是沒有上述代價(jià)的。對于Producer或者Consumer來說,可以并發(fā)的使用多個Channel進(jìn)行Publish或者Receive。有實(shí)驗(yàn)表明,1s的數(shù)據(jù)可以Publish10K的數(shù)據(jù)包。當(dāng)然對于不同的硬件環(huán)境,不同的數(shù)據(jù)包大小這個數(shù)據(jù)肯定不一樣,但是我只想說明,對于普通的Consumer或者Producer來說,這已經(jīng)足夠了。如果不夠用,你考慮的應(yīng)該是如何細(xì)化split你的設(shè)計(jì)。
4. 進(jìn)一步的細(xì)節(jié)闡明
4.1 使用ack確認(rèn)Message的正確傳遞
默認(rèn)情況下,如果Message 已經(jīng)被某個Consumer正確的接收到了,那么該Message就會被從queue中移除。當(dāng)然也可以讓同一個Message發(fā)送到很多的Consumer。
如果一個queue沒被任何的Consumer Subscribe(訂閱),那么,如果這個queue有數(shù)據(jù)到達(dá),那么這個數(shù)據(jù)會被cache,不會被丟棄。當(dāng)有Consumer時,這個數(shù)據(jù)會被立即發(fā)送到這個Consumer,這個數(shù)據(jù)被Consumer正確收到時,這個數(shù)據(jù)就被從queue中刪除。 那么什么是正確收到呢?通過ack。每個Message都要被acknowledged(確認(rèn),ack)。我們可以顯示的在程序中去ack,也可以自動的ack。如果有數(shù)據(jù)沒有被ack,那么: RabbitMQ Server會把這個信息發(fā)送到下一個Consumer。 如果這個app有bug,忘記了ack,那么RabbitMQ Server不會再發(fā)送數(shù)據(jù)給它,因?yàn)镾erver認(rèn)為這個Consumer處理能力有限。
而且ack的機(jī)制可以起到限流的作用(Benefitto throttling):在Consumer處理完成數(shù)據(jù)后發(fā)送ack,甚至在額外的延時后發(fā)送ack,將有效的balance Consumer的load。
當(dāng)然對于實(shí)際的例子,比如我們可能會對某些數(shù)據(jù)進(jìn)行merge,比如merge 4s內(nèi)的數(shù)據(jù),然后sleep 4s后再獲取數(shù)據(jù)。特別是在監(jiān)聽系統(tǒng)的state,我們不希望所有的state實(shí)時的傳遞上去,而是希望有一定的延時。這樣可以減少某些IO,而且終端用戶也不會感覺到。
4.2 Reject a message
有兩種方式,第一種的Reject可以讓RabbitMQ Server將該Message 發(fā)送到下一個Consumer。第二種是從queue中立即刪除該Message。
4.3 Creating a queue
Consumer和Procuder都可以通過 queue.declare 創(chuàng)建queue。對于某個Channel來說,Consumer不能declare一個queue,卻訂閱其他的queue。當(dāng)然也可以創(chuàng)建私有的queue。這樣只有app本身才可以使用這個queue。queue也可以自動刪除,被標(biāo)為auto-delete的queue在最后一個Consumer unsubscribe后就會被自動刪除。那么如果是創(chuàng)建一個已經(jīng)存在的queue呢?那么不會有任何的影響。需要注意的是沒有任何的影響,也就是說第二次創(chuàng)建如果參數(shù)和第一次不一樣,那么該操作雖然成功,但是queue的屬性并不會被修改。 那么誰應(yīng)該負(fù)責(zé)創(chuàng)建這個queue呢?是Consumer,還是Producer?
如果queue不存在,當(dāng)然Consumer不會得到任何的Message。但是如果queue不存在,那么Producer Publish的Message會被丟棄。所以,還是為了數(shù)據(jù)不丟失,Consumer和Producer都try to create the queue!反正不管怎么樣,這個接口都不會出問題。
queue對load balance的處理是完美的。對于多個Consumer來說,RabbitMQ 使用循環(huán)的方式(round-robin)的方式均衡的發(fā)送給不同的Consumer。
4.4 Exchanges
從架構(gòu)圖可以看出,Procuder Publish的Message進(jìn)入了Exchange。接著通過“routing keys”, RabbitMQ會找到應(yīng)該把這個Message放到哪個queue里。queue也是通過這個routing keys來做的綁定。 有三種類型的Exchanges:direct, fanout,topic。 每個實(shí)現(xiàn)了不同的路由算法(routing algorithm)。
· Direct exchange: 如果 routing key 匹配, 那么Message就會被傳遞到相應(yīng)的queue中。其實(shí)在queue創(chuàng)建時,它會自動的以queue的名字作為routing key來綁定那個exchange。
· Fanout exchange: 會向響應(yīng)的queue廣播。
· Topic exchange: 對key進(jìn)行模式匹配,比如ab可以傳遞到所有ab的queue。
4.5 Virtual hosts
每個virtual host本質(zhì)上都是一個RabbitMQ Server,擁有它自己的queue,exchagne,和bings rule等等。這保證了你可以在多個不同的application中使用RabbitMQ。
轉(zhuǎn)載自:http://blog.csdn.net/anzhsoft...
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://specialneedsforspecialkids.com/yun/22703.html
摘要:后續(xù)介紹交換機(jī),生產(chǎn)者直接將消息投遞到中。消息,服務(wù)器和應(yīng)用程序之間傳送的數(shù)據(jù),由和組成。也稱為消息隊(duì)列,保存消息并將它們轉(zhuǎn)發(fā)給消費(fèi)者。主要是應(yīng)為和有一個綁定的關(guān)系。 showImg(https://img-blog.csdnimg.cn/20190509221741422.gif); showImg(https://img-blog.csdnimg.cn/20190731191914...
摘要:可設(shè)置為模式,所有發(fā)送的消息都會被確認(rèn)一次,用戶可以自行根據(jù)發(fā)回的確認(rèn)消息查看狀態(tài)。指定路由規(guī)則生產(chǎn)者消費(fèi)者同上。傳輸層主要傳輸二進(jìn)制數(shù)據(jù)流,提供幀的處理信道復(fù)用錯誤檢測和數(shù)據(jù)表示。 showImg(http://i.niupic.com/images/2016/04/28/h7FUPX.png); 由于之前做的項(xiàng)目中需要在多個節(jié)點(diǎn)之間可靠地通信,所以廢棄了之前使用的Redis pub...
摘要:可設(shè)置為模式,所有發(fā)送的消息都會被確認(rèn)一次,用戶可以自行根據(jù)發(fā)回的確認(rèn)消息查看狀態(tài)。指定路由規(guī)則生產(chǎn)者消費(fèi)者同上。傳輸層主要傳輸二進(jìn)制數(shù)據(jù)流,提供幀的處理信道復(fù)用錯誤檢測和數(shù)據(jù)表示。 showImg(http://i.niupic.com/images/2016/04/28/h7FUPX.png); 由于之前做的項(xiàng)目中需要在多個節(jié)點(diǎn)之間可靠地通信,所以廢棄了之前使用的Redis pub...
摘要:可設(shè)置為模式,所有發(fā)送的消息都會被確認(rèn)一次,用戶可以自行根據(jù)發(fā)回的確認(rèn)消息查看狀態(tài)。指定路由規(guī)則生產(chǎn)者消費(fèi)者同上。傳輸層主要傳輸二進(jìn)制數(shù)據(jù)流,提供幀的處理信道復(fù)用錯誤檢測和數(shù)據(jù)表示。 showImg(http://i.niupic.com/images/2016/04/28/h7FUPX.png); 由于之前做的項(xiàng)目中需要在多個節(jié)點(diǎn)之間可靠地通信,所以廢棄了之前使用的Redis pub...
摘要:相關(guān)推薦,豆瓣評分,人評價(jià)本書介紹了在編程中條極具實(shí)用價(jià)值的經(jīng)驗(yàn)規(guī)則,這些經(jīng)驗(yàn)規(guī)則涵蓋了大多數(shù)開發(fā)人員每天所面臨的問題的解決方案。實(shí)戰(zhàn)高并發(fā)程序設(shè)計(jì)推薦豆瓣評分,書的質(zhì)量沒的說,推薦大家好好看一下。 該文已加入開源文檔:JavaGuide(一份涵蓋大部分Java程序員所需要掌握的核心知識)。地址:https://github.com/Snailclimb... 【強(qiáng)烈推薦!非廣告!】...
閱讀 2028·2023-04-26 01:33
閱讀 1660·2023-04-26 00:52
閱讀 1035·2021-11-18 13:14
閱讀 5394·2021-09-26 10:18
閱讀 2901·2021-09-22 15:52
閱讀 1488·2019-08-29 17:15
閱讀 3017·2019-08-29 16:11
閱讀 1039·2019-08-29 16:11