資訊專欄INFORMATION COLUMN
摘要：線上運營的問題配置更新首先，配置修改問題。腳本每隔分鐘執(zhí)行一次，檢查配置，生效。那怎么監(jiān)控這一環(huán)呢自己弄了個模塊，抽取內(nèi)置的變量等等通過抽樣上報給集群，利用根據(jù)業(yè)務，域名，路徑等分類實時分組計算，按分鐘緯度統(tǒng)計匯總。
背景
標題黨了，現(xiàn)在不寫個海量、高并發(fā)、大數(shù)據(jù)都不好意思發(fā)出來。
前面發(fā)了一個nginx的tips文章，一些基本的用法。這里主要說下nginx在多業(yè)務、大規(guī)模場景下的一些實踐與問題。
首先，配置修改問題。1-2個業(yè)務，20臺以下的nginx機器，人肉修改nginx配置沒問題。但業(yè)務線拉長，業(yè)務需求多，需要一個配置管理系統(tǒng)統(tǒng)一按版本、下方配置。方便統(tǒng)一管理與記錄。
然后，upstream后端機器擴縮容帶來的變更。如果每次都需要人工修改配置下發(fā)，肯定會廢掉。最好是有一個接口來做這個事情，貌似阿里的tengine已經(jīng)實現(xiàn)了。
我這里是利用我廠內(nèi)部的一個類dns的名字服務，自己寫腳本實現(xiàn)的。大概步驟是：
nginx.tplt(nginx配置模版,upstream里配置名字服務的id) --->腳本處理翻譯--> nginx標準配置文件
名字服務和內(nèi)部云系統(tǒng)完全打通，upstream后端機器的變更可以實時的通過名字服務查詢到。腳本每隔2分鐘執(zhí)行一次，nginx檢查配置，reload生效。實現(xiàn)了后端自動擴縮容，nginx接入自動生效。
nginx監(jiān)控缺失nginx自帶的stats模塊只能看全局的連接數(shù)，線上業(yè)務動輒上萬QPS，開日志會浪費機器io，而且又帶來一個新的問題： 日志管理。所以我線上默認全部關閉日志。那怎么監(jiān)控nginx這一環(huán)呢？
自己弄了個nginx模塊，抽取nginx內(nèi)置的變量: upstream_addr, upstream_status, upstream_response_time, response_time, status,body_bytes_sent等等.通過udp抽樣上報給storm集群，利用storm根據(jù)業(yè)務id，域名，api路徑等分類實時分組計算，按5分鐘緯度統(tǒng)計匯總。原始日志落地至hdfs，供故障定位時查看。
這樣，每個業(yè)務的http狀態(tài)碼占比，upstream后端健康度都可以監(jiān)控起來，并設置指標告警。
未完待續(xù).....
文章版權歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址：http://specialneedsforspecialkids.com/yun/39126.html
摘要：月日，首期沙龍海量運維實踐大曝光在騰訊大廈圓滿舉行。六總結相關文章騰訊云運維干貨沙龍海量運維實踐大曝光二騰訊云運維干貨沙龍海量運維實踐大曝光三沙龍下載地址 作者丨郭智文：騰訊高級工程師，手機QQ運維負責人。多年來，對移動互聯(lián)網(wǎng)應用的接入質(zhì)量度量、優(yōu)化有豐富的實踐經(jīng)驗，專注于業(yè)務架構優(yōu)化、彈性伸縮、運營服務管理、幫助產(chǎn)品打造極致的技術基礎和質(zhì)量口碑。 12月16日，首期沙龍海量運維實踐大...
摘要：在當天的論壇上，除了解決大數(shù)據(jù)問題，云計算還促進了運營商新業(yè)務的拓展。因為云計算，大數(shù)據(jù)的廣泛應用從而成為了可能。電信運營商已在更多地利用云計算將大數(shù)據(jù)轉(zhuǎn)化為自己的業(yè)務競爭優(yōu)勢。 云計算和大數(shù)據(jù)這兩個詞已經(jīng)更多地被放在一起討論，而從應用角度看，大數(shù)據(jù)更能挑動用戶的神經(jīng)。目前，并不是所有的企業(yè)都面臨著大數(shù)據(jù)的困擾，但是擁有著幾千萬甚至幾億客戶的運營商，大數(shù)據(jù)所帶來的問題日益顯現(xiàn)。日前在Tera...
摘要：作者丨魏旸騰訊高級工程師，具有年運維經(jīng)驗的專家。月日，首期沙龍海量運維實踐大曝光在騰訊大廈圓滿舉行。您也可以在騰訊織云公眾號下載本次演講。相關文章騰訊云運維干貨沙龍海量運維實踐大曝光一騰訊云運維干貨沙龍海量運維實踐大曝光三沙龍下載地址 作者丨魏旸：騰訊高級工程師，具有15年運維經(jīng)驗的專家。負責QQ空間、微云、QQ空間相冊等的運維工作。 12月16日，首期沙龍海量運維實踐大曝光在騰訊大廈...
閱讀 3096·2021-09-28 09:42
閱讀 3448·2021-09-22 15:21
閱讀 1122·2021-07-29 13:50
閱讀 3564·2019-08-30 15:56
閱讀 3367·2019-08-30 15:54
閱讀 1196·2019-08-30 13:12
閱讀 1172·2019-08-29 17:03
閱讀 1198·2019-08-29 10:59
