2小時快速搭建后端接口報警系統（基于阿里云日志服務分析nginx訪問日志）

lemanli 發布于2019-07-25 14:41 / 2089人閱讀

摘要：目標后端任一接口一分鐘內響應超過一定的量，馬上收到報警提示報警及慢接口有詳細列表可以查看低成本。相關報警請求的詳細信息列表慢響應分析

目標

后端任一接口一分鐘內5xx響應超過一定的量，馬上收到報警提示

報警及慢接口有詳細列表可以查看

低成本。幾年前公司的日志報警系統是自研的，開發成本比較高，也沒有達到阿里云日志服務這種產品化程度

機器部署情況

阿里云EC服務器

功能概述

阿里云日志服務，采集并分析nginx訪問日志；寫日志分析SQL，每分鐘調度執行，符合條件就觸發報警；

根據響應狀態碼提供：接口5xx響應報警、接口4xx響應報警；報警通知方式為釘釘群機器人，5xx跟4xx響應分別通知到專用的后端跟前端同學群；

修改日志分析SQL，在專用dashboard展示相關報警請求的詳細信息列表

根據響應時間提供：慢響應請求列表，同樣放到dashboard

效果圖

釘釘群報警【c是符合條件的個數，st是響應狀態碼】

阿里云日志服務儀表盤-5xx報警接口詳情

操作步驟 配置日志采集

新建Project；新建Logstore；

配置nginx日志采集；

日志路徑：/path_to_logs/**/access.log

模式：nginx配置；從線上nginx.conf文件里拷貝 log_format main，配置到頁面；

Topic生成方式：文件路徑正則；自定義正則：/path_to_logs/([^/]+)/access.log，正好把域名提取出來。可參考生成主題

Logtail機器組：配置nginx機器內網IP

nginx機器安裝Logtail采集器；

參考文檔

五分鐘快速入門

分析Nginx日志

日志服務（SLS）用戶手冊

配置日志分析SQL及報警

日志庫》查詢分析》查詢，可以寫SQL實時查詢/分析，然后另存為告警

配置告警條件

配置告警通知。一個告警可配置多個通知列表，可以同時通知到釘釘群跟短信

5xx報警SQL

為了方便查看具體的錯誤接口，基于uri分組統計并報警，報警內容里包含uri信息

為了方便確認嚴重程度，報警內容里包含響應狀態碼

__topic__:www.xyz.com and status in [500 600) | select count(1) as c, avg(status) as st, case when strpos(request_uri, "?") > 0 then split_part(request_uri, "?", 1) else request_uri end as uri group by uri having count(1)>=5 order by count(1) desc

分析SQL的寫法可參考

告警-實時監控Nginx訪問日志

實時分析簡介。支持的SQL語法及計算函數都有

告警條件配置

告警通知配置

上面的配置圖可能會變，這個產品一直在進化，18年12月的時候發現有一次大的改版。

dashboard相關報警請求的詳細信息列表SQL：

__topic__:www.xyz.com and status in [500 600) | select time_local, status, upstream_addr, __topic__ as vhost, case when strpos(request_uri, "?") > 0 then split_part(request_uri, "?", 1) else request_uri end as uri order by time_local desc

dashboard慢響應分析SQL：

__topic__:www.xyz.com and request_time > 0.3 | select count(1) as count, avg(request_time) as avg_request_time, min(__topic__) as vhost, case when strpos(request_uri, "?") > 0 then split_part(request_uri, "?", 1) else request_uri end as uri group by uri order by avg_request_time desc

云服務器 GPU云服務器 nginx訪問日志 nginx日志分析 nginx日志分析工具 CDN訪問日志分析

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/40369.html

人工智能幫助千萬用戶完成「隱形征信」計算

摘要：量化派是一家數據驅動的科技金融公司，通過人工智能大數據機器學習等前沿技術提供消費信貸撮合及消費場景下的白條服務，每年處理千萬級用戶信用及信用消費申請。「小楊」最近裝修房子，準備去銀行貸款，但是聽說好多人會因為個人征信問題被銀行拒絕貸款！于是，他先查了一下自己的央行征信，發現竟然沒有自己的征信信息，「小楊」陷入了沉思，自己經常在淘寶、jd 上買東西，也有淘寶花唄和京東白條，怎么會沒有征...

Developer 2019-06-26 18:17 評論0 收藏0
到底什么是TAE

摘要：回滾部署開發者每次部署的程序包會自動備份到歷史版本，發布異常時，可以指定回滾部署到某一歷史版本。網絡方面采用了硬件防火墻設施，提供四層到七層的全面防護，防護類型包括等所有攻擊方式，支持清洗和黑洞機制，還接入了防護等功能。 TAE2.0（Taobao App Engine）是針對移動互聯網場景的定制化PaaS云服務，基于阿里云基礎設施，采用Docker容器技術封裝應用運行環境，并且針對互...

novo 2019-08-14 15:16 評論0 收藏0
到底什么是TAE

摘要：回滾部署開發者每次部署的程序包會自動備份到歷史版本，發布異常時，可以指定回滾部署到某一歷史版本。網絡方面采用了硬件防火墻設施，提供四層到七層的全面防護，防護類型包括等所有攻擊方式，支持清洗和黑洞機制，還接入了防護等功能。 TAE2.0（Taobao App Engine）是針對移動互聯網場景的定制化PaaS云服務，基于阿里云基礎設施，采用Docker容器技術封裝應用運行環境，并且針對互...

yankeys 2019-06-27 11:59 評論0 收藏0