Rate limiting限流

buildupchao 發布于2019-07-25 13:52 / 890人閱讀

摘要：大部分人都知道應該增加，做請求頻率限制。假如超過服務能力，一般會造成整個接口服務停頓，或者應用，或者帶來連鎖反應，將延遲傳遞給服務調用方造成整個系統的服務能力喪失。有必要在服務能力超限的情況下。這就要求在應用層實現限制。

Rate limiting

RateLimiter 從概念上來講，速率限制器會在可配置的速率下分配許可證。

從最終用戶訪問安全的角度看，設想有人想暴力碰撞網站的用戶密碼；或者有人攻擊某個很耗費資源的接口；或者有人想從某個接口大量抓取數據。大部分人都知道應該增加 Rate limiting，做請求頻率限制。從安全角度，這個可能也是大部分能想到，但不一定去做的薄弱環節。

從整個架構的穩定性角度看，一般 SOA 架構的每個接口的有限資源的情況下，所能提供的單位時間服務能力是有限的。假如超過服務能力，一般會造成整個接口服務停頓，或者應用 Crash，或者帶來連鎖反應，將延遲傳遞給服務調用方造成整個系統的服務能力喪失。有必要在服務能力超限的情況下 Fail Fast。

另外，根據排隊論，由于 API 接口服務具有延遲隨著請求量提升迅速提升的特點，為了保證 SLA 的低延遲，需要控制單位時間的請求量。這也是 Little’s law 所說的。

所以，提供資源能夠支撐的服務，將過載請求快速拋棄對整個系統架構的穩定性非常重要。這就要求在應用層實現 Rate limiting 限制。

Proxy 層的實現，針對部分 URL 或者 API 接口進行訪問頻率限制

Nginx 模塊

limit_req_zone $binary_remote_addr zone=one:10m rate=1r/s;

server {
    location /search/ {
        limit_req zone=one burst=5;
    }

配置解釋

Java應用層實現

Google Guava 提供了一個 RateLimiter 實現

/**
 * Created by haoting.wang on 2017/3/13.
 */
public class RateLimiterDemo {
    
    //每秒處理一個
    static RateLimiter rateLimiter = RateLimiter.create(1);
    private static int count = 10;
    static class Work implements Runnable{

        int name;
        Work(int name){
            this.name = name;
        }
        public void run() {
                rateLimiter.acquire();
                System.out.println(name+"正在工作");
        }
    }
    public static void main(String[] args){
        for(int i = 0; i
但是更好的限制方式是池, 線程池、數據庫連接池來限制訪問數量，將過載的請求放在隊列中,等待線程資源
這坑比啊 segmentfault，連個限流的標簽都沒,建個標簽還要聲望。mdzz

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/39472.html

使用Envoy 作Sidecar Proxy的微服務模式-5.rate limiter

摘要：為安裝過濾器的偵聽器上的每個新請求調用服務，路由表指定應調用服務。使用了令牌桶算法來限流。本博客是深入研究Envoy Proxy和Istio.io 以及它如何實現更優雅的方式來連接和管理微服務系列文章的一部分。這是接下來幾個部分的想法（將在發布時更新鏈接): 斷路器（第一部分）重試/超時（第二部分）分布式跟蹤（第三部分） Prometheus的指標收集（第四部分） rate ...

CocoaChina 2019-07-01 17:36 評論0 收藏0
Spring Cloud Gateway限流實戰

摘要：歡迎訪問我的歡迎訪問我的內容所有原創文章分類匯總及配套源碼，涉及等本篇概覽本篇概覽本文是實戰系列的第八篇，經過前面的學習，咱們對過濾器已了解得差不多，今天來補全過濾器的最后一個版塊限流默認的限流器是基于實現的，限流算法是大家熟悉的令牌桶關于歡迎訪問我的GitHubhttps://github.com/zq2599/blog_demos內容：所有原創文章分類匯總及配套源碼，涉及Java、Doc...

stonezhu 2021-11-23 09:51 評論0 收藏0
【Nginx源碼研究】nginx限流模塊詳解

摘要：限流算法最簡單粗暴的限流算法就是計數器法了，而比較常用的有漏桶算法和令牌桶算法計數器計數器法是限流算法里最簡單也是最容易實現的一種算法。運營研發團隊李樂高并發系統有三把利器：緩存、降級和限流；限流的目的是通過對并發訪問/請求進行限速來保護系統，一旦達到限制速率則可以拒絕服務（定向到錯誤頁）、排隊等待（秒殺）、降級（返回兜底數據或默認數據）；高并發系統常見的限流有：限制總并發...

voyagelab 2019-07-25 14:28 評論0 收藏0
Spring Cloud Alibaba基礎教程：使用Sentinel實現接口限流

摘要：但是比較可惜的是已經宣布對停止更新。客戶端整合每個微服務客戶端都需要整合的客戶端封裝與配置，才能將監控信息上報給展示以及實時的更改限流或熔斷規則等。下面我們就分兩部分來看看，如何使用來實現接口限流。最近管點閑事浪費了不少時間，感謝網友libinwalan的留言提醒。及時糾正路線，繼續跟大家一起學習Spring Cloud Alibaba。 Nacos作為注冊中心和配置中心的基礎教程，...

stefanieliang 2019-08-19 11:37 評論0 收藏0
【工程化】限流

摘要：限流，是對流量控制。基于時間的滑動窗口，參照于滑動窗口，將單位時間看做是一個窗口，將窗口中的每個格子設定為指定時間間隔，為格子總數，那么單位時間就是。很明顯格子劃分的越多，滑動窗口的滑動就越平滑，限流統計就越精確。介紹限流，在一些我們已知的場景有： 1）在Tcp協議中，Flow Control，流量控制以動態調整發送空間大小(滑動窗口)的形式來反映接收端接收消息的能力，反饋給發送...

calx 2019-08-15 17:52 評論0 收藏0