blog.dopana

返回

限流(Rate Limiting)是高并发系统与微服务架构中保护API的核心防线,能够防止接口滥用、暴力破解以及突发流量洪峰。本文将通俗拆解常见的限流算法,并演示在Node.js与Cloudflare Workers中的生产级工程实现。

AllowedExceededClientRate LimiterBackend API429 Too Many Requests

为什么需要限流?#

限流机制如同服务入口处的安保人员,主要解决以下几类关键问题:

  • 防范DDoS与暴力破解攻击:在用户登录、找回密码或验证码接口前设置严格限流,有效阻断撞库扫描。
  • 保障多租户公平使用(Fair Usage):防止个别突发或恶意的客户端(Noisy Neighbor)耗尽全部网络带宽与计算资源,拖垮其他正常用户。
  • 保护下游服务免遭级联击垮:遭遇突发流量洪峰时,保护后端的数据库、消息队列与微服务集群免于超负荷瘫痪。
  • 控制第三方服务调用成本:对于接入OpenAI、Anthropic等按量计费的AI大模型接口,限流是防止账单爆炸的关键手段。

核心算法解析#

1. 固定窗口计数器(Fixed Window Counter)#

最简单直接的思路:将时间划分为固定大小的窗口(如1分钟),统计窗口内的请求次数。

[!WARNING] 临界突变问题(Boundary Burst):若用户在 0:59 发送10次请求,紧接着在 1:00 又发送10次请求,在短短2秒内实际通过了20次请求,瞬间承受2倍于设计预期的并发压力。

2. 滑动窗口日志(Sliding Window Log)#

记录每个请求到达的精确时间戳。每次请求到来时,剔除超出滑动时间窗口的历史记录,并统计剩余日志条数。

[!NOTE] 计算精度极高且不存在临界突发缺陷,但由于需要存储每次请求的时间戳,在高并发场景下内存消耗随请求量线性上升。

3. 滑动窗口计数器(基于Redis有序集合)#

结合固定窗口的低内存开销与滑动日志的高精度,利用Redis的Sorted Set(ZSET)实现:

4. 令牌桶算法(Token Bucket)#

想象一个容量为 NN 的水桶,系统以恒定速率 RR(个/秒)向桶内放入令牌。每个请求进入系统时必须消耗1个令牌。桶满时新放入的令牌会溢出丢弃;若桶内无令牌可用,请求将被拒绝。

[!TIP] 最大优势:允许桶内已蓄积的瞬时突发流量(Burst)快速通过,同时在长期维度严格约束平均速率。该算法被AWS与Stripe等平台广泛作为行业标配。

5. 漏桶算法(Leaky Bucket)#

漏桶如同一只底部钻孔的水桶。无论水流(突发请求)多快涌入桶内,出水口(业务处理队列)始终以恒定的速率滴漏出水。如果进水速度过快超出水桶总容量,溢出的水直接被丢弃。

非常适合用于流量整形(Traffic Shaping)与后台异步处理任务的平滑消费。

工程落地 — Express 中间件实战#

在真实的Web应用中,不同接口需要依据重要性与场景设置差异化策略:

HTTP 响应头规范#

向客户端响应标准限流元数据头,使客户端能够基于 Retry-After 采用指数退避重试策略:

X-RateLimit-Limit: 100
X-RateLimit-Remaining: 45
X-RateLimit-Reset: 1718845200
Retry-After: 45
http

Cloudflare 边缘限流#

将限流策略前置在CDN网络边缘(Edge),能在恶意流量触达源站服务器之前直接将其拦截。

通过 Wrangler CLI 或控制台创建限流规则:

# Wrangler 命令行配置
wrangler ratelimit create my-limit --limit 100 --period 60
bash

Cloudflare Workers 绑定调用实现:

export default {
  async fetch(request: Request, env: Env): Promise<Response> {
    const key = request.headers.get('CF-Connecting-IP') || 'unknown';
    const { success } = await env.myRateLimiter.limit({ key });

    if (!success) {
      return new Response('Too Many Requests', { status: 429 });
    }

    return new Response('OK');
  },
};
typescript

分布式系统限流#

在多台应用服务器集群部署时,单机内存计数器会导致限流被绕过。利用集中式 Redis 维护全局计数:

Server 1Redis - Atomic CountersServer 2Server 3

使用原子性 Redis Lua 脚本杜绝并发竞态条件(Race Condition):

生产最佳实践#

  1. 始终返回规范响应头:帮助良好的客户端遵循规范进行退避与调度,减少无效请求。
  2. 细粒度端点策略:对公开读接口保持宽松,对认证接口、资源密集型查询及写入接口严格限制。
  3. 复合限流标识(Key):组合使用 IP、API Key 以及用户ID(IP + apiKey + userId),避免恶意脚本通过代理轮换IP绕过限制。
  4. 分布式存储选型:多节点部署务必引入 Redis 配合原子 Lua 脚本。
  5. 优雅降级(Fail-Open):若限流中间件或 Redis 出现网络故障,设计机制优先保障正常流量通过,避免整个系统雪崩。
  6. 告警与审计日志:持续监控429触发频率,分析攻击行为特征,并反向调整合理的阈值规则。

总结#

限流不仅是网络安全的第一道防线,更是高可用系统的核心治理手段。简单场景可用固定窗口,高精度要求可选用滑动窗口,突发流量包容优先推荐令牌桶。在多节点集群中结合 Redis 原子脚本,在全球分布式场景中借助 Cloudflare Workers 实现边缘拦截。根据业务特性与流量模型选择最合适的架构方案。

参考资料#