API限流:核心算法与工程实现
深入解析令牌桶、漏桶、滑动窗口等常见限流算法,并在Node.js与Cloudflare Workers中提供生产级工程实现。
限流(Rate Limiting)是高并发系统与微服务架构中保护API的核心防线,能够防止接口滥用、暴力破解以及突发流量洪峰。本文将通俗拆解常见的限流算法,并演示在Node.js与Cloudflare Workers中的生产级工程实现。
为什么需要限流?#
限流机制如同服务入口处的安保人员,主要解决以下几类关键问题:
- 防范DDoS与暴力破解攻击:在用户登录、找回密码或验证码接口前设置严格限流,有效阻断撞库扫描。
- 保障多租户公平使用(Fair Usage):防止个别突发或恶意的客户端(Noisy Neighbor)耗尽全部网络带宽与计算资源,拖垮其他正常用户。
- 保护下游服务免遭级联击垮:遭遇突发流量洪峰时,保护后端的数据库、消息队列与微服务集群免于超负荷瘫痪。
- 控制第三方服务调用成本:对于接入OpenAI、Anthropic等按量计费的AI大模型接口,限流是防止账单爆炸的关键手段。
核心算法解析#
1. 固定窗口计数器(Fixed Window Counter)#
最简单直接的思路:将时间划分为固定大小的窗口(如1分钟),统计窗口内的请求次数。
class FixedWindowRateLimiter {
private windows = new Map<string, { count: number; resetAt: number }>();
constructor(
private windowMs: number,
private maxRequests: number,
) {}
check(key: string): boolean {
const now = Date.now();
let window = this.windows.get(key);
if (!window || now > window.resetAt) {
window = { count: 0, resetAt: now + this.windowMs };
this.windows.set(key, window);
}
window.count++;
return window.count <= this.maxRequests;
}
}
const limiter = new FixedWindowRateLimiter(60_000, 10);
// 限制每分钟最多 10 次请求typescript[!WARNING] 临界突变问题(Boundary Burst):若用户在
0:59发送10次请求,紧接着在1:00又发送10次请求,在短短2秒内实际通过了20次请求,瞬间承受2倍于设计预期的并发压力。
2. 滑动窗口日志(Sliding Window Log)#
记录每个请求到达的精确时间戳。每次请求到来时,剔除超出滑动时间窗口的历史记录,并统计剩余日志条数。
class SlidingWindowLog {
private logs = new Map<string, number[]>();
constructor(
private windowMs: number,
private maxRequests: number,
) {}
check(key: string): boolean {
const now = Date.now();
let log = this.logs.get(key) || [];
const windowStart = now - this.windowMs;
// 清理窗口外的过期时间戳
log = log.filter(t => t > windowStart);
this.logs.set(key, log);
if (log.length >= this.maxRequests) {
return false;
}
log.push(now);
return true;
}
}typescript[!NOTE] 计算精度极高且不存在临界突发缺陷,但由于需要存储每次请求的时间戳,在高并发场景下内存消耗随请求量线性上升。
3. 滑动窗口计数器(基于Redis有序集合)#
结合固定窗口的低内存开销与滑动日志的高精度,利用Redis的Sorted Set(ZSET)实现:
import { createClient } from 'redis';
const redis = createClient();
async function checkRateLimit(
key: string,
limit: number,
windowSec: number,
): Promise<{ allowed: boolean; remaining: number; resetAt: number }> {
const now = Date.now();
const windowStart = now - windowSec * 1000;
// 开启原子管道事务
const multi = redis.multi();
multi.zRemRangeByScore(key, 0, windowStart); // 移除窗口外的旧数据
multi.zAdd(key, { score: now, value: `${now}` });
multi.zCard(key); // 获取当前滑动窗口内的请求总数
multi.expire(key, windowSec);
const [, , count] = await multi.exec();
const requestCount = count as number;
return {
allowed: requestCount <= limit,
remaining: Math.max(0, limit - requestCount),
resetAt: Math.ceil((windowStart + windowSec * 1000) / 1000),
};
}typescript4. 令牌桶算法(Token Bucket)#
想象一个容量为 的水桶,系统以恒定速率 (个/秒)向桶内放入令牌。每个请求进入系统时必须消耗1个令牌。桶满时新放入的令牌会溢出丢弃;若桶内无令牌可用,请求将被拒绝。
class TokenBucket {
private buckets = new Map<string, { tokens: number; lastRefill: number }>();
constructor(
private capacity: number, // 桶的最大容量
private refillRate: number, // 每秒生成的令牌速率
) {}
private refill(key: string) {
const bucket = this.buckets.get(key);
if (!bucket) return;
const now = Date.now();
const elapsed = (now - bucket.lastRefill) / 1000;
const newTokens = elapsed * this.refillRate;
bucket.tokens = Math.min(this.capacity, bucket.tokens + newTokens);
bucket.lastRefill = now;
}
tryConsume(key: string): boolean {
if (!this.buckets.has(key)) {
this.buckets.set(key, { tokens: this.capacity, lastRefill: Date.now() });
}
this.refill(key);
const bucket = this.buckets.get(key)!;
if (bucket.tokens >= 1) {
bucket.tokens -= 1;
return true;
}
return false;
}
}typescript[!TIP] 最大优势:允许桶内已蓄积的瞬时突发流量(Burst)快速通过,同时在长期维度严格约束平均速率。该算法被AWS与Stripe等平台广泛作为行业标配。
5. 漏桶算法(Leaky Bucket)#
漏桶如同一只底部钻孔的水桶。无论水流(突发请求)多快涌入桶内,出水口(业务处理队列)始终以恒定的速率滴漏出水。如果进水速度过快超出水桶总容量,溢出的水直接被丢弃。
非常适合用于流量整形(Traffic Shaping)与后台异步处理任务的平滑消费。
工程落地 — Express 中间件实战#
在真实的Web应用中,不同接口需要依据重要性与场景设置差异化策略:
import rateLimit from 'express-rate-limit';
import RedisStore from 'rate-limit-redis';
import { createClient } from 'redis';
const redis = createClient();
// 全局限流器 — 提供全局基础防线
const globalLimiter = rateLimit({
windowMs: 60_000,
max: 100,
standardHeaders: true,
legacyHeaders: false,
message: { error: 'Too many requests' },
});
// 认证接口限流器 — 针对暴力破解的高频拦截
const authLimiter = rateLimit({
windowMs: 15 * 60_000,
max: 5,
skipSuccessfulRequests: false,
keyGenerator: (req) => req.ip,
handler: (req, res) => {
res.status(429).json({
error: 'Too many login attempts. Try again later.',
retryAfter: Math.ceil(req.rateLimit.resetTime / 1000),
});
},
});
// API Key 限流器 — 分布式 Redis 存储 + 阶梯配额
const apiLimiter = rateLimit({
store: new RedisStore({
sendCommand: (...args: string[]) => redis.sendCommand(args),
}),
windowMs: 60_000,
max: (req) => {
// 依据用户订阅等级分配额度
const tier = req.headers['x-api-tier'] || 'free';
const limits = { free: 10, pro: 100, enterprise: 1000 };
return limits[tier as keyof typeof limits] || 10;
},
keyGenerator: (req) => req.headers['x-api-key'] as string,
});
app.use('/api/', globalLimiter);
app.use('/api/auth/login', authLimiter);
app.use('/api/v2', apiLimiter);typescriptHTTP 响应头规范#
向客户端响应标准限流元数据头,使客户端能够基于 Retry-After 采用指数退避重试策略:
X-RateLimit-Limit: 100
X-RateLimit-Remaining: 45
X-RateLimit-Reset: 1718845200
Retry-After: 45httpCloudflare 边缘限流#
将限流策略前置在CDN网络边缘(Edge),能在恶意流量触达源站服务器之前直接将其拦截。
通过 Wrangler CLI 或控制台创建限流规则:
# Wrangler 命令行配置
wrangler ratelimit create my-limit --limit 100 --period 60bashCloudflare Workers 绑定调用实现:
export default {
async fetch(request: Request, env: Env): Promise<Response> {
const key = request.headers.get('CF-Connecting-IP') || 'unknown';
const { success } = await env.myRateLimiter.limit({ key });
if (!success) {
return new Response('Too Many Requests', { status: 429 });
}
return new Response('OK');
},
};typescript分布式系统限流#
在多台应用服务器集群部署时,单机内存计数器会导致限流被绕过。利用集中式 Redis 维护全局计数:
使用原子性 Redis Lua 脚本杜绝并发竞态条件(Race Condition):
-- rate_limit.lua
local key = KEYS[1]
local limit = tonumber(ARGV[1])
local window = tonumber(ARGV[2])
local now = tonumber(ARGV[3])
redis.call('ZREMRANGEBYSCORE', key, 0, now - window)
local count = redis.call('ZCARD', key)
if count >= limit then
return 0
end
redis.call('ZADD', key, now, now)
redis.call('EXPIRE', key, window)
return limit - count - 1lua生产最佳实践#
- 始终返回规范响应头:帮助良好的客户端遵循规范进行退避与调度,减少无效请求。
- 细粒度端点策略:对公开读接口保持宽松,对认证接口、资源密集型查询及写入接口严格限制。
- 复合限流标识(Key):组合使用 IP、API Key 以及用户ID(
IP + apiKey + userId),避免恶意脚本通过代理轮换IP绕过限制。 - 分布式存储选型:多节点部署务必引入 Redis 配合原子 Lua 脚本。
- 优雅降级(Fail-Open):若限流中间件或 Redis 出现网络故障,设计机制优先保障正常流量通过,避免整个系统雪崩。
- 告警与审计日志:持续监控429触发频率,分析攻击行为特征,并反向调整合理的阈值规则。
总结#
限流不仅是网络安全的第一道防线,更是高可用系统的核心治理手段。简单场景可用固定窗口,高精度要求可选用滑动窗口,突发流量包容优先推荐令牌桶。在多节点集群中结合 Redis 原子脚本,在全球分布式场景中借助 Cloudflare Workers 实现边缘拦截。根据业务特性与流量模型选择最合适的架构方案。