API速率限制与配额规范书.docVIP

API速率限制与配额规范书

一、速率限制与配额的核心定义

（一）速率限制的基本概念

速率限制是API服务端对客户端在单位时间内发起请求数量的硬性约束，其本质是一种流量管控机制。通过设定固定时间窗口内的请求阈值，服务端能够避免单一或多个客户端的高频请求导致系统资源耗尽，保障API服务的稳定性和可用性。例如，某电商平台的商品查询API设定为“每秒最多接受100次请求”，当客户端在1秒内发起第101次请求时，服务端将直接返回429（TooManyRequests）状态码，拒绝该次请求。

速率限制的时间窗口通常有两种常见模式：固定窗口和滑动窗口。固定窗口以自然时间为边界，如每分钟、每小时，统计窗口内的请求总数；滑动窗口则以请求发起时间为基准，向前追溯固定时长的请求记录，这种模式能有效避免固定窗口下“窗口切换瞬间突发大量请求”的问题。比如，固定窗口设定为每分钟100次请求，客户端可能在第59秒发起100次请求，又在第61秒发起100次请求，短时间内实际请求量远超限制；而滑动窗口会统计过去60秒内的所有请求，无论时间点如何分布，总请求量都不会超过阈值。

（二）配额的核心内涵

配额是指在一个较长周期内（如每天、每月），API服务端分配给单个客户端的请求总量上限。与速率限制的“短期流量管控”不同，配额更侧重于“长期资源分配”，旨在确保API资源在不同客户端之间的公平分配，防止个别客户端过度占用