限流与并发
平台通过多级限制保障公平与稳定。触达限制时返回 429 rate_limit_exceeded。
限制类型
| 类型 | 说明 |
|---|---|
| 速率（RPM） | 每分钟请求数上限 |
| 吞吐（TPM） | 每分钟 Token 数上限 |
| 并发 | 同时进行中的请求数上限 |
| 额度 | Key 的月度消费上限（可选配置） |
触发限流
- 返回
429 rate_limit_exceeded，响应头retry-after指示建议等待时长。 - 未计费：限流请求不产生扣费。
额度预授权
为避免超花，平台会在请求前按预估用量保守预留额度，请求结束后按实际用量结算并释放差额。预留不计入最终余额，最终以实际用量为准。
建议
- 客户端实现指数退避 +
retry-after尊重。 - 高并发场景可联系支持提升限额。