Rate Limit

Claude API Rate-Limit Storm Playbook: Adaptive Concurrency, Jittered Backoff, and Quota Isolation

When Claude API starts returning 429 under high load, most systems don’t just slow down—they collapse: queue buildup, retry storms, upstream timeout chains, and pager noise. ...

Claude API 高并发限流雪崩应对：自适应并发、退避抖动与配额隔离

当 Claude API 在高并发下开始返回 429，很多系统不是“慢一点”，而是直接雪崩：队列堆积、重试风暴、上游超时、下游告警连锁。 ...

OpenAI Responses 在 Go 多租户中的配额治理：令牌桶限流、预算熔断与账单归因

多租户 AI 服务最容易死在两件事：一个租户打爆全局配额，以及月底账单炸了才发现。这篇给你一套可直接落地的 Go 方案：令牌桶限流 + 预算熔断 + 账单归因，目标是“先活下来，再精细化”。 ...