Claude API 限流机制详解

Claude API 有严格的限流机制，超出限制会返回 429 错误。本文全面解析 Claude 的 RPM/TPM 限制、Tier 等级体系、限流处理策略，以及如何通过中转服务突破限制。

Claude API 限流指标

Claude 使用三个维度进行限流：

• RPM（Requests Per Minute）：每分钟请求次数
• TPM（Tokens Per Minute）：每分钟 Token 处理量（输入+输出）
• TPD（Tokens Per Day）：每日 Token 处理量

Tier 等级与限流额度

Anthropic 根据账户充值和使用情况划分等级：

Tier 1（新账户）

• Claude Sonnet 4：50 RPM / 40,000 TPM
• Claude Opus 4：50 RPM / 20,000 TPM
• Claude Haiku 3.5：50 RPM / 50,000 TPM

Tier 2（充值 $40+）

• Claude Sonnet 4：1,000 RPM / 80,000 TPM
• Claude Opus 4：1,000 RPM / 40,000 TPM
• Claude Haiku 3.5：2,000 RPM / 100,000 TPM

Tier 3（充值 $200+）

• Claude Sonnet 4：2,000 RPM / 160,000 TPM
• Claude Opus 4：2,000 RPM / 80,000 TPM
• Claude Haiku 3.5：4,000 RPM / 200,000 TPM

Tier 4（充值 $400+）

• Claude Sonnet 4：4,000 RPM / 320,000 TPM
• Claude Opus 4：4,000 RPM / 160,000 TPM
• Claude Haiku 3.5：4,000 RPM / 400,000 TPM

限流响应头

API 响应中包含限流相关的头部信息：

anthropic-ratelimit-requests-limit: 1000
anthropic-ratelimit-requests-remaining: 999
anthropic-ratelimit-requests-reset: 2025-05-21T10:00:00Z
anthropic-ratelimit-tokens-limit: 80000
anthropic-ratelimit-tokens-remaining: 75000
anthropic-ratelimit-tokens-reset: 2025-05-21T10:00:00Z

处理 429 限流错误

Python 指数退避重试

import anthropic
import time

client = anthropic.Anthropic(
    api_key="your-api-key",
    base_url="https://claude4u.com/v1"
)

def call_with_retry(messages, max_retries=5):
    for attempt in range(max_retries):
        try:
            return client.messages.create(
                model="claude-sonnet-4-20250514",
                max_tokens=1024,
                messages=messages
            )
        except anthropic.RateLimitError as e:
            if attempt == max_retries - 1:
                raise
            # 从响应头获取重置时间，或使用指数退避
            wait_time = min(2 ** attempt * 5, 60)
            print(f"限流，等待 {wait_time} 秒后重试...")
            time.sleep(wait_time)
        except anthropic.InternalServerError:
            time.sleep(5)
            continue

Node.js 自动重试

import Anthropic from '@anthropic-ai/sdk';

const client = new Anthropic({
  apiKey: 'your-api-key',
  baseURL: 'https://claude4u.com/v1'
});

// SDK 内置自动重试（默认 2 次）
const response = await client.messages.create(
  {
    model: 'claude-sonnet-4-20250514',
    max_tokens: 1024,
    messages: [{ role: 'user', content: 'Hello' }]
  },
  { maxRetries: 5 }  // 设置最大重试次数
);

使用中转服务突破限流

单个 API Key 的限流额度有限，中转服务通过多账户池化实现限流突破：

• 多账户聚合：中转站后台管理数十个账户，总 RPM 可达数万
• 智能调度：自动将请求分配到可用账户，避免触发单账户限流
• 自动排队：所有账户都繁忙时自动排队等待，不会直接返回 429
• 过载隔离：自动标记被限流的账户，临时排除，不影响其他请求

限流优化策略

1. 批量处理：使用 Batch API 处理非实时任务，不占用实时配额
2. 请求合并：将多个短问题合并为一次请求，减少 RPM 消耗
3. 选择合适模型：简单任务用 Haiku（限额更高），复杂任务用 Sonnet/Opus
4. 缓存响应：对相同问题缓存 AI 回复，避免重复请求
5. 监控用量：持续关注剩余配额，提前预警