Claude 上下文窗口详解

Claude 拥有 200K Token 的超大上下文窗口，相当于约 15 万字的文本容量。理解上下文窗口的工作原理和管理策略，可以帮助你更高效地使用 Claude 处理长文档和复杂项目。

什么是上下文窗口？

上下文窗口是模型单次对话中能"记住"的最大信息量，包括：

• System Prompt：系统提示词
• 对话历史：所有之前的 User 和 Assistant 消息
• 当前输入：本次请求的用户消息
• 模型输出：Claude 的回复也占用上下文空间

所有这些内容的 Token 总和不能超过上下文窗口大小。

各模型上下文窗口

长文档处理策略

1. 直接输入（推荐，文档小于 150K Token）

如果文档在上下文窗口范围内，最简单的方式是直接发送全文：

with open("long_document.txt", "r") as f:
    document = f.read()

response = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=4096,
    messages=[{
        "role": "user",
        "content": f"请总结以下文档的核心内容：\n\n{document}"
    }]
)

2. 分块处理（文档超过 150K Token）

对于超长文档，需要分块处理：

def split_document(text, chunk_size=50000, overlap=2000):
    """将文档分割为有重叠的块"""
    chunks = []
    start = 0
    while start < len(text):
        end = start + chunk_size
        chunks.append(text[start:end])
        start = end - overlap  # 重叠区域保持连贯性
    return chunks

# 分块总结，然后合并
chunks = split_document(long_document)
summaries = []
for i, chunk in enumerate(chunks):
    response = client.messages.create(
        model="claude-sonnet-4-20250514",
        max_tokens=1024,
        messages=[{
            "role": "user",
            "content": f"这是文档的第 {i+1}/{len(chunks)} 部分，请总结要点：\n\n{chunk}"
        }]
    )
    summaries.append(response.content[0].text)

# 最终合并总结
final = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=2048,
    messages=[{
        "role": "user",
        "content": f"以下是文档各部分的总结，请整合为完整的总结：\n\n{'\\n---\\n'.join(summaries)}"
    }]
)

3. 使用 Prompt Caching 处理重复查询

如果你需要对同一篇长文档提出多个问题，使用 Prompt Caching 可以避免重复传输文档内容：

system_with_doc = [{
    "type": "text",
    "text": f"你是一个文档分析助手。以下是需要分析的文档：\n\n{document}",
    "cache_control": {"type": "ephemeral"}
}]

# 第一次查询（建立缓存）
q1 = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=1024,
    system=system_with_doc,
    messages=[{"role": "user", "content": "这篇文档讨论了哪些主题？"}]
)

# 后续查询（命中缓存，输入成本降低 90%）
q2 = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=1024,
    system=system_with_doc,
    messages=[{"role": "user", "content": "文档中有哪些数据支撑？"}]
)

上下文管理策略

多轮对话中的上下文膨胀

每轮对话的历史都会累积在上下文中，导致 Token 消耗越来越大：

第 1 轮：500 Token（输入） + 300 Token（输出）= 800 Token
第 5 轮：3,000 Token（累积历史） + 500 Token = 3,500 Token
第 20 轮：15,000 Token（累积历史） + 500 Token = 15,500 Token

管理策略

1. 滑动窗口：只保留最近 N 轮对话，丢弃更早的消息

   # 只保留最近 10 轮对话
   messages = messages[-20:]  # 10 轮 × 2（user + assistant）

2. 摘要压缩：定期让 Claude 总结之前的对话，用摘要替代完整历史
3. 按需加载：不要一次性发送所有文件，只在需要时引用相关内容
4. Claude Code 中使用 /compact：自动压缩上下文，保持关键信息

Token 计数工具

在发送请求前，可以先检查 Token 数量，避免超出窗口限制：

# 使用 Anthropic 的 Token 计数 API
count = client.messages.count_tokens(
    model="claude-sonnet-4-20250514",
    messages=[{"role": "user", "content": long_text}]
)
print(f"Token 数量：{count.input_tokens}")