上下文窗口占用

← ToolBox / 上下文窗口占用
📖 查看「上下文窗口占用使用指南」

📚 Context Window Usage Calculator

Count the tokens in your prompt and expected completion and see how much of the model context window they consume.

📐 计算公式 / 原理
占用率 = (系统提示 + 用户输入 + 预期回复) / 上下文窗口 × 100%；剩余 = 窗口 − 已用
规划对话时把预期回复长度一并计入，避免生成到一半撞上窗口上限被截断。长窗口模型虽标称很大，但注意力成本随长度平方增长，且中段内容容易被忽略（lost-in-the-middle），并非越长越好。

📐 计算公式与说明

上下文占用构成与超限判定（与占用率式互补）：已用=系统提示+用户输入+回复预留（token）；仪表盘与占比仅在窗口上限>0 时绘制，分母为 0 显示 ⚠ 提示。校验：无强校验，空值按 0 兜底。判据：超限判定 已用>窗口上限 → 已超限（YES），否则未超（no）；占用越低，留给长输出与多轮对话的余量越大。

超出上限需截断或摘要历史。

📚 深度解析：上下文窗口占用

💡 常见使用场景

占用预警
窗口 8k，提示 6k + 预计生成 2k = 8k 恰好满；若实际生成超 2k 即溢出。建议提示控制在 5k 以内留 3k 给生成。

❓ 常见问题（FAQ）

为什么显示占用满了却还能聊？
部分实现会滚动丢弃最早历史以维持窗口，表现为'能继续但忘了开头'；严格实现则直接报错。占用比应预留生成余量。
不同模型 token 数一样吗？
不同。同一段中文在 GPT/Claude/国产模型下 token 数差异明显，估算仅供参考，精确值需对应分词器计数。

Formula & Standard References

Item Formula / Note Source / Standard
Hard limit prompt plus completion tokens are bounded by the context window Model documentation
Cost billing charges input and output tokens separately Model documentation
Trimming strategy keep system prompts and recent turns, summarise older ones Prompt engineering practice

🔗 相关工具

🤖 Dropout 保留期望Dropout 期望输出计算器，输入保留概率求 dropout 后的期望输出与推理期缩放因子，辅助… 🔍 L1 L2 正则化惩罚L1/L2 正则化惩罚计算器，输入权重与正则系数求对损失函数的惩罚项，对比 Lasso 与 Rid… 🤖 RAG 召回率RAG 召回率计算器，输入相关文档数与检索命中数求召回率，评估检索增强生成的检索覆盖质量。 🤖 ROC AUC 近似输入正负样本预测得分，估算 ROC 曲线下面积 AUC，评估分类器排序能力，适用于模型选型、阈值无… 🤖 ReLU 与 LeakyReLUR ReLU 与 LeakyReLU 🤖 Sigmoid 输出S Sigmoid 输出

🔗 相关工具

🤖 Dropout 保留期望Dropout 期望输出计算器，输入保留概率求 dropout 后的期望输出与推理期缩放因子，辅助神 🔍 L1 L2 正则化惩罚L1/L2 正则化惩罚计算器，输入权重与正则系数求对损失函数的惩罚项，对比 Lasso 与 Ridg 🤖 RAG 召回率RAG 召回率计算器，输入相关文档数与检索命中数求召回率，评估检索增强生成的检索覆盖质量。 🤖 ROC AUC 近似输入正负样本预测得分，估算 ROC 曲线下面积 AUC，评估分类器排序能力，适用于模型选型、阈值无关 🤖 ReLU 与 LeakyReLUR ReLU 与 LeakyReLU