提示詞上下文視窗

📚 深度解析：提示詞上下文視窗

💡 常見使用場景

• 上下文佔用=累計 token 數 / 模型上下文視窗長度(如 8k/32k/128k)。
• 多輪對話需扣除歷史 token，超出視窗須裁剪或摘要壓縮，否則被截斷。
• 佔用比越高越易觸發截斷與成本上升，長對話應定期清理低價值歷史。

❓ 常見問題（FAQ）

為什麼超出視窗會被截斷？

模型注意力只能覆蓋固定長度上下文，超出的字首會被丟棄(或報錯)。裁剪應保留最近對話與關鍵事實，避免丟失約束指令。

壓縮歷史會丟資訊嗎？

會。摘要壓縮以語義概括替代原文，可能損失細節；權衡做法是保留最近 N 輪原文、更早的做摘要，關鍵引數始終置頂。