上下文管理

使用者說的話能不能刪?

AI 的輸出可以摘要、工具結果可以截斷,但使用者的原話刪了就回不來了。而且使用者一定會發現:「我明明說了 xxx,你怎麼忘了?」

對比:兩種壓縮方式的後果
方案 A:刪了使用者的訊息
方案 B:只壓縮 AI 的輸出
使用者的話是聖物
使用者訊息 = 聖物
使用者輸入的每一句話都承載著需求、偏好和上下文。一旦刪除,AI 不僅丟失了資訊,更丟失了使用者的信任:「連我說的話都記不住,這 AI 有什麼用?」
壓縮優先順序
1
優先刪:工具/函式呼叫的原始輸出
搜尋結果、API 返回的 JSON,處理完就沒用了
直接刪
2
其次壓:AI 的長篇回覆
AI 自己說的話可以用摘要替代,核心結論保留即可
摘要壓縮
3
絕不動:使用者的原始訊息
使用者說了什麼、要了什麼、偏好是什麼,這些都是聖物
不可刪
使用者的話是聖物:寧可刪 AI 自己說的 1000 字,也別動使用者說的 10 個字。壓縮的優先順序從高到低:工具輸出 > AI 回覆 > 使用者訊息(永不觸碰)。