上下文管理

用戶講嘅話可唔可以刪?

AI 的輸出可以摘要、工具結果可以截斷,但用戶的原話刪了就回不來了。而且用戶一定會發現:「我明明講咗 xxx,你點解唔記得?」

對比:兩種壓縮方式的後果
方案 A:刪了用戶的消息
方案 B:只壓縮 AI 的輸出
用戶的話是聖物
用戶消息 = 聖物
用戶輸入的每一句話都承載着需求、偏好和上下文。一旦刪除,AI 不僅丟失了信息,更丟失了用戶的信任:「連我講過嘅話都唔記得住,呢個 AI 有咩用?」
壓縮優先級
1
優先刪:工具/函式調用的原始輸出
搜索結果、API 返回的 JSON,處理完就沒用了
直接刪
2
其次壓:AI 的長篇回覆
AI 自己説的話可以用摘要替代,核心結論保留即可
摘要壓縮
3
絕不動:用戶的原始消息
用戶説了什麼、要了什麼、偏好是什麼,這些都是聖物
不可刪
用戶的話是聖物:寧可刪 AI 自己説的 1000 字,也別動用戶説的 10 個字。壓縮的優先級從高到低:工具輸出 > AI 回覆 > 用戶消息(永不觸碰)。