上下文管理

壓縮是一門取捨的藝術

上下文太長了怎麼辦?全刪或全留都不對:有的能刪(舊工具輸出)、有的不能刪(使用者原話)、有的要花錢壓(全量摘要)。產品經理需要一個決策框架。

上下文壓縮模擬器

一段 8 輪對話,試試不同的壓縮策略

決策框架
可以刪
舊的工具呼叫結果
已處理完的中間步驟
重複的確認訊息
可以壓縮
AI 的長篇回覆
多輪討論的結論
搜尋/查詢的詳細結果
不能動
使用者的原始訊息
System Prompt
關鍵的偏好設定
壓縮不是全刪或全留,是在資訊價值和 token 成本之間找平衡。好的壓縮策略像一個有經驗的編輯:知道什麼是廢話可以砍,什麼是使用者的原話必須留。