Agent 工程
短期記憶 = 上下文窗口
上下文窗口就是模型的工作台:模型能看到的一切,都必須放在這張桌子上。向下滾動,觀察工作台如何被填滿。
上下文窗口使用率
0% 0 / 131,072 Token
⚠️ 即將觸發壓縮策略
模型的工作台(上下文窗口 = 128K Token)
共 10 步 · 觀察工作台如何被填滿
Takeaway
Takeaway 上下文窗口是模型的唯一工作記憶。128K Token 看似很大,但每輪對話都要重發全部歷史消息。10 輪深度對話 + 一份長文檔,就可能把窗口撐滿。管理上下文,就是管理產品的記憶壽命。