Agent 工程

短期記憶 = 上下文視窗

上下文視窗就是模型的工作臺:模型能看到的一切,都必須放在這張桌子上。向下滾動,觀察工作臺如何被填滿。

上下文視窗使用率 0%  0 / 131,072 Token
⚠️ 即將觸發壓縮策略
🖥 模型的工作臺(上下文視窗 = 128K Token)
共 10 步 · 觀察工作臺如何被填滿 
Takeaway
Takeaway 上下文視窗是模型的唯一工作記憶。128K Token 看似很大,但每輪對話都要重發全部歷史訊息。10 輪深度對話 + 一份長文件,就可能把視窗撐滿。管理上下文,就是管理產品的記憶壽命。