長期記憶
上下文 ≠ 記憶
上下文視窗像白板:寫滿了就擦掉,對話結束就清空。長期記憶像筆記本:寫下的東西,下次開啟還在。AI 產品需要兩套系統。
白板 vs 筆記本
白板(上下文視窗)
對話過程中的臨時工作區。寫滿了就寫不下了,對話結束就擦乾淨。
對話結束,白板已擦除
筆記本(長期記憶)
跨會話保留的持久儲存。這次寫下的,下次開啟還在。可以翻頁、可以搜尋。
第 1 頁
為什麼需要兩套系統
上下文視窗
隨時可用
讀寫極快
容量有限
對話結束即消失
讀寫極快
容量有限
對話結束即消失
≠
長期記憶
跨會話保留
容量大(可擴充)
需要寫入決策
檢索需要額外步驟
容量大(可擴充)
需要寫入決策
檢索需要額外步驟
類比:上下文視窗就像開會時的白板,大家討論時隨手寫寫畫畫,會議結束就擦了。長期記憶就像會議紀要:有人負責整理關鍵結論,寫進文件裡,下次開會時翻出來參考。
上下文是 AI 的草稿紙,關掉就沒了;記憶是 AI 的筆記本,下次還能翻。一個好的 AI 產品需要兩套系統協作:上下文負責當場記住,記憶負責長遠記住。