長期記憶
上下文 ≠ 記憶
上下文窗口像白板:寫滿了就擦掉,對話結束就清空。長期記憶像筆記本:寫下的東西,下次打開還在。AI 產品需要兩套系統。
白板 vs 筆記本
白板(上下文窗口)
對話過程中的臨時工作區。寫滿了就寫不下了,對話結束就擦乾淨。
對話結束,白板已擦除
筆記本(長期記憶)
跨會話保留的持久存儲。這次寫下的,下次打開還在。可以翻頁、可以搜索。
第 1 頁
點解需要兩套系統
上下文窗口
隨時可用
讀寫極快
容量有限
對話結束即消失
讀寫極快
容量有限
對話結束即消失
≠
長期記憶
跨會話保留
容量大(可擴展)
需要寫入決策
檢索需要額外步驟
容量大(可擴展)
需要寫入決策
檢索需要額外步驟
類比:上下文窗口就像開會時的白板,大家討論時隨手寫寫畫畫,會議結束就擦了。長期記憶就像會議紀要:有人負責整理關鍵結論,寫進文檔裏,下次開會時翻出來參考。
上下文是 AI 的草稿紙,關掉就沒了;記憶是 AI 的筆記本,下次還能翻。一個好的 AI 產品需要兩套系統協作:上下文負責當場記住,記憶負責長遠記住。