課程收官
總結（下）· 實戰 + 成本
課程總結下半頁（2 / 2）：模組三「AI 能幹什麼、多少錢」建立自動化與成本意識，模組四「安全合規與紅綫意識」知道產品該在何處設防。
模組三
模組三 · AI 能幹什麼 · 多少錢
自動化與成本意識
Agent 概念
能規劃、能用工具、能自主行動
Agent = Plan + Tool + Memory + Act。不只是聊天，可以調接口、寫文件、循環執行。但也會失敗、打轉，需要腳手架兜底。
成本意識
多輪對話是指數增長的
每輪都把完整歷史帶進去 → Token 越累越多，費用越來越貴。10 輪對話的成本可能是第 1 輪的 5-10 倍，必須主動設計壓縮策略。
成本優化
五層框架，綜合降低 70-90%
模型路由（簡單任務用輕量模型）→ 語法層（精簡格式）→ 語義層（壓縮內容）→ 輸出層（約束輸出）→ KV Cache（固定前綴）。
常見誤區：以為 AI 成本是固定的。實際上產品設計決策決定了成本高低
模組四
模組四 · 安全合規與紅綫意識
產品該在何處設防
Prompt 注入
用戶輸入可以覆蓋你的系統指令
模型看到的是一整條 Message，無法區分系統指令和用戶輸入。惡意用戶可以用精心構造的輸入，讓模型做你不想讓它做的事。
三層防禦
輸入層 → 提示詞層 → 輸出層
輸入層過濾關鍵詞和異常結構；提示詞層加角色鎖定和約束聲明；輸出層檢測是否洩露了系統 Prompt。三層都要，缺一層就有漏洞。
產品紅綫
不能靠「寫了禁止」就算安全
合規邊界、品牌風險、競品信息：Prompt 裏寫「不許説」只是第一道防綫，隨時可以被繞過。必須在產品層加技術攔截。
你已經掌握的能力
理解 LLM 原理
識別並緩解幻覺
會寫 Prompt
看懂 Agent 架構
建立成本意識
掌握安全紅綫
課程全部完結 · 恭喜完成產品經理的第一節 AI 課