課程收官
課程總結 · 產品經理的第一節 AI 課
今天學了什麼？帶走這四件事：大模型基礎、Prompt 工程、Agent 與成本、安全合規。
四大模組回顧
模組一 · 大模型是怎麼來的
建立認知直覺
核心概念
對話不是學習
訓練階段結束後參數就凍結了。你每次對話，模型不會記住，也不會變聰明。按 Token 計費，不按問題條數。
核心概念
幻覺是結構性問題
模型做的是預測下一個 Token，不是查真實資料庫。知識截止、自信編造、事實混淆，這三類幻覺無法根除，只能緩解。
緩解方案
RAG：把真實文件注入上下文
每次對話時把相關文件塞進 Prompt，讓它看著資料回答。模型並沒有學會新知識。
常見誤區：以為 AI 每次對話都在學習進步
模組二 · Prompt 怎麼寫才管用
讓 AI 按你要的輸出
System Prompt
你說什麼，它就變什麼
System Prompt 定義角色、語氣、約束。同一個模型，Prompt 不同，輸出天差地別。這是產品差異化的核心。
Few-Shot
給例子比講道理管用
與其解釋要怎麼做，不如直接給 2-3 個示例。模型會從例子中推斷你想要的格式和風格。
CoT 思維鏈
讓模型先想再答
複雜任務加上「請一步步分析」，準確率顯著提升。逼模型把推理過程寫出來，再給答案。
常見誤區：Prompt 越短越好。實際上描述越清晰輸出越穩定
模組三 · AI 能做什麼 · 多少錢
自動化與成本意識
Agent
能規劃、能用工具、能行動
Agent = Plan + Tool + Memory + Act。它不只是聊天，可以調介面、寫檔案、迴圈執行。但也會失敗、打轉、需要腳手架兜底。
成本
多輪對話是指數增長的
每輪都把完整歷史帶進去 → Token 越累越多，費用越來越貴。10 輪對話的成本可能是第 1 輪的 5-10 倍。
優化
五層成本優化框架
模型路由 → 語法層 → 語義層 → 輸出層 → KV Cache。綜合使用可降低 70-90% 成本，不是玄學，是工程設計。
常見誤區：以為 AI 成本是固定的。實際上設計決策決定成本
模組四 · 安全合規與紅線意識
產品該在哪裡設防
Prompt 注入
使用者輸入可以覆蓋你的指令
模型看到的是一整條 Message，無法區分你寫的 System Prompt 和使用者輸入的內容。惡意使用者可以用這個漏洞改變模型行為。
防禦三層
輸入層 → 提示詞層 → 輸出層
輸入層過濾關鍵詞；提示詞層加約束宣告；輸出層檢測洩漏內容。三層都要，缺一層就有漏洞。
產品紅線
不能讓 AI 說的，就設防
合規邊界、品牌風險、競品資訊：這些不是靠模型自覺的，必須在產品層用技術手段攔截，不能只靠 Prompt 約束。
常見誤區：以為 Prompt 裡寫了「不許說」就安全了
你已經掌握的能力