篇章彙總
彙總（下）· 緩解策略 + 決策框架
大模型原理 · 總結回顧 · 下半頁：如何緩解幻覺，以及 AI PM 該有的決策框架。
三 · 四種緩解策略
四種緩解策略
按場景選擇，組合使用最佳
首選方案
Prompt Engineering
角色 + 約束 + 示例 + CoT。成本最低，優先使用。
侷限：無法注入模型不知道的新知識。
侷限：無法注入模型不知道的新知識。
私有知識/即時資料
RAG 檢索增強
分塊→Embedding→向量檢索→注入Prompt。不是"讓模型學"，是"臨時給小抄"。
代價：延遲 + 檢索品質 + 維護成本。
代價：延遲 + 檢索品質 + 維護成本。
調整輸出多樣性
Temperature / Top-P
T=0 每次一樣，T=1 正常取樣，T>1 更隨機。
誤區：不是越高越聰明，越低越蠢。控制隨機性，不是智慧。
誤區：不是越高越聰明，越低越蠢。控制隨機性，不是智慧。
高風險/強合規場景
HITL 人工審核
AI 生成 → 人工審核 → 使用者可見。冷啟動期必備兜底。
代價：人力成本 + 響應延遲。
代價：人力成本 + 響應延遲。
四 · AI PM 認知框架
AI PM 認知框架
帶走這些判斷，做更好的產品決策
❌"調高 Temperature 就更聰明"
→只是更隨機，不是更智慧
❌"RAG = 讓模型學習文件"
→只是執行時臨時注入上下文
❌"模型在呼叫 API"
→模型只是輸出了格式化文字
❌"重新訓練就能修復錯誤"
→Prompt 先試，成本低 100 倍
Prompt 夠用
知識在訓練資料裡，格式 / 風格 / 語氣問題
需要 RAG
私有知識庫、即時資料、知識截止日期後的內容
需要微調
固定專業領域風格、推理典範需要改變
需要 HITL
高風險輸出、品牌聲譽、醫療/法律合規要求
帶走這句話
大模型本質是超大型機率預測機器。理解它的侷限，才能正確發揮它的優勢。