AI 產品經理課程完整目錄 · 大模型原理與 AI Harness | xueai.miyang.cn

完整課程

學 AI 產品
從入門到精通

兩大篇章：從大模型底層原理到 AI Harness，幫 AI 產品經理建立完整認知與實戰能力體系。

大模型原理 · 大模型基礎

1

Token 與訓練原理

2

GPT 躍進 · 從補全到對話

3

幻覺成因與 4 種緩解方案

Harness 核心 · AI Harness

上下文 + Prompt 工程 →

Agent 設計與安全防禦 →

成本最佳化五層體系 →

講師提示

點選右側任意頁跳轉，或點選「開始講授」按順序逐頁播放。
每頁內容隨滾動自然展開，底部有「下一課」繼續。

開篇

我們在哪裡？鄧寧-克魯格效應

用鄧寧-克魯格曲線定位學員當前位置，明確課程目標：從愚昧之巔走向平穩高原

為什麼要花時間講原理？

AI 所有 Harness 操作本質都是對 message list 的處理。理解它，才能真正看懂所有方案

基礎原理

AI 的食物：訓練資料

15T Token 是什麼概念？語料構成視覺化 + 資料規模直覺滑塊

訓練 vs 推理：兩個完全不同的過程

對話不是學習，參數凍結，按 Token 計費，這些是 AI 產品必懂的底層邏輯

詞表與訓練

從語料到詞間矩陣，Token 化 + 注意力權重互動演示

Base 模型：Token 推 Token 機器

訓練結束後得到什麼？逐步生成 + 機率分佈即時更新

GPT 的躍進：PreTraining 改變一切

CNN / RNN / BERT / GPT 四種演算法可互動對比，記憶衰減視覺化

從補全到對話

chat/completions 之謎

明明是對話，為什麼 API 叫「補全」？打字機動畫解讀

偽造聊天記錄

OpenAI 最初的實驗：把補全機器變成聊天機器人

Chat Template + SFT

Jinja 格式、指令微調，大模型終於學會說話

提示詞為什麼夠用

上下文視窗是關鍵

提示詞為什麼夠用？Token 截斷視覺化，不必重新訓練

幻覺與應對方案

大模型幻覺演示

三類典型幻覺：事實錯誤 / 自信編造 / 知識截止

應對方案 1：Prompt Engineering

約束指令 + 侷限性：模型不知道自己不知道什麼

應對方案 2：RAG 檢索增強生成

真實文件注入上下文，5步互動流程動畫，對比有無 RAG 的差異

RAG 的代價與最佳化策略

成本分析表 + 關鍵詞觸發 / 模型路由 / 語義快取 / 精準切塊四種策略

應對方案 3：Temperature & Top-P

拖動滑塊，即時看機率分佈和輸出變化

應對方案 4：評測 + 人工審核（HITL）

外部糾錯層，冷啟動階段兜底策略

大模型原理篇彙總（上）· 大模型是什麼 + 幻覺

訓練本質 / Token / Base→SFT→Chat / 四種幻覺類型與根因

大模型原理篇彙總（下）· 緩解策略 + AI PM 決策框架

四種緩解策略對比 / 常見誤區清單 / 方案選擇判斷矩陣

──── Harness 核心篇：AI Harness ────

上下文工程

上下文視窗：AI 的工作記憶

視窗構成視覺化，拖動模擬溢位效果，主流模型容量對比

上下文溢位：三種處理策略

直接截斷 / 摘要壓縮 / 選擇性保留，視覺化對比每種策略的利弊

Prompt Engineering

為什麼大模型選擇 Markdown

純文字模型 + 排版需求 = MD 成為首選，逐步推演 HTML/Word/LaTeX 為何不行

Markdown 語法與渲染 Pipeline

常用語法速查 + 即時編輯器 + marked.js / react-markdown / markdown-it 渲染方案

你說什麼，它就變什麼

五種角色即時切換，輸出格式控制，System Prompt 核心原理

Prompt 進階技巧

Few-Shot / CoT / 約束條件 / 任務拆解，好壞對比互動演示

輸出格式取捨

純文字 / JSON / Markdown / YAML / XML — 場景適配度對比，Token 消耗與解析難度權衡

流式返回與格式配合

JSON 等全文才能解析 / MD 逐字顯示 / XML 捕獲標籤即渲染 — 動態演示三者差異

Prompt Injection：為什麼會被攻擊

SQL 注入類比 → Message List 本質 → 缺乏參數化 → 5 大攻擊類型概覽

Prompt Injection：12 個攻擊案例

越權指令 / 角色扮演 / Few-Shot / 結構注入 / 隱喻偽裝，每案例中招版 vs 防禦版

Prompt 防禦：TiedStory 三層攔截實戰

輸入層正則 → 提示詞層約束 → 輸出層洩漏檢測 → 前端+二次審核，可模擬攻擊全鏈路

Agent 工程

Agent：能幹活的 AI

四大能力 Plan / Tool / Memory / Act，點選查看真實案例

工具呼叫的秘密

模型輸出 JSON → 框架解析執行 → 結果注回，四步流程視覺化

一次對話背後的 5 條訊息

拆解 Function Calling 真實鏈路：使用者看到 1 條回覆，背後是 5 條 API 訊息

工具描述的學問

同樣的功能，好描述 vs 壞描述成功率差 3 倍，對比實驗

多工具編排：並發 vs 序列

isConcurrencySafe 決定工具能否並行，排程策略視覺化

MCP 協議：工具的 USB 介面

stdio / SSE / Streamable HTTP 三種傳輸方式對比，資料流動畫

ReAct 實戰：查詢天氣完整鏈路

Thought / Action / Observation 逐步演示，7 步完整 Agent 鏈路

短期記憶 = 上下文視窗

訊息列表視覺化，每條訊息的 Token 佔用和角色標記

上下文壓縮：四層防線

60% 裁剪 → 75% 微壓縮 → 85% 折疊 → 95% 緊急，拖動滑塊看壓縮過程

長期記憶：向量檢索

Embedding → 向量資料庫 → 語義搜尋，topK 與 minScore 的設計決策

ReAct 迴圈：思考→行動→觀察

一個刪除 console.log 的任務經歷 14 輪迴圈，含自我糾錯

Agent 卡死的 5 種模式

參數格式錯誤、幻覺工具、無限遞迴、資訊不足、API 異常

權限與安全

5 種權限模式 + LLM 風險分級 + Human-in-the-loop 設計

Skill：讓 Agent 少走彎路

Skill = 流程說明 + 工具呼叫指引，用「陽臺收衣服」類比好迴圈 vs 差迴圈

Skill 的本質

好迴圈 vs 差迴圈升級版，Skill 如何改變 Agent 執行路徑

解剖一個真實 Skill

從 Alice 原始碼學 SKILL.md 的結構設計

腳手架工程：Agent 從試驗品到產品

模擬 Agent 查機票訂酒店，無腳手架 vs 有腳手架完整對比，5 大能力詳解

5 道工程護欄

迭代上限、輸出截斷、超時控制、中斷恢復、上下文急救

多 Agent 協作

子 Agent 排程、Worker Thread、並行 vs 序列執行策略

事件流視覺化、Token 追蹤、OpenTelemetry 整合

Agent 工程全景圖

從四大能力到工程實作，一頁看清 Agent 的完整知識地圖

成本最佳化

多輪對話為什麼越來越貴？

Token 累積成本視覺化，拖動輪次查看費用如何指數增長

KV Cache：用空間換時間（和錢）

類比理解 + 節省效果計算器，拖動輪次查看節省比例

顯式快取：Anthropic / Qwen 實戰對比

cache_control 寫法、快取命中判斷、價格折扣對比，真實省錢效果演示

動態時間戳：最貴的 System Prompt 設計

錯誤設計 vs 正確設計，三種時間處理方案對比切換

綜合成本最佳化：從系統角度省錢

5 層最佳化策略，成本構成視覺化，節省 70-90% 的系統設計

圖片 Token：畫素也在燒錢

圖片計費公式、縮放機制、解析度陷阱、按任務分級策略

按任務匹配解析度：圖片成本的精細化控制

高/中/低三檔解析度策略，不同場景的 Token 消耗對比與選型建議

語法層最佳化：寫給機器的提示詞

YAML vs JSON、CSV vs 陣列、壓縮 JSON 輸出，格式性 Token 省 10-30%

提示詞工程

語義層最佳化：不要把上下文當垃圾桶

動態 Few-Shot、LLMLingua-2 壓縮、關鍵資訊放首尾，提升資訊密度

輸出層 + KV Cache 進階

負向約束、Diff 潤色、停止序列；KV Cache 的工具陷阱與滑動視窗問題

模型選型：能力 vs 成本的權衡與決策框架

主流模型能力/成本矩陣、選型決策樹、不同場景的模型匹配策略

大道至簡：堅守第一性原理

AI Harness 的本質 / 做 vs 不做的取捨標準 / 會被時代淘汰的 Harness / 終極問題

Harness 核心篇彙總（上）· Prompt 工程 + Agent 設計

上下文溢位策略 / Prompt 六要素 / 工具呼叫真相 / Skill + 腳手架

Harness 核心篇彙總（下）· 成本最佳化 + AI PM 完整視角

五層成本體系 / KV Cache 原理 / 圖片 Token / 課程完整能力清單