課程收官

彙總（下）· 成本優化 + PM 視角

Harness 核心篇總結回顧 · 下半頁（2 / 2）：五層成本優化體系，以及 AI PM 帶走的完整工程視角。

Part 3 · 成本優化

💰

三、成本優化五層體系

綜合使用可降低 70-90% Token 成本

模型路由簡單任務用輕量模型（分類、抽取）；複雜推理才用旗艦模型省 60-80%

語法層 YAML 替代 JSON（省 15-30%），CSV 替代陣列（省 40%+），刪 Markdown 裝飾省 15-40%

語義層動態 Few-Shot 向量匹配（省 87%），LLMLingua-2 壓縮長文件（省 60%），關鍵資訊放開頭/結尾省 60-87%

輸出層負向約束（精準截止廢話），Diff 潤色（只輸出改動），Stop Sequence（及時截止）省 20-50%

KV Cache 固定 System Prompt 前綴 → 快取命中率高；避免動態時間戳（每次不同 = 永遠 MISS）省 30-60%

❌ 動態時間戳

每次前綴不同

System Prompt 含「現在是 {time}」，每次請求前綴變化 → KV Cache 永遠 MISS

✅ 靜態前綴

前綴不變，快取穩定

時間放 user message，不放 system；System Prompt 保持固定 → 持續 HIT

Part 4 · AI PM 綜合認知

🎯

四、AI PM 綜合認知

從基礎到工程，帶走完整視角

🖼️

圖片 Token 成本

解析度 ≠ 品質。粗分類 512px 足夠，OCR 用 1K-2K，高精檢測才用 4K。按任務匹配可降低 60-90% 圖片成本。

🛡️

Prompt 安全

4 類攻擊：越權注入 / 角色逃逸 / Few-Shot 汙染 / 符號注入。4 層防禦：輸入過濾 + 權限分層 + 輸出驗證 + 審計日誌。

📊

多輪對話成本

每輪都把完整歷史帶入 → 成本指數增長。必須主動做上下文壓縮，設計歷史管理策略。

🔄

流式返回

Markdown 和 XML 流式友好；JSON/YAML 需等全文才能解析。格式選擇影響使用者體驗和工程複雜度。

兩篇章的終極結論

AI Harness 的本質是精心設計每一條 Message。從上下文管理到成本優化，全都是在設計那個發給模型的 Message List。

你已掌握的能力

理解 LLM 原理識別並緩解幻覺設計 Prompt 評估輸出格式規劃 Agent 架構系統性降低成本防禦 Prompt 攻擊

Harness 核心篇完結 · 恭喜完成 AI Harness 完整學習 · 從基礎認知到工程實作，你已具備 AI PM 的核心視角。