Token 降本增效 · 7 / 13

輸入主導：62:1 的 I/O Ratio

普通 Chatbot 是一問一答；Agent 是「思考 → 行動 → 觀察 → 再思考」的迴圈。關鍵認知：每一輪的 Input 都包含了全部歷史資訊——輪次越多，Input 越長，成本累積膨脹。

ReAct 迴圈輸入主導I/O Ratio累積膨脹
Chatbot vs Agent：計費結構完全不同

普通 Chatbot 問「講個笑話」（10 Token），答 150 Token——I/O Ratio ≈ 1:15，輸出主導。而 Agent 做一個程式碼修復任務：System Prompt、工具返回、歷史輸出，全都要在每一輪裡重新讀一遍。三輪下來，總 Input 16,790、總 Output 270——I/O Ratio 62:1，輸入主導。

為了得到 270 個字的結果，你付了 16,790 個字的「閱讀費」。這就是 Agent 的輸入主導特性。
普通 Chatbot 一問一答與 Agent 迴圈執行的對比
Chatbot 單輪互動結束；Agent 的每一輪入口都帶著全部歷史，Input 累計膨脹。（圖：作者分享原稿）
I/O Ratio：Agent 的輸入主導特性
程式碼修復任務的三輪拆解：總 Input 16,790，總 Output 270，I/O Ratio 62:1。（圖：作者分享原稿）
互動演示 · 一個「簡單」任務的真實帳單

任務：「幫我分析這個 Excel 表格，找出銷售額最高的產品，然後做出一張圖表。」點「下一輪」，看每一輪的累計 Input 怎麼滾起來。

Excel 分析任務 · 5 輪執行
Excel 任務的輪次拆解與真實帳單
五輪累計 Input 31,460、Output 450，合計約 0.014–0.026 元。注意：這只是一次成功的執行，隱形成本還有失敗重試、除錯、迭代。（圖：作者分享原稿）
膨脹的數學：為什麼是平方級

假設任務要 N 輪完成，System Prompt 長度 S，每輪新增（輸出 + 工具返回）約 Δ。第 N 輪的 Input ≈ S + Q + Δ×(N-1)，而總 Input 是所有輪次的累加——裡面藏著一個 1+2+3+…+(N-1) 的等差數列。每輪新增 500 Token 的話，5 輪迴圈的總 Input 就有 15,000+；輪次翻倍，成本接近翻兩番。

Agent 框架（SWE-bench 實測）平均 I/O Ratio說明
簡單 RAG Agent10:1 ~ 20:1檢索 + 回答
OpenHands20:1 ~ 50:1程式碼修復任務
AutoGPT 類30:1 ~ 100:1開放式任務，迴圈多

這解釋了為什麼 KV Cache（第 11 節）對 Agent 是決定性的：既然每輪都要重讀同樣的前綴，能不能命中快取，就是 5 倍的價差。也解釋了為什麼要監控 I/O Ratio——比率超過 50:1，往往說明 Agent 在「空轉」，該優化流程或降級任務了。

本節要點
✓

Agent 是輸入主導的：每輪 Input 都帶全部歷史，總量按輪次的平方級膨脹。

✓

單次執行看著便宜，規模化才見真章：0.02 元的任務 × 失敗重試 × 百萬呼叫，就是帳單窒息現場。

✓

把 I/O Ratio 當健康指標監控：>50:1 說明 Agent 在空轉，先查流程再談省錢。

內容來源：整理自作者團隊內部分享《AI Token 降本增效策略分享》「Agentic 應用的計費機制」。行業資料參考 SWE-bench 上的 Agent Token 消耗實證研究（見收官節閱讀材料）。Agent 迴圈的原理詳見動手實戰篇。