多 Agent
定時任務的成本陷阱
讓 Agent 每小時整理一次新聞,聽起來簡單。但如果複用舊會話,上下文每次都在增長,24 小時後你的成本會爆炸。一個選擇就能讓月帳單差 10 倍。
複用會話 vs 新建會話
複用舊會話
第 1 次第 12 次第 24 次
$7.20
24h 總成本
$0.60
最後一次成本
每次新建會話
第 1 次第 12 次第 24 次
$0.72
24h 總成本
$0.03
每次成本
拖動「運行天數」睇差異
點解複用會話成本會滾雪球
上下文累積過程
1
第 1 次執行:上下文 = System Prompt + 本次對話 ≈ 2,000 token
2
第 2 次執行:上下文 = 第 1 次的全部 + 本次對話 ≈ 4,000 token
3
第 10 次執行:上下文 = 前 9 次全部 + 本次 ≈ 20,000 token
4
第 24 次執行:上下文 = 前 23 次全部 + 本次 ≈ 48,000 token。每次請求都要為這些歷史 token 付費!
新建會話 = 每次都從零開始。第 24 次的成本和第 1 次一模一樣,因為不帶任何歷史上下文。定時任務不需要記憶:每次整理當前的新聞就夠了,不需要知道昨天整理過啲咩。
定時任務每次新建會話,別複用舊的。這個選擇可以讓月帳單差 10 倍。大多數定時任務不需要上下文記憶,新建會話既便宜又穩定。