AI 生圖
模型會掛,然後呢?
喺 Alice 裏,用戶講「幫我畫張圖」,但背後可能 Gemini 超時咗、Seedream 限流咗、GPT Image 都出錯咗。用戶唔關心邊個模型掛咗,佢只關心:圖到底出唔出到嚟?
Alice 的三種狀態
思考中
正在生圖,請稍候
出錯了
模型返回錯誤,正在切換備選
全部失敗
所有模型不可用,友好降級
降級鏈:Alice 的保險策略
模型 A(Gemini)超時 15 秒
觸發超時熔斷 → 自動降級
切換到模型 B(Seedream)
備選模型接管,用戶無感知
模型 B 返回限流錯誤
併發上限,繼續降級
切換到模型 C(GPT Image)
第三備選頂上
模型 C 成功出圖
用戶拿到圖片,全程感知不到切換
全部失敗?友好降級
「抱歉服務繁忙,已加入隊列稍後通知你」
最終結果:用戶看到的
雖然經歷了兩次模型失敗,用戶依然拿到了圖
用戶只見到「Alice 畫緊…」嘅等待狀態,然後收到結果。背後模型 A 超時、模型 B 限流、模型 C 頂上,這些對用戶完全透明。這就是降級鏈的價值。
三個產品思路
優先級排序 + 白名單
預設模型優先級。不同場景可以指定不同的模型組合:比如角色出鏡優先用效果最好的模型,純背景可以用便宜快速的。
探活機制
定時檢測每個模型的健康狀態。已確認當機的直接跳過,恢復後自動上綫。不浪費用戶的等待時間在已死的模型上。
墊圖降級
有些模型不支持墊圖(image-to-image)。降級時如果備選模型不支持墊圖,退化為純文生圖,質素降低但至少能出圖。
用戶唔關心你用邊個模型,佢只關心圖出唔出到嚟。在 Alice 裏,降級鏈保證了即使主力模型全掛,用戶最差也只是多等幾秒或收到一句友好提示,永遠不會撞上冷冰冰的錯誤頁面。