權限與安全
AI 該有多大的自由
給 AI 全部權限?它可能搞砸一切。每步都審批?使用者會瘋掉。權限設計是一條光譜:從完全自主到每步審批,中間還有三種選擇。
五種權限模式光譜
← AI 自由度高
人類控制度高 →
怎麼選?
權限模式的選擇取決於 三個維度:
- 操作的可逆性 — 發訊息不可逆,讀檔案可逆
- 出錯的代價 — 刪除資料代價高,搜尋資訊代價低
- 使用者的信任度 — 新使用者謹慎,老使用者信任
同一個產品裡,不同功能可以用不同的權限模式。
沒有最好的權限模式,只有最適合當前場景的權限模式。給 AI 多大的自由,本質上是在回答一個產品問題:這件事出錯了,誰來負責?