AI 教我學習 · 防幻覺

讓 AI 嘅回答先過三道檢查

有出處感,唔等於有證據。匯報之前,等結論經過出處、交叉驗證同不確定性三道閘。

Alice 將有出處感嘅 AI 結論直接攞去匯報,因為連結打唔開而且得單一來源而出事嘅四格漫畫

引用名稱寫得再齊全,都可能只係一個打唔開嘅連結;單一來源講得再肯定,都仲未形成交叉驗證。

星期一早會前,你請 AI 判斷一項新政策會唔會影響團隊。佢畀出清楚結論,仲列咗「行業協會報告」「研究機構簡報」同三個連結。頁面排得好似一份已經查完資料嘅備忘錄。

你嚟唔切逐個打開,直接將結論貼入匯報。經理追問證據嗰陣,第一個連結顯示 404,第二個連結返返網站首頁,第三條雖然打得開,內容其實嚟自同一份協會報告。三個連結,實際得一份證據。

呢次出事嘅關鍵好具體:AI 同時承擔咗回答者同核驗者。佢可以將自己啱啱寫嘅內容整理得更似證據,但係冇辦法單靠重複解釋嚟完成外部驗證。你要為核驗設置三道唔同任務。

先試一次 · 你會點樣要求 AI 核驗
Alice
Alice
在綫
AI 啱啱畀咗你一條準備放入匯報嘅結論:「新政策會令中小團隊嘅申報成本下降 30%。」你會先發邊條核驗指令?
三道閘,各自攔唔同嘅問題:
要出處:等每條結論指返打得開嘅原文,攔住憑空補出嘅內容。
交叉驗證:搵獨立來源互相核對,攔住單一證據帶嚟嘅偏差。
標註唔確定:分開已確認、推斷同缺失資訊,攔住將未知寫成肯定。
而家準備一次完整核驗。請由下面揀 3~5 個動作,我會話你知呢套檢查可以支持到邊一步。
已揀 0 個,仲要至少 3 個
依據
    三道檢查完成之後,結論應該點樣寫

    核驗結果唔好淨係寫「可信」或者「唔可信」。一份可以攞去行動嘅結果,至少要同時留低四塊:判斷、依據、下一步、待追問項。咁樣之後接手嘅人先知道邊啲用得,邊啲只係綫索。

    就算三道都過咗,都要打開最關鍵嘅原文。交叉驗證可以收細錯誤範圍,唔能夠替你確認網頁上究竟寫咗咩。模型負責將待核範圍收細,人負責等關鍵證據落地。

    有來源,只係起點;打得開、互證到、敢標未知,先接近可用。