AI 教我學習 · 防幻覺
讓 AI 的回答先過三道檢查
有出處感,不等於有證據。拿去報告之前,讓結論先過出處、交叉驗證和不確定性這三道閘。
引用名稱寫得再完整,也可能只是一個打不開的連結;單一來源說得再肯定,也還沒形成交叉驗證。
週一晨會前,你請 AI 判斷一項新政策會不會影響團隊。它給出清楚結論,還列了「產業公會報告」「研究機構簡報」和三個連結。版面排得像一份已經查完資料的備忘錄。
你來不及逐一打開,直接把結論貼進報告。經理追問證據時,第一個連結顯示 404,第二個連結回到網站首頁,第三條雖然打得開,內容卻來自同一份公會報告。三個連結,實際上只有一份證據。
這次翻車的關鍵很具體:AI 同時當了回答者和核對者。它能把自己剛寫的內容整理得更像證據,卻不能靠重複解釋完成外部驗證。你得幫核對設三道不同的任務。
先試一次 · 你會怎麼要求 AI 核對
Alice
線上
AI 剛給你一條準備放進報告的結論:「新政策會讓中小團隊的申報成本下降 30%。」你會先發哪條核對指令?
三道閘,各自攔不同的問題:
要出處:讓每條結論指回打得開的原文,攔住憑空補出來的內容。
交叉驗證:找獨立來源互相核對,攔住單一證據帶來的偏差。
標出不確定:把已確認、推斷和缺漏資訊分開,攔住把未知寫成肯定。
要出處:讓每條結論指回打得開的原文,攔住憑空補出來的內容。
交叉驗證:找獨立來源互相核對,攔住單一證據帶來的偏差。
標出不確定:把已確認、推斷和缺漏資訊分開,攔住把未知寫成肯定。
現在準備一次完整核對。請從下面選擇 3~5 個動作,我會給出這套檢查能支持到哪一步。
已選 0 個,還需至少 3 個
依據
三道檢查完成後,結論該怎麼寫
核對結果不要只寫「可信」或「不可信」。一份能拿去行動的結果,至少要同時留下四塊:判斷、依據、下一步、待追問項。這樣後來接手的人知道哪些能用,哪些只是線索。
即使三道都過了,也要打開最關鍵的原文。交叉驗證可以縮小錯誤範圍,不能替你確認網頁上究竟寫了什麼。模型負責把待核範圍縮小,人負責讓關鍵證據對上原文。
有來源,只是起點;打得開、能互證、敢標未知,才接近可用。