AI 教我学习 · 防幻觉
让 AI 的回答先过三道检查
有出处感,不等于有证据。汇报之前,让结论经过出处、交叉验证和不确定性三道闸。
引用名称写得再完整,也可能只是一个打不开的链接;单一来源说得再肯定,也还没形成交叉验证。
周一早会前,你请 AI 判断一项新政策会不会影响团队。它给出清楚结论,还列了「行业协会报告」「研究机构简报」和三个链接。页面排得像一份已经查完资料的备忘录。
你来不及逐个打开,直接把结论贴进汇报。经理追问证据时,第一个链接显示 404,第二个链接回到网站首页,第三条虽然能打开,内容却来自同一份协会报告。三个链接,实际只有一份证据。
这次翻车的关键很具体:AI 同时承担了回答者和核验者。它能把自己刚写的内容整理得更像证据,却不能靠重复解释完成外部验证。你需要给核验设置三道不同任务。
先试一次 · 你会怎么要求 AI 核验
Alice
在线
AI 刚给你一条准备放进汇报的结论:「新政策会让中小团队的申报成本下降 30%。」你会先发哪条核验指令?
三道闸,各自拦不同的问题:
要出处:让每条结论指回可打开的原文,拦住凭空补出的内容。
交叉验证:找独立来源互相核对,拦住单一证据带来的偏差。
标注不确定:分开已确认、推断和缺失信息,拦住把未知写成肯定。
要出处:让每条结论指回可打开的原文,拦住凭空补出的内容。
交叉验证:找独立来源互相核对,拦住单一证据带来的偏差。
标注不确定:分开已确认、推断和缺失信息,拦住把未知写成肯定。
现在准备一次完整核验。请从下面选择 3~5 个动作,我会给出这套检查能支持到哪一步。
已选 0 个,还需至少 3 个
依据
三道检查完成后,结论该怎么写
核验结果不要只写「可信」或「不可信」。一份能拿去行动的结果,至少要同时留下四块:判断、依据、下一步、待追问项。这样后来接手的人知道哪些能用,哪些只是线索。
即使三道都过了,也要打开最关键的原文。交叉验证可以缩小错误范围,不能替你确认网页上究竟写了什么。模型负责把待核范围缩小,人负责让关键证据落地。
有来源,只是起点;能打开、能互证、敢标未知,才接近可用。