幻覺與應對

大模型幻覺 (Hallucination)

模型不知道事實，只是在做機率取樣。看它如何自信地編造：選擇一個案例，點選「開始生成」，觀察幻覺如何在逐詞生成中產生。

選擇一個 Prompt
CASE 1 · 張冠李戴
黛玉捧著月光寶盒，輕聲問：
月光寶盒是紫霞的，模型只看共現權重，不知道誰擁有什麼。
CASE 2 · 穿越混搭
花千骨對郭靖急道：靖哥哥，
花千骨和郭靖來自不同作品，模型會流暢地續寫跨作品對話。
CASE 3 · 無中生有
女兒國國王望著杏花簪嘆道：
杏花簪是沈眉莊的道具，模型會錯誤地安排給女兒國國王。
CASE 4 · 人設崩塌
小龍女轉頭對楊過急道：
小龍女清冷淡然，不會「急道」；但模型不懂人設，只看詞頻。
CASE 5 · 程式碼幻覺 API
用 pandas 對 DataFrame 按多列排序並保持穩定：
模型會寫出不存在的參數組合：程式碼像真的，但 API 根本不是這麼用的。
CASE 6 · 日常對話幻覺
晚上好，吃飯了沒
AI 沒有嘴，但會說「吃了」，還能編出「番茄蛋麵」。機率續寫讓它扮演了一個不存在的角色。

逐步生成過程

慢 中 快
← 選擇 Prompt，點選「開始生成」