AI 會一本正經講錯:什麼是幻覺、怎麼查核 AI 的回答與引用來源(2026 新手教學)
機誌編輯部 · 發布 2026年11月4日 · 約 8 分鐘

用 ChatGPT、Gemini、Claude 或 AI 搜尋查資料,最讓人困擾的不是它「答不出來」,而是它答得很流暢、很肯定,內容卻是錯的,甚至連引用的文章、網址都是編出來的。這篇不是要你別用 AI,而是整理官方與研究文件怎麼說 AI 會出錯,再給你一套照著做就能查核的步驟,以及怎麼辨認假引用。先說結論:依 Google、Anthropic 與 OpenAI 研究人員的說明,AI 可能把不準確的內容當成事實說出來,重要的資訊都要自己再查一次;最實用的三件事是「要求附來源並自己點開」「把數字、人名、日期拆出來單獨查」「高風險題目回到專業與官方來源」。
資料來源與限制(查證日期:2026-11-04): 本文實際讀過的頁面有:Google Gemini 說明:Learn about responses from Gemini Apps、Google Gemini 說明:查看來源(Sources 按鈕)、Anthropic:Reduce hallucinations、arXiv:Why Language Models Hallucinate(OpenAI 研究人員與 Georgia Tech 合著,2025-09-04)、台灣事實查核中心:查核準則及說明、MyGoPen:LINE 快速查證教學、聯合報:衛福部生成式 AI 使用指引(2026-05-30)。限制: (1) OpenAI 的說明中心(help.openai.com)與 openai.com 的部落格我們這次讀不到(403),所以不引用 OpenAI 的產品說明頁,OpenAI 只引用上述論文;(2) Google 的「Double-check response(再次確認回覆)」功能,我們讀到的說明頁沒有寫到,本文不描述它的操作;(3) Cofacts 的官網我們讀不到,下文提到 Cofacts 只依搜尋摘要;(4) Anthropic 該頁的讀者是開發者,本文把它的做法改寫成一般人在聊天時可用的提問方式,這部分是本站的整理;(5) 論文是研究主張,不代表任何產品現在的行為;(6) 本站沒有實測各家 AI,也不比較誰比較準,文中不引用任何 AI 的準確率或錯誤率數字;(7) 衛福部指引只依聯合報報導,細節以衛福部官方為準。警語:AI 回答可能出錯,重要事項請自行查證,並以官方說明為準。
為什麼 AI 會「一本正經講錯」:官方與研究怎麼說
先把「幻覺」說清楚。這個詞在 AI 領域不是指 AI 看到幻象,而是指內容不正確,卻用肯定的語氣說出來。
| 來源 | 實際寫到的內容 | 對你的意義 |
|---|---|---|
| Google Gemini 說明頁 | Gemini 可能產生不準確的資訊,且「可以產生幻覺並把不準確資訊當成事實」;特別提醒關於人物的回覆要再確認;不要當成醫療、法律、財務等專業建議 | 別因為語氣肯定就相信,人名與專業題要加倍小心 |
| Anthropic 文件 | 即使是最先進的語言模型,也可能產生與事實不符或與上下文不一致的內容,稱為「幻覺」;文中的做法能「大幅降低」但「無法完全消除」,重要資訊要驗證 | 提問方式能降低風險,但不能取代查核 |
| OpenAI 研究人員與 Georgia Tech 的論文(2025-09) | 幻覺是聽起來合理、卻不正確的內容,模型以過度自信的口吻說出;開頭例子是問某位研究者的生日,模型三次給了三個不同的錯誤日期;也問過論文標題,多個模型給了錯的標題與年份 | 連「單一事實」都可能錯,而且每次答案可能不同 |
論文對原因的看法是:訓練與評測方式獎勵「猜」、懲罰「說不確定」,所以模型在沒把握時也傾向給一個答案,論文用「善於應試的人」來比喻。這是研究論文的論點,用來幫助你理解為什麼語氣肯定不等於可靠,不代表所有 AI 目前都這樣運作。
Google 的說明頁還提到,Gemini 會在部分回覆中顯示來源與相關連結,但不是每個回覆都有;沒有「Sources」按鈕就代表這一則沒有提供連結。換句話說,沒有連結的回答,更需要你自己找第二個來源。
哪些情況特別要小心(只列有依據的)
- 關於特定人物的資料: Google 說明頁特別提醒,關於人的回覆要再確認。論文的生日與論文標題例子也是關於特定人物的細節。
- 冷門的單一事實: 日期、生日、論文標題這類只有少數資料能對照的細節,是論文裡出錯的例子。
- 醫療文獻與用藥資訊: 依聯合報報導,衛福部的醫療機構生成式 AI 指引關切 AI 可能編造醫學文獻、引用錯誤的用藥指引,並建議 AI 直接與民眾對話時要提醒「僅供參考」。這是對醫療機構的指引,不具強制力,但同樣提醒我們別把 AI 回答當作診療依據。
- 你沒給資料、卻要它「分析」的題目: Anthropic 文件建議在有文件時,讓 AI 只根據提供的文件回答、先抽出原文引句,可降低幻覺。反過來說,沒給原文就問細節,風險比較高。這是依文件建議的推論,文件沒有量化比較。
至於「哪一家 AI 最容易錯」,我們沒有可靠的比較資料,本文不排名。
六步查核流程:照著做就能抓出大部分問題
以下六步,每一步都標明依據。標「本站整理」的是常見的查證做法,不是哪一家官方文件逐字寫的。
| 步驟 | 做什麼 | 依據 | 常用工具 |
|---|---|---|---|
| 1 | 要求附來源,並自己點開 | Google 說明頁(Sources 按鈕);Anthropic「Verify with citations」 | 回覆中的來源連結 |
| 2 | 把回答拆成「可驗證的事實」,逐項單獨查 | 台灣事實查核中心只查核「可被驗證為正確或錯誤的事實」;拆分做法為本站整理 | 搜尋引擎、官方網站 |
| 3 | 找第二個獨立來源交叉比對 | 台灣事實查核中心以核實過的資料為依據並公布來源;交叉比對為本站整理 | 官方公告、可靠媒體 |
| 4 | 同一題問兩次,比較答案是否一致 | Anthropic「Best-of-N verification」;OpenAI 論文的生日例子 | 同一個 AI 新開對話 |
| 5 | 要求 AI 引原文,或承認不確定 | Anthropic「Allow Claude to say I don't know」「Use direct quotes」 | 提問時加一句指示 |
| 6 | 看日期與原始出處 | 本站整理 | 網頁發布日期、官方原文 |
步驟 1:要求附來源,並自己點開
在提問時加一句「請附上來源連結」。有 Sources 按鈕時,依 Google 說明頁,按下去右側會打開面板,列出相關連結。但連結只是線索,不是證明,你要點開確認:頁面是否真的存在、標題與內容是否真的在講這件事。Anthropic 文件也建議讓 AI 為每個主張附佐證引文,並檢查是否找得到支持的引文,找不到就應該撤回。
步驟 2:把回答拆成可驗證的事實
一段長長的回答裡,通常混著事實、推論與意見。台灣事實查核中心的準則寫明,中心「不查核意見,僅查核預期可以被驗證為正確或錯誤的事實」。借用這個思路(拆分做法為本站整理):把回答裡的數字、日期、人名、公司與產品名稱、法條或論文標題一個一個挑出來,單獨去查。對的部分留下,查不到的部分先當成未證實。
步驟 3:找第二個獨立來源
只靠 AI 給的那一個連結不夠。找一個不同單位的來源,例如官方網站、主管機關公告或可靠媒體,確認說法一致。台灣事實查核中心的準則提到,查核認定都以核實過的資料為依據,並公布查核所用的資料供讀者再檢查;你可以把這個標準當成自己的底線:說得出可追溯的資料,才算查過。
步驟 4:同一題問兩次
開一個新對話,用同樣的問題再問一次。Anthropic 文件把這招稱為 Best-of-N:多次執行同一個提示並比較,不一致可能代表有幻覺。OpenAI 論文的生日例子就是三次得到三個不同的錯誤答案。注意:兩次一致也不代表正確,只是少了一個警訊,還是要走步驟 1 到 3。
步驟 5:要求引原文,或允許它說不知道
Anthropic 文件的基本策略有兩項:明確允許 AI 說「我不知道」,以及處理長文件時先抽出逐字引文再回答。一般人在聊天時可以這樣用(改寫為本站整理):
- 「如果你不確定或找不到根據,請直接說不確定,不要猜。」
- 「只根據我貼的這段文字回答,並先引出你用到的原句。」(貼文件前請先確認不含個資與機密)
步驟 6:看日期與原始出處
很多錯誤不是編造,而是過期或轉述走樣。查核時看三件事:發布日期是不是最新、這是不是原始公告(而非轉載)、數字有沒有被改寫。這一步為本站整理的常見做法,沒有引用特定官方文件。
怎麼辨認假引用與假網址
「假引用」指 AI 給出的文章、論文、網址或法條,實際上不存在,或存在但內容不是那樣。有可靠來源記載的部分是:OpenAI 論文列出模型對論文標題給出錯誤答案的例子;Anthropic 文件把「找不到支持引文就要撤回主張」當成降低幻覺的步驟;依聯合報報導,衛福部指引關切 AI 可能編造醫學文獻。我們沒有引用任何具體事件,只描述常見情況:看起來格式完整的作者、期刊名、年份與網址,不保證真的存在。
驗證方法(以下為本站整理的建議):
- 點開網址: 打不開、跳到首頁、跳到不相關頁面,都不能當證據。網址看起來合理,不代表有這一頁。
- 用標題搜尋: 把文章或論文的完整標題加上雙引號去搜尋,找不到完全符合的結果,就先當成不存在。
- 用作者與出處再查: 到該期刊、出版單位或作者的官方頁面找這一篇。
- 內容對不對得上: 就算文章真的存在,也要打開看它是否真的說了 AI 轉述的那句話。
- 法條與判決: 到政府的法規資料庫與司法機關的檢索系統,用條號或案號直接查;論文可到圖書館或博碩士論文資料庫查。操作畫面請以各網站現況為準,我們沒有逐站實測。
- 傳言型訊息: 如果 AI 的回答其實是在轉述網路謠言或詐騙說法,可到台灣的查核單位查。MyGoPen 的 LINE 快速查證會比對過往查核資料庫,查不到時可轉人工查證;依該頁說明,人工回覆可能較慢、資料庫不一定有這則謠言,查不到也不代表內容是真的,且不處理個人意見。Cofacts 也是台灣的查核社群,依搜尋摘要有 LINE 機器人,我們沒有讀到官網原文,請以其官方說明為準。
常見的詐騙與可疑訊息判斷,另可參考3C 詐騙防範指南與165 儀表板的網購詐騙整理。
高風險題目該怎麼辦:醫療、法律、投資、報稅
警語:以下只說原則,不是醫療、法律、投資或稅務建議。
- Google 說明頁明確寫:不要把 Gemini 的回覆當成醫療、法律、財務或其他專業建議。
- 這類題目 AI 可以幫你整理名詞、列出要問專業人士的問題,但診斷、用藥、簽約、買賣與報稅的決定,請回到醫師、藥師、律師、會計師,以及衛福部、法務部、財政部等官方來源。
- 如果 AI 的回答提到藥名、劑量、法條或金額,請當成「待查項目」,逐一用官方資料核對。
- 身體不適或緊急狀況,請直接就醫或聯絡當地緊急服務,不要先問 AI。
提問時的保護:不要把個資與機密貼進去
查核流程常需要把文章、合約或截圖貼給 AI 幫你分析。**請不要貼個資、帳號密碼、驗證碼、病歷、客戶資料與公司機密。**這是本站依一般資安原則的建議;本文引用的官方頁面沒有逐項說明各家的資料保存與訓練設定,請在使用前閱讀所用服務的隱私說明,並確認設定。若真的需要貼文件,先遮掉姓名、身分證字號、地址與電話。
另外,如果你用 AI 輔助寫程式,產出的程式碼也一樣要審查與測試,可參考AI 寫程式工具怎麼選。手機上內建的 AI 功能在台灣的可用情況,見手機 AI 功能在台灣能用什麼。判斷一張圖是不是 AI 修過,可看iOS 27.2 的 SynthID 浮水印說明。
查核檢查清單
- 有附來源嗎: 沒有來源連結的回答,先當成未證實。
- 連結點開了嗎: 頁面存在、內容真的支持那句話。
- 數字、日期、人名、標題單獨查過嗎: 不要整段一起相信。
- 有第二個獨立來源嗎: 官方公告或可靠媒體。
- 同題問過兩次嗎: 答案不一致就回到來源查。
- 看過發布日期與原始出處嗎: 避免過期與轉述走樣。
- 是醫療、法律、投資、報稅嗎: 只當參考,決定交給專業與官方。
- 貼進去的內容安全嗎: 沒有個資、密碼與機密。
延伸閱讀
- ChatGPT、Gemini、Claude 怎麼下好指令:新手的提問公式:把問題問清楚,能減少答非所問。
- AI 寫程式工具怎麼選:Copilot、Cursor、Claude Code、Codex:AI 產生的程式碼同樣要自己審查與測試。
參考資料
- Google:Learn about responses from Gemini Apps
- Google:View related sources & double-check responses from Gemini Apps(本文只引用其中的 Sources 按鈕說明)
- Anthropic:Reduce hallucinations
- arXiv:Why Language Models Hallucinate(2025-09-04)
- 台灣事實查核中心:查核準則及說明
- MyGoPen:LINE 快速查證教學
- 聯合報:衛福部生成式 AI 使用指引 醫院需主動揭露避免「AI 幻覺」延誤就醫(2026-05-30)
常見問題
依 Google 的 Gemini 說明頁,Gemini 可能產生不準確的資訊,並明確寫到「Gemini can hallucinate and present inaccurate information as factual」,也就是把不準確的內容當成事實說出來。OpenAI 研究人員與 Georgia Tech 合著的論文(2025 年 9 月,arXiv)則把幻覺描述成語言模型以過度自信的口吻說出、聽起來合理但其實是錯的內容。
OpenAI 研究人員與 Georgia Tech 的論文主張,原因與模型訓練和評測方式有關:多數評測會懲罰「不確定」的答案,導致模型學會在沒把握時也猜一個答案,論文用「善於應試」來比喻。這是該論文的論點,不是所有研究者的共識,也不代表某個特定產品現在的實際行為。
不代表。Google 說明頁寫明,並非每個回覆都有來源連結;有連結時,也只是讓你點開確認。Anthropic 的降低幻覺文件建議讓 AI 為每個主張附上佐證引文,找不到佐證就要撤回,這表示「有引用」本身需要被檢查,而不是自動可信。最穩的做法是自己點開連結,確認頁面真的存在、內容真的支持那句話。
Anthropic 文件把「對同一個提示多次執行並比較輸出」列為進階技巧,並說各次結果不一致可能代表有幻覺。OpenAI 論文的開頭例子也是同一個生日問題問三次,得到三個不同且都錯的日期。答案不一致是警訊,應回到可靠來源查證,而不是挑一個看起來順眼的。
Google 說明頁寫明,不要把 Gemini 的回覆當成醫療、法律、財務或其他專業建議。衛福部發布的醫療機構生成式 AI 指引(依聯合報 2026-05-30 報導)也強調 AI 是輔助工具、涉及臨床判斷仍須由醫事人員確認。想先了解名詞或準備要問醫師的問題可以,但診斷、用藥、法律與投資決定請回到專業人士與官方來源。
本站建議不要貼個資、帳號密碼、病歷、客戶資料與公司機密。這是本站依一般資安原則整理的提醒,我們沒有在本文引用的官方頁面中讀到各家逐項的資料保存與訓練設定,請在使用前自行閱讀所用服務的隱私說明與設定。
延伸閱讀
Scott Hanselman 開源 GPU Taskman:看哪個程式吃光 VRAM、本機 AI 模型記憶體怎麼拆(Windows/NVIDIA/AMD)
Scott Hanselman 開源終端機工具 GPU Taskman(MIT 授權、實驗性質),可列出各程式的 VRAM 用量並估算本機 AI 模型的權重與 KV 快取。整理支援平台、README 安裝方式與數值為估算的限制。
Gemini 自訂 Gems 11/17 變唯讀、12/17 移除改 Skills:哪些附件不會轉移、備份步驟(2026)
依 Google 說明頁整理個人帳號 Gems 轉 Skills 時程:11/17 唯讀、12/17 移除,100MB 上限與不會轉移的檔案類型,附下載舊檔、重建技能的步驟與 Workspace 時程。
永豐銀行新網銀異常轉出事件進度:418 人、4,176 萬元,怎麼檢查銀行 APP 與轉帳限額(2026)
永豐銀行新網銀 APP 於 11 月 3 日出現異常轉出,銀行稱影響 418 人、427 筆、4,176 萬元並已返還,原因與責任仍在調查。整理截至 11 月 11 日的報導進度、說法不一之處,以及一般人可檢查的通知、明細與非約定轉帳限額。