AI 幻觉：它一本正经胡说时，你怎么识破

📍 认识 AI 6/9 · 上一篇：← AI 黑话词典 · 下一篇：普通人提问 AI 的 7 个技巧 →

那位被法庭处罚的律师

先讲一个真实的、上过全球新闻的案子。

2023 年，美国一位执业三十年的律师用 ChatGPT 帮忙准备诉讼材料。AI 给他找了六个”过往判例”,有案件名、有编号、有法官引语，格式专业得无可挑剔。

他直接写进了递交法庭的文件。

然后法官发现：这六个判例，一个都不存在。全是 AI 现场编的。律师被罚款，职业声誉扫地——他后来说，自己”没想到 AI 会编造内容”。

这就是 幻觉(hallucination):AI 一本正经地生成看起来可信、实际是编造的内容。

**它不是小概率彩蛋，是大模型与生俱来的天性。**这一篇教你跟它安全共处。

幻觉从哪来：回忆一下”接龙”原理

大模型怎么工作的那一篇讲过：模型不是在”查资料库”，是在一个词一个词地做概率接龙——根据前文，猜下一个最可能的词。

这个原理决定了：

模型的第一天性是”把话接得通顺”，不是”说真话”。

当你问它一个它不知道答案的问题，它不会像数据库一样返回”查无此项”——它会接着往下编，而且编得非常通顺。判例的格式它见过千百次，所以编出来的假判例格式完美；论文引用的样子它烂熟于心，所以假论文连页码都有。

通顺 ≠ 真实。幻觉恰恰最擅长”通顺”。

五类最容易中招的问题

幻觉不是均匀分布的。这五类问题风险最高，遇到请自动提高警惕：

高危类型	例子	为什么危险
精确数字	“XX 公司去年营收多少？”	数字编起来毫无难度，你又难验证
引用出处	“这个观点有什么论文支持？”	假书名假论文重灾区，律师案就栽在这
链接网址	“给我这个资料的链接”	AI 会拼出”看起来对”的网址，点开 404
具体的人和事	“XX 教授有什么著作？”	张冠李戴高发：真人+假事迹缝合
最新消息	“上个月发布的 XX 怎么样？”	超过知识截止日期，只能靠编

反过来，低风险区：讲解概念、改写润色、头脑风暴、翻译总结——这些”不依赖精确事实”的任务，幻觉伤害很小。用 AI 的功力，一半在于分清手头的问题在哪个区。

识破幻觉的五招

第 1 招：要出处，看它慌不慌

“你说的这个数据，来源是什么？”

追问出处后，编造的内容常见三种反应：给一个模糊来源(“据相关研究”)、给一个假来源、或者道歉改口。真实的知识经得起追问，编的经不起。

第 2 招：换个方式再问一遍

同一个事实，新开对话换个问法再问一次。真知识两次答案一致；编的内容两次往往对不上——因为每次都是现场重新编的。

第 3 招：关键事实，搜索引擎二次验证

要写进合同、报告、作业里的事实(数字、人名、日期、引用),一律搜索引擎核一遍。规则很简单：

AI 负责起草，搜索负责核实，你负责拍板。

第 4 招：开联网搜索

问时效性问题时，打开 AI 的”联网搜索”功能(豆包、ChatGPT、DeepSeek 都有)——让它先查再答，并给出可点击的真实来源。注意：联网大幅降低幻觉，但摘要仍可能歪曲原文，重要的事点进原文看。

第 5 招：直接问”你确定吗？”

听起来很傻，但有用：

“以上内容里，哪些你非常确定，哪些你不太确定？”

模型对自己的把握程度其实有感知，这样问常常能让它主动标出心虚的部分。一个只输出”确定”的 AI 回答，反而更值得警惕。

两个降低幻觉的提问习惯

除了事后识破，提问时就能预防：

习惯 1：把资料喂给它，别让它凭记忆。

❌ “帮我总结 XX 政策的要点”(它可能编) ✅ 把政策原文粘贴进去：“根据我贴的这份原文，总结要点”(它只能基于你给的)

习惯 2：明确允许它说”不知道”。

在问题末尾加一句：“如果你不确定，直接说不知道，不要猜。”

给了台阶，它就不用硬编了。这一招对”精确事实类”问题尤其有效。

这一篇的核心信息

幻觉不是 bug，是大模型的天性——你无法根除它，但完全可以驾驭它。

记住三层防线：分清问题类型(高危区自动警惕)→ 养成提问习惯(喂资料、给台阶)→ 关键事实必核实(AI 起草，搜索核实，你拍板)。

做到这三层，AI 依然是你最强的助手——只是你不再是那位把假判例交上法庭的律师。

回想一下：过去一个月，你有没有把 AI 说的哪个”事实”直接转述给了别人？现在，去核一下它。

下一步

→ 会问问题的人先受益：普通人提问 AI 的 7 个技巧 —— 识破幻觉是防守，下一篇讲进攻：怎么问，才能一开始就拿到好答案。

---

你被 AI 的哪次一本正经胡说骗到过？发邮箱 hi@niuxue.org，真实案例帮更多人避坑。