第 8 章：信息核验：判断 AI 说的是真是假

这一章要让你

学会一件保命的本事：别被 AI 流畅、完整、自信的回答骗了。 它写得越顺，越要留个心眼。这一章给你一套普通人就能用的方法——把它说的话拆成"能信的"和"得查的"，知道哪些内容最容易翻车，也知道翻车了是你担责，不是 AI。

先说个常见的场景

你让 AI 帮你写一份材料，里面要引用一条政策、一个数据、一本书的某一页。它给你的回答工工整整：政策第几条、数据精确到小数点、书名页码一应俱全，读起来特别专业。你一看这么齐全，直接复制粘贴交了上去。

过两天出事了：那条政策根本没这一款，那个数据查无出处，那个页码翻过去是另一段话。你去问 AI，它还会一脸诚恳地跟你道歉，然后再编一个给你。

这不是你倒霉，这是几乎每个认真用 AI 的人都会踩的坑。问题不在于 AI 太笨，恰恰相反——它太会"装得像真的"了。 这一章就是教你怎么不被这份"像真的"骗到。

一、为什么它越流畅，你越要小心

还记得第 2 章那个比喻吗？AI 在玩文字接龙。 你给它一段话，它一个词一个词往下接，接的是"看起来最像样的下一个词"。

这里藏着一个让很多人想不通的点：AI 没有"我不知道"这个开关。 你问它一个它其实不掌握的事，它不会停下来说"这个我查不到"，因为在它学过的海量文字里，正常人被问问题时，回答的都是一段有模有样的内容，很少有人直接回一句"不知道"。 所以它也学着接一段有模有样的——哪怕这段内容是它当场"编"出来的。

这就是大家常说的"幻觉"（也有人叫"一本正经地胡说"）。注意，幻觉不是 AI 偶尔的小故障，而是它工作方式的自然产物：它的任务是把话接得像，不是把事查得准。这两件事，本来就不是一回事。

打个比方：AI 像一个特别会聊天、记性又特别好的人，但他从不承认自己记错。 你问他一件他模糊的事，他不会愣住，而是顺着感觉给你讲得头头是道。讲得越溜，你越容易信，可"溜"和"对"根本是两码事。

所以把这条刻进脑子：回答的流畅程度，跟它的真假一点关系都没有。 越是读起来天衣无缝、细节丰富的回答，你越得多留个心眼——因为编得圆，正是它的拿手好戏。

补充一句让你安心的：这两年大模型一直在改这个毛病，新一些的模型已经被专门训练得"宁可答不知道，也别瞎猜"（OpenAI、Anthropic 都公开讲过这个思路，见本章末来源）。但改善不等于根治，到你手上这一关，该核还得核。

二、第一招：把它的话拆成三类

不要把 AI 的一整段回答当成铁板一块——要么全信，要么全不信，都不对。聪明的做法是拆开看，分成三类，每类用不同态度对待。

事实：能查证的客观信息。比如"某条法规规定了什么""某产品多少钱""某事发生在哪一年"。这类关键的必须核来源，尤其是你要拿去用、要对别人负责的。
观点：它的判断、倾向、建议。比如"这个方案更稳妥""这种写法更好"。这类可以参考，但别当定论——它的判断也是"接最像的话"接出来的，不是深思熟虑的结论。
推测：它根据已知信息"猜"出来的。比如"根据这个趋势，明年可能会……"。这类必须当成猜测看，绝不能直接当事实用。

举个例子。你让 AI 分析一个行业，它回你：

"这个行业去年市场规模约 1200 亿元（事实），整体处于上升期、值得布局（观点），预计三年内会翻倍（推测）。"

同一段话，三种成色。"1200 亿"得去查准不准；"值得布局"听听就好、自己拿主意；"三年翻倍"纯属它猜的，写进报告里署你名字，出了问题算你的。

学会这一拆，你就从"全盘照收"升级到"分类对待"了。 这是信息核验的地基。

三、哪些内容最该核：四个高危区

不是每句话都要你停下来查——那样太累，也没必要。要把力气花在刀刃上。记住一个原则：越是"具体、要担责、错了有后果"的，越要核。 尤其这四类，看见就该警觉：

数字：金额、比例、销量、年份、统计数据。AI 特别爱给精确数字（因为精确显得专业），但精确不代表正确，它能一脸认真地把"约 30%"说成"31.7%"。
人名 / 机构名 / 头衔：谁说的、谁做的、谁的职位。AI 经常张冠李戴，把一句话安到没说过的人头上，或者编一个根本不存在的"专家"。
法规 / 政策 / 条款：第几条、哪一款、什么时候生效。这类错了后果最重，而 AI 偏偏最爱编得有鼻子有眼。
报价 / 承诺 / 引用出处：价格、合同条款、书的页码、文章链接、文献来源。但凡是"可以被翻出来对质"的，AI 编起来眼都不眨。

反过来，像"帮我把这段话写顺一点""给我列几个选题方向"这种不涉及客观事实、错了也没硬后果的活，就不用这么紧张。

一句话收尾：这件事错了，要不要紧？要紧，就核。 这个判断，比记任何清单都管用。

四、几个真实的翻车例子

光说原理不够吓人，看几个真实发生过的，你会更上心。

例子一：律师交了一份"全是假判例"的法律文书。 这是被全世界报道过的真事——有律师图省事，让 AI 帮忙查类似的过往案例支撑自己的观点。AI 给了好几个案子，名称、编号、判决理由写得跟真的一样。律师没核，直接交给法庭。结果对方一查：这些案子全是 AI 编的，一个都不存在。 律师被法官当庭追责。AI 不是不想帮他，是它"接最像的话"接出了一堆像判例的假判例。

例子二：编造的书页和章节。 这就是第 2 章提过的——你问"某本书第几页讲了什么观点"，它给你页码、给你段落大意，全套齐活。你翻开书一看，那一页讲的是别的事。对 AI 来说，"给个页码"比"承认没读过这本书"更像一个正常回答，所以它选择编一个。

例子三：学术论文里塞了不存在的文献。 已经有学生、甚至研究者，用 AI 写论文时直接采用了它给的"参考文献"——作者、标题、期刊、年份格式完全正确，唯独这篇文章从来没存在过。这事被曝出来，轻则重写，重则算学术不端。（这类"AI 虚构文献"的新闻这两年不少，见本章末来源里的报道。）

例子四：假数据、假链接。 你要一个数据来源，它给你一个链接，点进去要么是 404，要么内容跟它说的完全不搭。它生成的是一个"长得像真链接的字符串"，不是它真去访问过的网页。

这四个例子的共同点：错的地方都特别具体、特别"可信"——页码、编号、作者、链接，全是细节。 而细节，恰恰是 AI 最擅长编、你也最容易信的东西。

五、第二招：四个动作把它核住

知道了要核，接下来是怎么核。给你四个由易到难的动作，从第一个开始养成习惯就行。

动作一：让 AI 自己先标出来。 这是最省事的一招。在它回答之前或之后，让它把哪些是确定的、哪些需要你再查、哪些是它猜的，自己分门别类标清楚（具体怎么说，看下一节的 Prompt）。这一步不能代替你核，但能帮你快速锁定"重点该查哪几处"，省一大半力气。

动作二：要它给来源，并且自己去看一眼。 让它说"这个结论是从哪儿来的"。注意——它给的来源也可能是编的，所以关键信息一定要你自己点开那个链接、翻到那一页，亲眼确认。它说有，不算数；你看到了，才算数。

动作三：换个问法、或换个 AI 再问一遍。 同一个问题，你换种方式再问它一次，或者拿去问另一个 AI。如果两次答案对得上，可信度高一些；如果一个说"是"一个说"否"，那这事十有八九它没把握，赶紧人工去查。（这个"互相对一下"的思路，连给程序员用的 AI 工具都在用——让两个 AI 交叉检查彼此的结果来抓错，见本章末来源。）

动作四：高危信息，回到权威源头查。 涉及法规、就去官方网站；涉及数据，就去发布机构；涉及报价，就去问真人或看正式文件。AI 是帮你起草和提示线索的，不是帮你拍板事实的。 最后那一锤，得落在权威源头上。

这四步不用每次全做。日常小事，动作一够了；要拿去用、要担责的，动作二三四一个都别省。

六、一段能直接抄的"核验 Prompt"

把上面的"动作一"变成一句可以反复用的话。下次拿到一段拿不准的 AI 回答（或者一段别人发来、你怀疑是 AI 写的内容），直接丢给 AI，让它替你拆：

请先不要直接给结论。
把下面内容拆成：
1. 已确认事实（能查证的客观信息）
2. 需要核验的信息（数字、人名、法规、报价、出处等）
3. 推测性判断（你根据已知信息猜的）
4. 可能有争议的地方
5. 建议的核验来源（我该去哪儿核实）
如果某一条你无法确认，请直接写"无法确认"，不要编。

内容如下：
……（把要核的内容贴在这里）

最后那句"无法确认就直接写无法确认，不要编"非常关键——等于明确给了它"我不知道"这个开关，告诉它：这次"承认不知道"比"接一段像样的"更让我满意。这一句话，能挡掉不少幻觉。

避坑提醒：这个 Prompt 是帮你理清重点的，不是帮你最终拍板的。它标出来的"已确认事实"，关键的那几条你还是得自己去权威源头核一遍——别让"让 AI 自查"变成"又信了 AI 一次"。

关键表达

AI 给你初稿，不等于给你事实。
回答越流畅、细节越丰富，越要留心——"顺"和"对"是两回事。
把 AI 的话拆成三类：事实（核来源）、观点（参考）、推测（别当真）。
越是涉及数字、人名、法规、报价的内容，越要核，错了是你担责不是 AI。
AI 帮你起草和找线索，权威源头帮你拍板事实。

避坑提醒

别看它答得齐全就全信，编得圆正是它的拿手戏。
别信它给的来源链接和页码不点开就用——它的"来源"也可能是编的。
别在数字、法规、人名上图省事，这四个高危区出错后果最重。
别让"让 AI 自查"代替你亲自核——自查只缩小范围，不替你担责。
别因为它道歉就放心——它道完歉很可能给你编个新的。
它一直编来源、怎么说都没用？别死磕，第 16 章有专门的排查动作。

课后任务

拿一段 AI 生成的分析或资料（最好就用你那件"每周重复做的事"相关的内容），用这一章的方法走一遍：

用第六节的核验 Prompt，让它把内容拆成事实 / 观点 / 推测 / 争议点 / 建议来源。
挑出里面所有的数字、人名、法规、报价、出处——这些是你的高危清单。
选其中最关键的一两条，自己动手去权威源头核实：是真的、是错的、还是查无此事？

做完你会有个特别直接的体感：它平时帮你省了多少事，又在哪些地方差点把你坑了。 这份警觉，比这一章任何一句话都值钱。

衔接贯穿案例：还是你从第 0 章选的那件"每周都要重复做的事"。如果这件事的成果要给别人看、要拿去做决定（比如周报里的数据、给客户的报价、对外发的政策解读），那从今天起，给它加一道"核验关"——这一步，会在第 17 章“结果怎么验收”和第 19 章“搭你自己的工作流”里，正式变成你流程里固定的一环。

延伸观看 / 参考来源

想更直观地理解"AI 为什么会胡说"和"怎么核"，挑这几个（完整清单和说明见 _raw-调研/08-素材与来源.md）：

AI 自己讲为什么会幻觉：《Why do AI models hallucinate?》（Anthropic 官方）https://youtu.be/005JLRt3gXI
技术视角讲清原理：《Why Large Language Models Hallucinate》（IBM Technology）https://youtu.be/cfqtFvWOfg0
大白话版（适合零基础）：《AI Hallucinations Explained in Non Nerd English》（Stefan Mischook）https://youtu.be/RUSbumBu7Ks
手把手教怎么核：《How to Fact-Check ChatGPT and Other AI Tools》（UDC Library）https://youtu.be/imBL73lFwbk
中文·新模型怎么改这毛病：《OpenAI 公开了 GPT-5 降低幻觉的秘密——宁愿答"不知道"也绝不瞎猜》（老范讲故事）https://youtu.be/SCDeeC8QIfE
中文·真实翻车报道：《论文 AI 虚构文献……学者：严重违反学术操守》（追光者 Pulse HK News）https://youtu.be/U9KHoX6G6HI
开源工具（了解即可，普通人不用装）：自反思式新闻核查 agent Puggo1145/puzzle-fact-check；中文轻量核查框架 SRInternet-Studio/FactLite；核对 AI 输出有没有"编"的 pulkitj/groundguard