← 返回 AI 通识课目录

AI 通识课 · 17

第 17 章:AI 结果验收:评分、检查、复盘

这一页是课程原文,适合按章节连续阅读。

第 17 章:AI 结果验收:评分、检查、复盘

AI 结果验收配图

这一章要让你

学会一件比"让 AI 生成"更值钱的事:判断它生成得到底行不行、该往哪改。会生成的人很多,会验收的人很少——而验收这道关,是你前面每一章作业、后面每一个工作流的"过关线"。这一章我们不堆术语,就教你三招:拿清单过一遍、换个评委按维度打分、再拿一个它改不了的事实去对账。

先说个常见的场景

你让 AI 写了份周报,或者整理了一份客户需求,出来一大段,读着挺顺,但你心里别扭:

这个结果不好,但我说不出哪里不好。
感觉不对,但不知道怎么让它改对。
AI 写了一大堆,但我不敢直接拿去用。

这不是你水平不够,是你手上没有一把尺子。没有尺子,你就只能凭"感觉对不对"——而"感觉"既说不清,也没法让 AI 照着改。这一章就是给你这把尺子。

记住一句话定调:验收不是"看一眼觉得行",是拿一个事先定好的标准,一条条过。

一、先用一张通用清单过一遍

不管 AI 给你写的是周报、邮件、方案还是一段分析,都可以先拿下面这 7 个问题挨个问一遍。这是最省事的第一道关:

1. 是否符合我的目标?(我要的到底是不是这个东西)
2. 是否用了我给的资料?(还是它自己瞎编了一套)
3. 有没有编造信息?(数字、人名、引用、报价,重点查)
4. 是否足够具体、能直接执行?(还是一堆正确的废话)
5. 是否符合我要的格式?(长度、结构、语气)
6. 有没有漏掉风险?(有没有把该提醒的坑提醒到)
7. 哪些地方还需要我人工确认?(哪些它说了不算)

举个例子:AI 给你写的周报里有一句"本月销售额同比增长 30%"。第 3 条就该亮红灯——这个 30% 是你给它的数据里有的,还是它"接话接出来"的?(还记得第 2 章说的吗,AI 在玩文字接龙,它会顺手补一个"看起来最像"的数字。) 第 7 条也亮红灯——这种数字必须你自己回原始表格核一遍,它说了不算。

这张清单的价值,不在于多高级,而在于它把"我感觉别扭"翻译成了"具体第几条不过关"。能说出第几条,你才有办法让它改。

二、为什么不能让 AI 自己说"我做得怎么样"

很多人验收的方式是直接问 AI:"你这个写得对吗?""你确定没问题吗?"

这是这一章我最想拦住你的一个动作。因为你几乎永远会得到这样的回答:"是的,我已经仔细检查过,内容准确无误。"——然后你一用,还是错的。

原因不难理解:让 AI 给自己的作业打分,它会偏心。 这不是它"撒谎",而是你让它当了"既是考生又是判卷老师"的角色——它生成那段话时,本来就是按"这看起来最对"去写的,你再让它回头评一遍,它当然还觉得自己对。

打个你一定有体会的比方:自己改自己的卷子,几乎没有人会给自己打低分。 你把同一个人放在"答题"和"判卷"两个位置上,判卷那次他只会替答题那次辩护。

所以验收的第一条铁律是:评分的人,和干活的人,要分开。

怎么做?就一个动作——开一个新对话,把结果贴进去让它当评委,而不是在原来那个写周报的对话里追问。新对话里的它没有"我刚写的,我得维护"的包袱,挑起错来反而更狠。这在专业领域有个正经名字叫 "LLM-as-a-Judge"(让一个 AI 当裁判去评另一个 AI 的输出),听着唬人,对你来说就是一句话:换个窗口当评委。

避坑提醒:别在"它刚干完活"的同一个对话里说"你再检查一遍"。它检查的是"自己的孩子",下不去手。换个新对话,或者干脆换个工具,效果完全不同。

⚠️ 就地提醒:贴给"评委"的结果如果含公司数据或客户信息,先脱个敏再贴——尤其换成别的工具当评委时,等于把内容又给了一个新的第三方。

三、换了评委,还要让它"按维度打分",不是"过 / 不过"

光换评委还不够。如果你只问新评委"这份周报行不行",它回你一句"基本可以,略有不足"——你还是不知道该改哪。

关键在于:让它按维度一栏栏打分,给出具体扣分项。 维度分开了,AI 下一轮才知道该盯着哪一项去改,而不是把整篇推倒重写。

这里给你一个可以直接复制的评分 Prompt,贴到新对话里,连同要验收的内容一起发给它:

请你作为质量检查员,给下面这份结果打分(满分 100):
1. 目标匹配度 20(是否答到了我真正要的)
2. 信息准确性 20(有没有编造、数字对不对)
3. 具体可执行性 20(能不能直接用,还是空话)
4. 结构清晰度 15
5. 风格匹配度 15
6. 风险提醒 10(该提醒的坑有没有提到)

请输出:① 总分 ② 每一项扣了多少分、为什么扣 ③ 修改建议 ④ 修改后的最终版本。

这套打法在做 AI 工程的人里早就是常识了。有个开源工具的介绍语我特别喜欢,翻译过来是:"交付提示词,要带数字,别凭感觉"(Ship prompts with numbers, not vibes)。一句话点透了"按维度打分"的意义——把"我感觉还行"换成"准确性这项被扣了 8 分,因为第二段那个数字对不上"。后者才是 AI 能照着动手的东西。

举个例子:评委给你的周报打了 78 分,其中"信息准确性"那 20 分只拿了 12 分,扣分理由写着"'同比增长 30%' 在所给资料中找不到依据"。看到这一行,你立刻就知道下一步干嘛——回去核那个 30%,而不是把整篇周报重写一遍。分维度打分,等于给你一张"哪儿坏了"的检修单。

避坑提醒:分数本身别太当真,AI 给的 78 分和 82 分没有本质区别。真正有用的是"每一项扣分理由"那几行字——那才是它替你找出来的毛病。别盯着总分,要看扣在哪。

四、最硬的一招:拿一个它改不了的事实去对账

前面三招能帮你把"写得好不好"判个八九不离十。但碰到涉及事实、数字、对错有客观答案的活,光靠 AI 当评委还不够——因为评委也是 AI,它和考生用的是同一套"接话"的脑子,可能一起错。

这时候你需要这一章最硬的一招:别问 AI"你做对了吗",去拿一个它改不了、它说了不算的外部事实,跟它的结果对一对。

这里有个关键词,叫**"目标可判定"**——意思是,你的目标得有一个客观东西能判它对错,而不是靠谁的嘴。

最好懂的比方是记账:你月底对账,绝不会问自己"我账记平了吗"然后自己点头就算数。你会把自己记的账,跟银行流水一笔笔对上。 银行流水就是那个"你改不了、你说了不算"的外部事实。对上了才叫平,对不上就是错——这事轮不到你"感觉平了"。

落到你用 AI 的日常,这一招长这样:

  • AI 帮你算了一组销售数据汇总 → 别问它"算得对吗",自己挑一两行,回原始表格里加一遍,对得上才信。
  • AI 引用了一条政策、一个法规条款 → 别问它"这条准确吗",自己去官方网站搜那条原文,比对一致才用。(还记得第 8 章教的核验吗,这就是把它用在验收上。)
  • AI 写了"某产品参数是 XXX" → 别问它"这参数对吗",去产品官网 / 说明书查那个数
  • AI 整理了客户需求 → 把整理结果发回给客户本人确认一句,客户的原话就是那个外部事实。

你看,这几个动作的共同点是:判对错的依据,来自 AI 够不着的地方——原始表格、官方网站、客户本人。这才叫"对账"。你问 AI"你对吗",等于问考生"你抄得对吗",毫无意义;你拿标准答案去对,才有意义。

避坑提醒:AI 最危险的不是答错,是一脸笃定地答错——它会用特别肯定、特别专业的语气给你一个编造的数字或法条。语气越肯定的地方,越要去对账。"听起来很可信"恰恰是要警惕的信号,不是放心的理由。

五、说得出"哪里不好",AI 才改得对

走完前面四招,你手里就有具体的毛病了——可能是清单第 3 条不过关,可能是评委扣分理由那几行,可能是对账时发现某个数字对不上。这时候让 AI 改,就不再是"你重写一下"这种碰运气的指令了。

给 AI 提返回意见,记住一个三段式,比你说一百句"不对、不行、再改改"都管用:

我期望的是:______(你到底要什么)
但它实际给的是:______(现在哪里不对)
请你这样调整:______(具体改哪里、怎么改)

举个例子,别说"这周报不行,重写",要说:"我期望的是用我表格里的真实数据;它实际把销售额写成了同比增长 30%,但我的数据里没有这个数;请你删掉所有我没提供的数字,只用我给的原始数据,对不上的地方标注'数据待补'。"——前一种它只会再碰运气写一版,后一种它一次就能改对。

这就回到这一章、其实也是这整门课的那条主线(第 2 章说过):用 AI 越来越像管人。 你交代得含糊,它就乱发挥;你把"哪儿不对、要怎么改"说清楚,它就能给你改到位。验收标准就是你的过关线——没有标准,AI 改十遍你也不知道哪一版能用。

关键表达

  • 验收不是"看一眼觉得行",是拿一个事先定好的标准一条条过。
  • 让 AI 给自己的作业打分会偏心——评分的人和干活的人,要分开(换个新对话当评委)。
  • 要按维度打分、给扣分理由,不要只问"行不行";交付要带数字,别凭感觉。
  • 涉及事实和数字,别问 AI"你做对了吗",拿一个它改不了的外部事实去对账——像记账要和银行流水对上。
  • 说得出"哪里不好",AI 才改得对;验收标准就是你的过关线。

避坑提醒

  • 别在写东西的同一个对话里让它"自查",它会替自己辩护——换个窗口当评委。
  • 别只看评委给的总分,要看每一项扣分理由那几行字,那才是检修单。
  • 别被肯定的语气骗了,"听起来很可信"不是放心的理由,反而是去对账的信号。
  • 别用"不对、再改改"这种话提意见,用"期望 / 实际 / 怎么改"三段式说清楚。

课后任务

挑一个你自己的 AI 输出(最好就是第 0 章选的那件"每周都要重复做的事",比如这周的周报),走一遍完整流程:

  1. 拿第一节的 7 条清单过一遍,记下哪几条不过关。
  2. 开一个新对话,用第三节的评分 Prompt 让它当评委打分,留意扣分理由。
  3. 挑结果里一个有客观答案的点(一个数字、一条引用),按第四节去对账一次。
  4. 用第五节的三段式让它改一版。
  5. 最后写一句复盘:这次问题主要出在我的指令,还是出在我给的资料?

最后这句复盘最值钱——它会告诉你,下次该在"把话说清楚"上下功夫,还是在"喂对资料"上下功夫。

衔接贯穿案例:到这一章,你已经会把任务说清楚(第 3 章)、给够上下文(第 4 章)、拆解(第 5 章)、核验(第 8 章),现在又会验收了。下一章(第 18 章)开始,我们就把这些零件拼成你自己的 AI 工作台——而验收这道关,会被你固定写进每一个工作流里,当成出货前的最后一道质检。


延伸观看 / 参考来源

以下多为英文,可在 YouTube 打开"自动字幕 + 翻译成中文"观看。具体工具型号、价格会变,以官网当前为准。

  • 怎么核查 AI 写的东西:《How to Fact-Check ChatGPT and Other AI Tools》https://youtu.be/imBL73lFwbk
  • 给 AI 加一张事实核查清单:《Use the Fact Check List Pattern for Reliable AI Responses》https://youtu.be/SVCkIG82g78
  • "换评委打分"是怎么回事(入门):《LLM-as-Judge Explained Simply: How Top Teams Actually Evaluate AI Outputs》https://youtu.be/DrmhHon2Gn8
  • 同上,框架视角:《How to Evaluate AI at Scale: The "LLM-as-a-Judge" Framework》https://youtu.be/dQPwlgHsVwA
  • "交付带数字、别凭感觉"的开源工具理念:GitHub iamshihab2020/evallab(介绍语 "Ship prompts with numbers, not vibes")
  • 分维度评分的真实维度参考:GitHub SaurabhTripathi62/llm-evaluation-toolkit(faithfulness / hallucination / relevance)