← 返回 AI 通识课目录

AI 通识课 · 20

第 20 章：安全、成本和人的判断

这一页是课程原文，适合按章节连续阅读。

第 20 章：安全、成本和人的判断

安全成本判断配图

这一章要让你

这是主线方法篇的最后一章，也是一节"能力封顶课"——前面十九章一直在教你怎么把 AI 用起来、用顺、用成自己的工作流，这一章反过来，教你哪儿该收手、哪儿必须你自己拍板。（往后第 21、22 章会跳出工具本身，聊 AI 和真实世界、和你的关系，那是收尾的另一条线。）学完你会有三样东西：一张"哪些事能交、哪些不能交"的分工地图；一份给自己工作流配的安全边界；还有一条贯穿全课的底线心法——越是把 AI 用得顺，越要保住自己看得懂、能挑错的本事。

先说个常见的场景

想象一下这个画面：你用 AI 把客户回复、报价、发消息这一整套都跑通了，越用越顺，到后来基本是 AI 写一句、你"嗯"一下就发出去。某天它把一个客户的折扣价算错了一位数，9 折写成 0.9 折，你照着"嗯"了一下，发出去了。

问题出在哪？不在 AI——它本来就会算错，这门课第 2 章就讲过它会"一本正经地胡说"。问题在于：那个该停下来核一眼的人，已经不看了。 用得越顺，越容易把"最后那道人工闸门"省掉。

这一章就是来装好这道闸门的。它分两块：一块讲边界——哪些事压根不该全交给 AI；一块讲成本和心法——怎么不花冤枉钱、不花冤枉时间，以及最关键的，怎么在 AI 越来越能干的时候，不把自己的判断力交出去。

一、先把全课的一条主线收个尾

从第 2 章起，这门课反复说一句话：你会不会用 AI，越来越等于你会不会管人。 定目标、交代背景、划清边界、验收结果——管一个能干但不了解你、也不替你负责的实习生，和管 AI，是同一套本事。

到了这最后一章，这句话要再补上半句，才算完整：

管人，不只是会派活，更是知道哪些活不能让人替你扛。

一个好领导，不会把"签合同""动公款""对客户做承诺"这种事甩给实习生——不是因为实习生干不了，是因为这些事的责任，最终落在领导自己头上。AI 也一样。它能写、能算、能整理、能帮你检查，但有几类事，无论它多能干，最后按下确认键的那个人，必须是你。

这一章，就是教你划出这条"哪些活不能交"的线。

二、三层分工铁律：能写死的交代码，要判断的交 AI，担责任、动钱的交人

这是这一章的"地基"，先讲透。

面对一件事，先别急着想"用哪个 AI"，而是先把它拆成三种活，分给三个不同的"干活的"：

  • 第一层·能写死的，交给代码（或固定流程）。 凡是规则明确、步骤能一二三画清楚、永远那么干的事——比如"把这个文件夹里所有图片改成正方形""每月 1 号把上月数据导成表格"——这种交给一段固定的程序或一个固定模板就行，根本用不上会自己想的 AI。（这一点第 12 章讲过：能画成流程图的事，别上 Agent。）
  • 第二层·要判断、要理解、格式不固定的，交给 AI。 比如"把这堆乱七八糟的客户反馈归一下类""把这篇长报告总结成三段""帮我把这段话改得更客气"——这些没有死规则，需要"理解"和"措辞"，正是 AI 的强项。
  • 第三层·要担责任、要动钱、要对外承诺的，交给人——也就是你。 比如"把这条报价发给客户""从账户转这笔款""把这个文件删掉""答应客户三天内交货"——这些一旦做错，后果是真金白银、是信誉、是法律责任，这层只能人来按确认键。

把这三层浓缩成一句好记的话：

机器管信息，人管权力和钱。

AI 和代码处理的都是"信息"——文字、数据、图片，错了可以重来；而"权力和钱"——花出去的钱、发出去的承诺、删掉的文件——错了往往收不回。所以凡是碰到"权力和钱"的那一下，必须卡在人手里。 这个卡点，我给它起个名叫"人卡钱点"：流程可以全自动跑，但跑到要动钱、动承诺的那一步，必须停下来等你点头。

打个比方：这就像公司的财务流程。报销单谁都能填（信息层，交给经办人甚至系统自动生成），但最后那张支票，必须老板或财务总监亲笔签字才能出账。AI 再能干，也只是那个"填单子的人",签字权永远在你这儿。

避坑提醒：别被"全自动"三个字诱惑。一个流程能自动到 95%，不代表那剩下的 5%（动钱、动承诺）也该自动。恰恰相反——自动化程度越高，那个人工签字点越要守得死。

三、四条红线：发消息、转账、删文件、客户承诺

把上面的"第三层"落到地上，就是四类最常见、最该设人工确认的动作。课程项目章程里专门点了名，这里给你讲清楚为什么：

  1. 替你发消息 / 发邮件 / 发朋友圈、发公众号。 AI 写的初稿可能有错别字、有口气不对的地方、甚至有它编的事实。一旦发出去，收回来的成本极高（尤其是发给客户、发到公开平台的）。让它写，让你发。
  2. 转账 / 付款 / 动账户。 这一条没有任何商量余地。金额、收款方、次数，任何一个错都是钱的损失。这类操作，永远人工，永远自己核对收款信息。
  3. 删除 / 覆盖文件。 删错、覆盖错，东西可能就再也找不回来了。让 AI 帮你整理文件可以，但"确认删除"这一下，自己来。（这也是第 10、11 章反复强调的：先在练习文件夹里玩，别让 AI 在你重要的资料堆里随便删改。）
  4. 对客户、对外做承诺。 "三天内发货""这个功能下周上线""保证退款"——这种话一旦说出去就是承诺，背后是责任。AI 不了解你的真实库存、真实排期、真实能力，它只会"接一句听起来最得体的话"。承诺的话，必须你自己过脑子再说。

记一个动作口诀：让 AI 把手停在"发送"键前面。 它可以把内容、把转账单、把删除清单都准备到位，停在最后一步，等你看一眼、点头，再执行。准备工作交给它，"按下去"那一下留给自己。

四、隐私：有些话，不能对 AI 说

你跟 AI 聊天，本质上是把信息发到了一个别人的服务器上。所以有一类信息，发出去之前要过一下脑子。

最该当心的几类：

  • 身份和账号类：身份证号、银行卡号、密码、API Key、各种验证码。（第 0 章就说过，这些东西不要贴给陌生网站，对 AI 也一样。）
  • 公司机密类：还没公开的财务数据、客户名单、合同条款、内部报价。你图省事把整张客户表丢进去让它分析，等于把公司资产发到了外面。
  • 别人的隐私：同事、客户、家人的私人信息，你没权替他们做主把这些交出去。

那想用 AI 处理这类东西怎么办？ 两个实用办法：

  • 脱敏：把关键信息抹掉或换成假的再丢给它。比如让它改一封催款邮件，把真实公司名、金额换成"XX 公司""一笔款项"，它照样能帮你润色措辞，但拿不到真东西。
  • 就近处理：如果是公司层面的敏感数据，优先用公司内部批准的工具，或者本地能跑的方案（第 9、10 章提过低成本本地方案），而不是随手贴到公网的聊天框里。

一句话原则：贴进去之前先问一句——"这条信息要是被截图发到网上，我能不能承受？" 不能承受的，先脱敏，或者干脆别贴。

五、版权和事实：用了它的东西，责任是你的

这一节解决两个新手常踩的坑。

第一，事实错误的责任，在用的人身上，不在 AI。 第 2 章和第 8 章反复讲过 AI 会"幻觉"——数字、人名、法规、报价，它都可能一本正经地编。这里要补一条责任归属：你把它编的东西原样交出去、用出去，出了问题，是你的责任，不是 AI 的。 客户不会接受"这是 AI 写错的"这种解释。所以涉及事实、数据、对外承诺的内容，人工复核不是可选项，是必须项（怎么核，回去看第 8 章）。

第二，版权这件事，心里要有根弦。 AI 生成的文字、图片，可能和已有的作品很像，也可能踩到别人的版权。普通人不用懂法律细节，但记住两个动作就够了：

  • 商用之前多留个心：拿 AI 生成的图、文去做商业用途（卖货、投广告、对外发布）前，比纯自己玩多想一步"这会不会侵权"，必要时换一版或找正规素材。
  • 重要的东西核来源：尤其是要署名、要负责的内容，别因为"AI 写得好"就直接用，它写得好和它有没有抄，是两回事。

记住第 2 章那句老话的升级版：AI 给你初稿，不等于给你事实，更不等于给你免责。

六、怎么控成本：订阅费只是小头

一说"成本"，新手第一反应是"一个月会员多少钱"。但真正的成本有四种，钱往往是最小的那个：

  • 钱的成本（订阅 / 用量）：这个第 0 章说清楚了——免费版先用着，不够了再付费，别记死价格，以官网为准。对绝大多数人，这块花不了多少。
  • 时间成本：这才是大头。有两种典型浪费——一种是该交给 AI 的非要自己硬干（比如手动整理两小时本可以让它三分钟搞定的表格）；另一种正好相反，为了让 AI 做一件五分钟的小事，反复调教提示词调了一小时。两头都是亏。判断标准就一条：调教 AI 的时间，超过自己直接做的时间，就别折腾了，自己做。
  • 风险成本：前面几节讲的隐私泄露、发错消息、转错账、信了幻觉——这些一旦出事，代价远超那点会员费。所以前五节的边界，本质上也是在控成本。
  • 机会成本：你把时间花在"追最新最强的工具""每出一个新模型就去试一遍"上，就没时间真正用它解决你那件重复的事。第 0 章说的"你没有落后"，落到成本上就是这句：追新本身是一种花费，而且常常是亏的。

避坑提醒：还有一种隐藏的"模型成本"——简单的活用很贵很强的模型，纯属浪费（这叫"杀鸡用牛刀"，第 9 章提过）。日常小事用便宜、够用的就行，留着好钢用在真正难的活上。

一句话收成本这节：省钱的关键不是少花会员费，是别浪费时间、别踩风险、别为追新分心。

七、判断公式：一件事到底值不值得做成工作流

学到这儿你可能手痒，想把什么都做成自动工作流。先别急，这里给你一把"尺子"。一件事同时满足下面四条，才真正值得花力气做成工作流；缺得多，就老老实实手动做：

  1. 重复：是不是同一类活，反复在做？只做一次的事，不值得搭流程。
  2. 高频：是不是隔三差五、甚至每天都要做？一年才做一次的，搭流程的成本收不回来。
  3. 格式固定：输入和输出的样子是不是基本稳定？每次都千变万化的，难固化。
  4. 标准能说清：你能不能用话把"怎么算做对了"讲明白？（这正是第 17 章验收讲的——标准说不清，AI 做对做错你都判不了，自动化就是空中楼阁。）

把这四条连起来记：又重复、又高频、格式又固定、标准还能说清楚——这种事，做成工作流最划算。 反过来，一件偶尔做一次、每次都不一样、连"怎么算好"都说不清的事，别勉强自动化，手动反而省心。

这也正好接上第 0 章给你定的那个"主角任务"——你当初挑的那件每周重复的事，到第 19 章做成了工作流。现在用这把尺子量一量它：四条占了几条？这就是它该不该、值不值得自动化的答案。

八、真正要防的，不是 AI 犯错，是你放弃判断

最后这一节，是整门课的"封顶"，也是最想留给你的一句话。

前面七节都在防 AI——防它泄密、防它瞎说、防它乱花钱。但最大的风险其实不在 AI 身上，在你身上：当一个工作流跑得越来越顺，你会不知不觉地——

  • 懒得再看它的输出了，反正"一直都对";
  • 看不懂自己当初搭的那套东西到底怎么跑的了;
  • 它说什么你信什么，慢慢地，连"它这句对不对"都不想去想了。

这就是开头那个"9 折写成 0.9 折照发出去"的画面背后的真相：不是 AI 突然变坏了，是那个该判断的人，主动把判断权交了出去。 这件事有个不吓人但很真实的名字，叫"认知投降"——你把"动脑子"这件事，外包给了 AI。

为什么这事危险？因为第三层那个"人卡钱点"，是靠你的判断力撑着的。如果你已经看不懂、也懒得看了，那个所谓的"人工确认"就成了走过场——手指点"确认"，脑子根本没在。闸门还在，但守闸门的人睡着了。

所以这门课的最后一条心法，和它一开始的主线刚好咬合：

会用 AI = 会管人；而管得住的前提，是你始终比你管的那个“它”懂得多一点、看得清一点。

再往上一层——管理 AI 的最高境界，不止是提出问题，还要提出解决问题的方法：你不只把活派下去，还清楚这活该怎么干成、好的结果长什么样。

落到日常，就两个动作，请把它们变成习惯：

  1. 越好用，越要定期抽查。 流程跑得越顺，越要隔一阵子亲手核一遍它的输出，确认它没在你没注意的时候悄悄跑偏。
  2. 保持"看得懂、能挑错"。 别因为它能干就放弃理解。你不用懂技术细节，但要始终知道"它大概在干嘛、哪一步最容易出错、出错了我怎么发现"。这点本事一旦丢了，你就不是在用 AI，是在被 AI 牵着走。

这门课从"AI 是什么"讲到"做出自己的工作流"，教的全是怎么让 AI 替你干活。但请记住最后这一句——让它替你干活，不等于让它替你判断。活可以交，判断不能交。 守住这条线，你就既享受得到 AI 的能干，又不会在某一天，发现自己已经不知道东西是怎么转的了。

关键表达

  • AI 可以帮你执行、整理、生成和检查，但方向、价值判断和最终责任，仍然在人。
  • 机器管信息，人管权力和钱——碰到动钱、动承诺的那一下，必须卡在人手里。
  • 让 AI 把手停在"发送"键前面：内容它准备，"按下去"你来。
  • 贴信息给 AI 前先问一句："这条要是被发到网上，我能不能承受？"
  • AI 给你初稿，不等于给你事实，更不等于给你免责。
  • 又重复、又高频、格式又固定、标准还能说清楚——这种事才值得做成工作流。
  • 最大的风险不是 AI 犯错，是人主动放弃判断；越好用，越要保持看得懂、能挑错。

避坑提醒

  • 别被"全自动"诱惑——自动化程度越高，动钱、动承诺的那个人工确认点越要守死。
  • 别把整张客户表、真实财务数据随手贴进公网聊天框，先脱敏或用内部工具。
  • 别拿 AI 生成的图文直接商用而不留个版权的心眼。
  • 别为了让 AI 做一件五分钟的小事，反复调教提示词调一小时——超过自己做的时间就别折腾。
  • 别因为流程跑顺了就停止抽查、停止理解，那是把判断权交出去的开始。

课后任务

给你的最终工作流（第 19 章做的那个）补一份"安全边界卡"，把这一章落到自己手上：

我这个工作流：______

【AI 可以直接做的】（信息层，错了能重来）：
-

【必须先问我、停在确认键前的】（碰钱 / 碰承诺 / 碰删除 / 碰发送）：
-

【AI 永远不能做的】（无论多顺都不交出去）：
-

【哪些输出必须我人工复核】（涉及事实 / 数字 / 对外）：
-

【我给自己定的抽查习惯】（多久亲手核一遍）：
-

填完它，你这门课就真正学完了——你不只会用 AI，还知道在哪儿该把手收回来。

延伸观看 / 参考来源

这一章的边界和心法，挑这几个对照着看（价格、型号、排名都会变，正文不写死，以官网/平台当前为准）：

别让 AI 替你思考（强烈推荐，对应第八节）

隐私：哪些话不能对 AI 说（对应第四节）

该不该为订阅花钱（对应第六节·成本）

负责任地使用 AI（文字读物，对应第二、三、五节）