AI 出错了,你修的是哪一层?

前阵子我脑子里一直转着一张截图。

营销 AI 深夜发了一封邮件,把东西发给了错误的人群。甲方一查,审计日志整整齐齐——模型版本、上下文、策略检查、操作记录、审批状态、最终动作,一样不缺。你甚至能把「它在想什么」整个回放出来。

可邮件已经发出去了。收件人已经点开了。

然后呢?

你不是不懂技术。过去两年,可观测性、护栏、策略引擎、人在环、模型版本管理,你门儿清。真正让你卡住的,是拿到证据之后的那十分钟。

这十分钟,没人写进任何手册。但营销人的 AI 治理,往往就输在这十分钟上。

为什么营销先挨这一剑

营销是公司里被自动化武装到牙齿的部门。预算竞价、人群圈选、个性化、生命周期自动化、标题生成、站内客服、创意变体……大部分环节,没有一个真人逐个点确认——因为要是每个都需要确认,自动化就白装了。

麻烦在于,营销的 AI 犯错,通常没时间内部先查一轮。

财务看走眼的预测,还能在报表见人之前悄悄改回来。可一封不该发的促销,已经躺在收件箱里、屏幕上了、时间线上了。

说白了,营销人接手的问责,常常是一张已经发出的截图。

于是 CMO 们攒下了一大堆「锅」——系统不是他配的、规则没人写下来、量却大到没人看得完。系统出错,背责的是营销。

证明你没做错,不等于你做得对

先说清楚什么叫「决策回执」(Decision Receipt)。

就是一纸记录,把决策当时「谁在管它、谁给了授权、到底发生了啥」都留了档。这是个好东西。

但就它本身,一旦出事,它一文不值。

为什么?

因为一份完整的记录,只证明你能看得很清楚。它不证明你做得对。

黑盒可怕,是因为你没法诊断。一份记录得完美无缺的坏决策,是比黑盒好一点,但也只好了「有人知道该拿这份诊断怎么办」的那一点。

在一个好的治理架构里,决策回执只是「证据层」,不是治理系统本身。

打个比方:行车记录仪拍下了事故全程,可它不会替你决定该修刹车还是该修轮胎。

所以真正的问题从来不是「你记没记下来」,而是——

拿到证据,确定 AI 错了。你该修哪一层?

同一条促销,三种八竿子打不着的错

假设你的个性化引擎给一个高价值人群放了 20% 的折扣。三张回执,长得一模一样——上下文、授权、版本、动作,都齐。可底下翻车的根本不是一回事。

第一种,修实施。 批的促销上限是 10%。授权模型没错。是执行没守住线——一条过期的规则、一个没同步的权限、一道没触发的闸门。这就是每个团队都预料过的那种 bug。

第二种,问题出在规则本身。 20% 是批过的规则,系统照单执行,一分不差。可三个季度后复盘发现——这群人已经被养刁了,就等着打折,全价转化崩了。

什么都没坏。规则合法、执行正确,但它就是错了。这是决策架构的毛病,不是工程的毛病。

第三种,最阴。 营销说这群人够格。财务说任何让毛利跌破底线的促销都不行。营收说战略客户不参与普适优惠。

三条规则,全都管这件事,全都合法。可这三条之上,从来没有人拍板过:它们撞车时,谁赢。

活还是干下去了。总有人替它选了一个解释——供应商的默认配置、某个工程师赶工时的合理选择。回执会告诉你「有规则被执行了」。它不会告诉你:这条规则的授权,压根没落到有权解决冲突的人手里。

同一条促销,三个不相干的病根。修了第一种,对第三种一点用没有。

这就是为什么,一张只会说「发生了什么」的回执,它该干的活还没干完。

真正的 bug,可能根本不在软件里

工程师天生擅长把一份「已经定下来的需求」实现得干干净净。你给个明确规则,团队就给你建对、执行稳。

它是在更高一层崩掉的——当业务递给工程一份「伪装成需求的、没想清楚的判断」。

举个更小的例子。

你的内容引擎写了一封「7×24 小时专属客服」的邮件,因为这句话在以前的战役里测试效果好。可它不知道,三个月前客服已经砍掉了周末排班。

规则没违反。闸门没失灵。系统忠实地优化了它被告知的东西——然后产出一句公司兑现不了的承诺。

没人决定过「系统到底代表公司可以承诺什么」。

这不是提示词的问题,也不是模型的问题。这是一个早就该做、却一直没做的决定。

放大到系统 vs 系统,一样。

营销自动化承诺白手套式 onboarding,销售助理给个量级折扣,流失模型又判断这个客户危险、自动触发挽留积分。三个系统,各自出色地完成了自己的 KPI,一个星期内给同一个客户发去三条互相打架的消息。

每张回执都会说「我在遵守规则」。没有一张会说「谁先开口,决定过吗」。

工程师没资格拍这个板。他只能把接到的答案写进代码;没人给答案,他就塞一个默认值。

有些问题不是执行坏了。是压根没有「有授权的执行内容」可执行。

而且这一切,前提是先「拿到事实」。「重建」(reconstruction),是出事之后再把答案拼起来;「调取」(retrieval),是决策当时的证据早就躺在那里。调取不是终点,它是诊断得以发生的条件。

那道被所有人漏掉的题

大多数治理讨论,讲到这就不往下走了。

往下是什么?

一次决策,产出一张回执。回执被质疑。有人判断是哪一层败了。一个有授权的人拍板改什么。规则或控制被更新落地。下一次等价的决策,再产出一张新回执——这张回执得证明「修正真的管住了」,而不仅是「改了个东西」。

要是同一个例外没完没了地复发,它就不该每次都麻烦那位高层再拍一次板。

营销、财务、营收就「战略客户谁说了算」争过一次,那个结论就可以沉淀成一条新规则,或一条明确的升级路径——下一次战役直接继承答案,不用重吵。

但有个边界,得钉死:**AI 不能因为自己「看出个规律」就改写策略。**改,必须由有授权的人拍板。拍完板,系统才有资格继承。

只记录、不修正,那叫法证学,不叫治理。治理,是有能力改变「接下来发生什么」。

最重要的那道考试

营销人早就凭直觉练出了「截图测验」:要是明天有记者把这张图挂上网,今天你还能理直气壮地站出来认吗?旁边还蹲着「董事会测验」和「审计测验」:领导能讲清楚这个决定吗?你能「调取」而不是「重建」吗?

这三道,都只是底线。

被最多框架跳过的,是第四道——修正测验:

一旦证明一个决策错了,你能不能看出——该修规则?修控制?修实施?还是修规则背后的「授权」?——并且能证明,下一次,修正真的扛住了?

一家三道全过、第四道挂掉的公司,法证一流,学习回路为零。它会一遍又一遍地产出同一份错误的完美记录,一场战役接一场战役。

把这想深一层,回执就不再是防守的摆设。每一个被妥善解决的例外,都在变成先例。每一条被修正的规则,都在提升之后那次决策。

最后,这家组织存的,不只是「当时决定了什么」,而是「当时为什么这么决定」、它又学到了什么。

如果回执证明你的 AI 错了,那有用的问题,不是「你能不能找回发生了什么」。

而是:失败,是坐在执行里,还是坐在规则里,还是坐在造出那条规则的授权里?以及,你修好之后,能不能证明它真扛住了。

证明只告诉你发生了什么。治理,在你修好「管它的那层东西」、并证明修正扛住的那一刻,才真正活着。