一位客户发来的需求只有四行字。第一行是「搭建智能体统一下达指令」,第二行是抖音、小红书、视频号三个平台自动投流。意思很直接:智能体听指令,自己去投。
查下来,这三个平台的官方投放接口都要企业资质和平台审批。客户要是拿不到,就只剩一条路:让程序模拟人去点广告后台。在那里填错一位数,就是真金白银。比填错更要紧的是谁拍板:智能体听一句话就自己决定投多少、投给谁,理解偏一点,花出去的钱就退不回来。
我们对这单的判断是:全自动不做。为什么这么谨慎,要从另一单说起。
一个「自动修正」会错成什么样
给一家海外工厂整理记账表时,243 条流水里有 43 条「员工手选的收支方向」和「分类自带的方向」互相矛盾。最省事的做法,是按分类把方向统一改掉,账面立刻干净。
我们没有这么做,而是让 AI 逐条读每笔流水的事由,给出归类建议。结果是:39 笔是员工把收进来的钱先堆进了一个叫「待确认支出」的分类,分类挂错了,方向本身没错;1 笔是真记错了;还有 3 笔事由太短,判断不了。这些建议只写进「待修正意见」这一列,每笔账的收支方向和金额一笔不动,留给客户逐条确认。
客户那边的决定是先不逐条改,等后期重新录入,眼下只要把存疑的地方标出来。那一列从头到尾只是建议,改不改、怎么改由客户决定。如果当初按分类把方向统一改了,按金额算,收入会凭空少掉约一成,少掉的这部分又被记成了支出,而且不会有任何报错。
为什么要把「建议」和「执行」拆开
涉及花钱、法律责任、专业判断的动作,AI 只出建议,人确认后,再由确定性脚本去执行。模型出错是概率问题,常见的输入上很准,没见过的输入上就不一定。规则也一样,没料到有人拿分类当暂存筐,它就一本正经地改错。不管错在模型还是规则,花钱和担责的动作都退不回来,错一次就是一次。人确认这一步,是把这种错拦在不可逆的动作前面;执行交给确定性脚本,是为了保证确认的是什么,执行的就是什么,中间没有第二次自由发挥。
这条线也不只是我们在划。有个学前教育课题组要做辅助老师教研的智能体,他们需求书里自带的十四条验收检查表,贯穿的就是这一条:AI 只出建议,老师确认和同伴审辩两个环节必须留着,成效允许答「暂未有效」「证据不足」。
回到投流那单,要做只能拆成三段:智能体出建议,人确认,脚本执行。智能体再聪明,花钱这件事也轮不到它拍板。
那四行需求的最后一条是 AI 客服,用来对接想带货的达人。这一条我们的判断是照原样做不了。找达人本身,要走平台官方的达人合作通道;客服这部分,客户自己说 SOP 还没整理。人要确认,手里得有把尺子,客服的尺子就是 SOP:没有它,AI 回什么都是自由发挥,人也没有标准去判断它答得对不对。没有 SOP 就没有客服,SOP 列为甲方的前置交付物:SOP 先到,客服再谈。
我们现在的规矩
- 花钱、担责、专业判断三类动作,AI 只出建议。 人确认过,再由确定性脚本照确认的内容执行。
- AI 的产出先落成「待确认」,原文一并保留。 存疑的账只写进「待修正意见」,改不改由客户定。
- 动钱的执行,自带四道保险: 预算硬上限、单次调幅上限、全程留痕、一键回滚。
- 退不回的动作,默认留给人来按。 上架只推到草稿,发布由人拍板,因为发布之后回不到草稿。
- 允许 AI 说「判不出」。 证据不够就标待人工,核对结果只报「疑似」;逼出来的结论,多半是编的。
AI 可以替人想,不能替人签字。
