续费季前的复盘会上,客户成功负责人问了个不太好接的问题:客户在对话里问续费折扣,AI 给了一个并不存在的折扣区间,客户截图发到服务群。这个月的续费谈判多花了两轮沟通,这笔时间算谁的?
多数团队会把问题定性成“模型效果不好”,让算法团队排期优化;客户继续由 CS 兜底,因为客户是他们的。这个处理看着负责,实际是把一笔持续发生、可测量的成本,放在了一个没有定价权的人头上。
更有意思的是后面的连锁反应:AI 项目的账面上,成本是推理费用加研发人力;CS 的账面上,多了一块说不清来源的服务工时。两边都合规,公司整体却没省下钱。幻觉不是免费的,它只是换了个部门报销。
服务场景里的幻觉,其实是三件事
公开讨论里,“幻觉”通常指模型生成了与事实不符的内容。放到客户服务里,这个定义太粗,因为不同类型的错误,纠正成本差一到两个数量级。
事实型错误:产品参数、政策条款、活动时间说错了。这类错误可查、可对、可修,知识库补一条、检索加个过滤,大部分能压下去。客户听到错误信息,通常一句澄清就能翻篇。
承诺型错误:AI 说“可以退”、“三个工作日内到账”、“这个功能下个版本就上”。这类错误不是知识缺口,是权限缺口。模型在检索里读到一份通用退款政策,就照着说了,但它不知道眼前这个客户是年付合同、不适用这条。知识和权限是两套系统,模型只看得见前者。纠正成本立刻上一个台阶:要么兑现,要么赔礼,要么两者都来。
流程型错误:AI 引导客户走了错误操作路径,比如让客户先解绑再重新绑定,结果历史数据没了。客户已经产生了动作,纠正不是说话能解决的,得复原状态。这类成本最高,也最容易被低估,因为它往往不在客服工单里,而在技术支持或研发的排期里。
三类错误的兜底成本,大致是这么个关系:
| 错误类型 | 典型表现 | 单次兜底时长量级 | 谁能修 |
|---|---|---|---|
| 事实型 | 参数、政策说错 | 分钟级 | AI 团队,补知识、调阈值 |
| 承诺型 | 越权答应退款或排期 | 十分钟到小时级 | 产品团队,定不可承诺清单 |
| 流程型 | 引导错操作路径 | 小时到天级 | 产品团队,改流程和权限 |
分清这三类,是因为它们的责任方根本不同。把三类混成一句“模型不准”,最后只能落到“再优化优化”,而 CS 继续按老样子兜。
先把兜底成本算成一个数
我一般建议团队先别争该谁负责,先把这个数算出来。算法不复杂:
1 | 1000 次会话 |
单看一千次会话,四百块,不起眼。但日均会话几千次的团队,一个月就是几万块,一年下来是一笔能上会讨论的钱。更关键的不是绝对数字,而是这笔钱记在谁的账上。
AI 项目核算时通常只算推理成本和研发投入,CS 的人力是既有编制,看起来像沉没成本,于是 ROI 算得很漂亮。实际上是把成本挪到了另一张损益表。这种挪移在多个 AI 项目并行时会累积成失真:每个项目都说自己省了钱,公司整体的服务人力却没降。
我见过的一类团队就卡在这里:AI 项目汇报里,自助解决率从三成涨到六成,很漂亮;同期 CS 的人均工单量没降。原因不复杂,简单问题被 AI 接走了,升级上来的都是硬骨头,单个工单的处理时长反而变长。这不是 AI 失败,是指标口径没跟着变:自助解决率的分母是所有会话,CS 工单的分母是升级会话,两个指标得一起看才看得出发生了什么。
谁买单,决定了这个功能会被怎么用
这是我认为最该被拿出来讲的一点。
CS 的考核通常是续费率、人均服务客户数、满意度。这三项里没有一项是“AI 准确率”。当你让 CS 为幻觉兜底,却不给预算、不给开关,理性的做法只有三种:把 AI 入口藏深一点、在关键节点加人工前置确认、只让 AI 处理最没风险的场景。
这三种做法都合理,但对 AI 团队来说,看到的现象是“用户不活跃”、“采纳率低”、“对话轮次少”。于是开始做用户教育、做引导、做运营活动,方向全错。真正的原因不在用户侧,在成本归属上:用的人承担了全部风险,做的人承担了零风险。
所以判断一个 AI 客服功能能不能推起来,我会先问一句:兜底成本落在谁的预算里?如果落在使用方,而使用方又没有权限改这个功能,那这个功能的天花板在立项时就定死了。
按可控性分账,别按部门分账
按部门分账最省事,也最容易吵。AI 团队说模型能力就这样,CS 说这不是我的问题。更好的切法是把错误按“上线前能不能拦住”分三档。
flowchart TD
A[AI 答错] --> B{上线前能拦住吗}
B -->|能| C[AI 团队修阈值或知识库]
B -->|不能| D{客户已产生动作吗}
D -->|没有| E[CS 口头纠正 计入服务成本]
D -->|有| F[产品团队定不可承诺清单]
F --> G[复原成本进产品预算]第一档,知识缺失、阈值太松、没有拒答机制导致的错误,责任在 AI 团队。这类问题的特点是修一次、长期受益,成本曲线往下走。如果这类错误占比高,说明 AI 侧投入不足,跟 CS 的兜底能力没关系。
第二档,承诺型错误,责任在产品。做法不是让模型“更谨慎”,而是给一份不可承诺清单:涉及价格、排期、退款、合同条款、数据导出,模型只能引用原文,不能改写、不能推断、不能补充。这份清单是产品定义的,模型自己学不出来。这跟让模型自由发挥是两回事,前者是把边界写进系统,后者是把边界寄托在提示词的语气上。
第三档,拦不住也约束不了的长尾,才是 CS 兜底。这部分应该明确计入服务成本,并且给一个容忍额度,超了就回头收窄 AI 的权限范围,而不是继续加人。
三档之间该有个大致比例。我的经验判断是,第一档应该吃掉七成以上,第三档不该超过两成。如果第三档长期在一半以上,说明这个 AI 功能实际是在把标准化问题变成非标准化问题,然后交给更贵的人处理,账面上还叫降本。
有些场景,CS 全兜反而是对的
不能一刀切。下面几种情况,让 CS 兜底是合理的。
客单价低、会话量大、产品高度标准化。错误成本就是一句话澄清,为此建一套复杂的权限体系不划算。
内部工具。用户就是员工,错了当场能发现,纠正成本接近于零,也没人拿它去续费谈判。
灰度期。上线前三个月明确约定由 CS 兜底,但要写清楚这个约定什么时候失效,以及失效依据是哪个数。没有失效条款的临时安排,最后都会变成长期安排。
反过来,高客单、强合规、涉及金钱动作的场景,CS 全兜不成立。一次承诺型错误可能吃掉一个客户全年毛利,这不是服务态度能补回来的。医疗、金融、法务类客户,AI 的输出边界要按最严的那条线划,不是按平均值划。
还有个容易被忽略的边界:AI 承担的是“查询”还是“执行”,成本差一个量级。查询错了,客户重问一次;执行错了,客户的钱或数据已经动了。所以我会先把 AI 限制在只读能力上,跑一段时间,看兜底工时降到什么水平,再决定要不要放开写操作。这个顺序反了,返工成本很高,因为流程型错误一旦发生,要改的不只是模型,还有已经走完的那批客户。
一条能直接用的停手规则
给两条,都能在续费复盘会上直接用。
单客户的年兜底成本超过其年毛利的 10%,就该收窄 AI 权限,而不是加人。阈值是经验值,不同毛利结构要调,但方向明确:兜底成本是分子,毛利是分母,别只看绝对值。一个年毛利几万块的小客户,兜底成本超过几千块,续下来也是亏的。
兜底工时占该客户服务总工时的比例连续两个月上升,说明 AI 在处理的问题类型正往难的方向漂。这时候该查的不是模型效果,是问题分布:是哪类客户的哪类问题在往上走,是不是权限放得太早。
续费复盘会的议程里,通常有收入、有流失、有 NPS,没有“AI 兜底工时”这一项。加上它不需要新系统,CS 每周花十分钟,把升级工单里跟 AI 相关的挑出来打个标就行。
这个数出来之后,“该不该为幻觉买单”就不再是立场问题。哪一类错误、占多大比例、谁的修复成本最低,账自己会说话。如果这个数现在还拿不出来,那讨论责任分配还太早,先算账。
评论