跳至主要内容
代码写快了,发布没快:瓶颈在排队

代码写快了,发布没快:瓶颈在排队

一个常见场景是:团队给研发配了代码补全和生成工具,写一个功能从几天缩到一两天,PR 数量明显上来。可过了两个迭代,发布频率还是每周一次,线上变更的端到端时间也没怎么动。于是有人开始怀疑工具没用。工具当然有用,只是它优化的是流水线里的一个工位,而发布节奏由整条流水线最堵的那一段决定。

代码写快了,不等于发布快了。中间隔着评审、测试、环境和发布窗口几个排队区。任何一段容量不变,前面的加速都会变成库存。

编码变快,先变成待评审的库存

很多团队测量提效,只看编码时间、生成代码量、补全接受率。这些指标能说明工具在工位上有效,却回答不了老板真正关心的问题:从决定做这个变更,到它在生产环境稳定运行,一共花了多久。

拿一组假设数字算一遍。某类需求原来编码 6 天,等待评审 3 天,评审 2 天,CI 与测试 4 天,等待环境 2 天,等发布窗口 5 天,端到端 22 天。接入 AI 编码后,编码压到 3 天,但评审因为 diff 变大涨到 2.5 天,其余不变,端到端是 19.5 天。编码时间减半,交付周期只少了约一成。

阶段 优化前 优化后 说明
编码 6 天 3 天 补全和生成压缩了写作时间
等待评审 3 天 3 天 评审队列没有扩容
评审 2 天 2.5 天 diff 变大,验证成本上升
CI 与测试 4 天 4 天 测试容量没有变化
等待环境 2 天 2 天 预发布环境仍要排队
等待发布窗口 5 天 5 天 发布列车照旧
合计 22 天 19.5 天 编码减半,端到端少约一成

这不是说工具没用。它确实把编码这一段压下去了,只是收益在整条链上被稀释了。如果评审和测试已经接近满负荷,编码变快还会把更多变更推到队列里,等待时间可能把省下的几天吃回去。你测量的是工位效率,用户感受到的是交付周期。

排队论不关心你键盘敲得多快

端到端周期里,真正占时间的往往不是干活,而是等活。一个 PR 写完后等两天才有人看,这两天不产生任何代码,却完整计入发布周期。很多团队优化时盯着“写”的动作,因为它是可见的、可计量的,也最容易买到工具。等待不可见,散落在看板列、聊天记录和 CI 队列里,所以最容易被忽略。

更麻烦的是,上游变快会提高下游的到达率。假设评审组每天稳定处理 20 个变更,原来每天来 15 个,队列可控;编码提效后每天来 25 个,队列每天净增 5 个。第一周看不出,第三周开始,所有 PR 都在等。评审的人没有变懒,是输入量变了。

约束理论里有一句话,非瓶颈上的改善不会提高系统产出。局部提效被吞掉,不是因为收益是假的,而是因为收益堆在了瓶颈前面,变成了在制品(WIP)。在制品一多,批次变大,切换变多,故障定位也变难,最后连原来的节奏都保不住。

所以我会先问:现在最长的等待发生在哪个队列?不是“AI 帮我们省了多少时间”,而是“省下的时间有没有变成更快的发布”。这两个问题看起来接近,答案常常相反。

评审的输入变了,不是评审的人变懒了

代码生成把评审从“看你怎么写”变成“判断这段代码能不能被团队拥有”。以前 reviewer 看的是作者的思路,变量命名、边界条件、测试意图都在 diff 里。现在很多代码是模型生成的,表面完整,缺少上下文。评审者要反推:它为什么这么改,漏了哪个分支,异常路径有没有处理,测试是不是只测了主流程(happy path)。

diff 变大是一个直接后果。原来一个 PR 两百行,现在可能五百行,里面还有模型顺手重构的部分。评审注意力有限,diff 越大,越容易只看主路径。评审时间上升,漏报率也上升,这两个指标经常一起出现。

我不认为应该用“AI 生成”作为免责声明。代码进了仓库,维护责任就是团队的。评审时要能回答两个问题:这段变更的意图是什么,出问题时怎么退。如果 reviewer 说不清,就不该合。这个判断比“代码能不能跑”更严格,也更接近生产现实。

具体做法不是加更多评审人,而是控制进入评审的批次。把重构和功能拆开,把生成代码和手写代码的边界说清,把验证方式写进 PR 描述。评审人少看一点,反而看得准。测试也要一起评审。模型生成的测试很容易断言实现细节,改一行实现就红,或者只覆盖主流程。测试数量增加不等于测试能力增加。

测试和环境是固定容量,不会因为代码写得快就自动扩容

CI runner、测试数据、预发布环境(staging)、第三方沙箱,这些都是共享资源。代码产出增加,最先感受到的不是用户,是 CI 队列。一个测试套件从二十分钟涨到四十分钟,单看还能忍。但如果每个 PR 都要跑,队列一长,等待时间会超过测试本身。团队开始并行、重试、跳过,最后不是更快,是更不可信。

不稳定用例(flaky test)是另一个隐形税。一个不稳定的用例会让所有人重跑,重跑又占容量。你以为是测试问题,其实是发布节奏问题。测试通过率看起来很高,团队却不敢信,发布前还是要人工点一遍,这段人工验证又变成新的等待。

环境也是。三个 staging 槽位,五个团队用,谁先占谁先验。代码写得快,只会让抢环境更频繁。加环境不一定便宜,但常常比继续买 coding 工具更直接。尤其是需要外部沙箱、脱敏数据、硬件设备的场景,环境容量就是硬约束,不是多写几行脚本能解决的。

测试策略上,我会把门禁分成阻断项和观察项。涉及资金、权限、数据删除的路径必须阻断;文案、样式、低频后台可以灰度观察。所有测试都塞进同一个门,结果是大批一起等,出了问题也难定位。这不是降低标准,是把验证资源放到风险最高的地方。

发布窗口不是纯浪费,有些等待是风险预算

发布节奏还受审批、客户沟通、值班安排、合规窗口影响。这些等待不全是坏习惯。一个 to B 产品每周固定窗口发版,可能是因为客户要培训、支持要排班、回滚要人守着。你让代码快十倍,这些协调成本不会自动消失。

但也要区分“必要的协调”和“习惯性批处理”。如果所有变更都挤进同一个发布列车,哪怕是一个文案修改也要等一周,那就是批量过大。批量越大,单次发布风险越高,定位越难,团队越不敢频繁发布,形成循环。

这个循环解释了一个常见现象:发布越慢,团队越不敢小步发。

flowchart LR
    A[批量变大] --> B[单次风险变高]
    B --> C[审批更严]
    C --> D[发布更慢]
    D --> A

要打破这个循环,不是把审批全删掉,而是按风险分级。低风险变更走功能开关(feature flag)、灰度、自动回滚;高风险变更保留评审和窗口。分级的前提是你能识别风险,不是所有变更都贴同一个标签。

feature flag 不是免费。开关多了,组合爆炸,清理不及时,自己就是故障源。我倾向只给真正需要隔离的变更上开关,并在发布后设一个清理期限。这个期限不是形式,过期不清理的开关要进技术债清单,否则下一轮发布又会多一个不确定因素。

先量哪一段,再决定要不要继续买工具

如果团队想验证“为什么没快”,不要争论工具好不好,先抽几十个已经上线的变更,记录时间戳。看 p50 和 p90,不只看平均。p50 是中位数,p90 是九成变更都能落在其下的时间,更接近大家日常感受到的等待。

指标 看什么 常见误读
端到端周期 从变更确认到线上稳定 只看编码时间
队列等待占比 等评审、等 CI、等环境、等窗口 把等待算成处理时间
PR 大小分布 diff 行数、文件数、是否混合重构 只看 PR 数量
CI 排队时长 从 push 到 runner 启动 只看测试执行时长
环境冲突 等 staging 的次数和时长 只抱怨环境不够
变更失败率 回滚、热修、告警 只看发布次数

算完之后,判断很直接:如果编码只占端到端的两三成,而等待评审和测试占了一半以上,继续优化编码的边际收益很低。此时加一个评审人、拆小 PR、增加 CI runner、做临时环境,可能比换更强的模型更有效。反过来,如果编码确实占了端到端的大头,下游也有余量,那么继续投入编码工具是合理的,收益会真实落到发布上。

我会用一个停手规则:连续两个迭代,端到端 p90 没有下降,就停止扩大编码工具的使用范围,先把约束段处理掉。否则你只是在更快地制造库存。这个规则也适用于评估其他 AI 工具:不要看它在一个工位上省了多少秒,看它有没有改变端到端最慢的那一段。

如果你在做 AI 编程产品,这一点尤其重要。客户买的不是生成速度,而是发布周期。只演示“几分钟生成一个页面”,会把最难的那段留给客户自己。真正能卖出溢价的,往往不是模型多写几行,而是你帮客户看清瓶颈在哪,并且让省下来的时间能走到生产环境。

我做了十年 AI 产品,现在看一个工具值不值,会先看它有没有把端到端最慢的那段变短。生成速度很快,但库存也堆得很快。下一次评估编码工具,先把它接入前后的端到端 p90 拉出来,比看演示里的生成速度更有用。

关于本文

由 Lu's Blog 撰写,采用 CC BY-NC 4.0 许可协议。

#发布节奏 #工程管理 #研发效率

评论