
想象一下,如果纳斯卡赛车以“燃烧最多燃油”为获胜标准,车队会将引擎调校得低效耗油,车手同时踩下油门和刹车,虽创下燃油消耗纪录,赛车却最终垫底。
今年早些时候,这种“浪费性消费”逻辑曾主导AI度量项目。部分公司建立内部排行榜,依据员工消耗的Token数量排名。Meta一名员工甚至构建了此类系统,加冕“Token传奇人物”,但在数据泄露后悄悄下架。春季,这一现象被命名为“Tokenmaxxing”(过度消耗Token)。
随着夏季到来,反弹随之而至。Uber等公司承认,其在短短几个月内便花光了全年的AI预算。
近期,风向转向另一极端——追求使用最少量的AI Token(tokenminning),但这同样存在问题。若将“胜利”定义为消耗最少燃料,获胜的赛车可能永远无法驶出起点。
无论是过度消耗还是节省Token,均非最终目标。真正的目标是:用相同或更少的人员,生产更多、质量更高的产品。领导者的职责是定义通往终点的最优战略路径,并据此构建支持该目标的指标体系。
为什么排行榜会偏离目标
虚荣指标(Vanity Metric)指那些在幻灯片或仪表板上光鲜亮丽,却无法改变业务运营方式的数字。在AI领域,即便是复杂的技术指标也可能沦为虚荣指标。
例如,炫耀性的GPU利用率,无论是否解决实际问题,仅吹嘘囤积了多少原始算力;又如每季度推出的AI功能数量,领导层仅为传统产品贴上文本摘要器标签,以此充实发布说明。
这类指标看似严谨,实则与实际工作脱节。当领导者未能将指标与最终目标挂钩时,工程师往往会竞相追逐最容易量化的项目。
缺失的赛道地图
只有正确的工作才有意义。当领导层因GitHub Copilot许可证部署而庆祝“95%的采纳率”时,可能将表面访问误认为深度参与。他们假设生产力飙升,但实际上衡量的仅是谁使用了工具,而非谁有效利用它改善了结果。
开发人员生成代码的速度或许更快,但若工具未深度整合至优化流程中,PR(拉取请求)体积膨胀,瓶颈仅转移至人工代码审查环节。周期时间停滞不前,更糟糕的是,因人工对AI幻觉的盲目确认,错误率反而上升。
弥合这一脱节的关键,在于将使用深度直接与结果和业务目标挂钩。若拥有95%的“采纳率”,但周期时间未下降30%,或返工率未减少,则并未实现高使用率,只是增加了一笔昂贵的软件分发费用。
如何设定终点线
单一数字很少能讲述完整故事。若代码产量翻倍但交付时间也翻倍,效率并未提高,反而制造了更多工作。关键问题不在于使用了多少AI,而在于工作是否真正变得更好。
对于拥有成熟工作流的工程团队,应从期望推动的结果入手,使用DORA或SPACE等框架检查目标达成情况。这些框架是工具而非目标。DORA跟踪交付管道健康状况,包括部署频率、变更所需时间、故障恢复速度及变更导致事故的概率。
SPACE则从五个维度追踪开发者生产力全貌,涵盖成果和满意度。虽非专为AI设计,但其价值在于帮助衡量AI是否让工作变得更好,而非仅仅衡量AI是否被使用。
将这些框架与AI工具使用情况及业务成果(如周期时间、返工率、单次变更成本)相结合。2025年DORA报告显示,许多团队在未充分准备的系统中部署AI后,出现AI采纳率增加25%但交付稳定性下降的情况。这并非胜利,工具放大了原本存在的问题:良好的工程基础变得更好,脆弱的基础变得更加脆弱。
对于工程以外的角色(如营销、财务、运营),应从第一性原理出发。从试图改善的具体结果开始,如响应时间、管道转化率或预测准确性。在AI介入工作流之前确立终点线,之后针对同一结果进行测量。若结果改善,找出AI的作用及可重复性;若未改善,亦有所获。
例如,一个希望缩短首次响应时间的客服团队,将基线设定为9小时,随后让代理人员使用AI助手起草回复。两个月后,响应时间降至3小时,重新打开率未变,意味着速度提升未牺牲质量。这是一个可命名、测量和重复的成果,无需依赖排行榜。
保持终点线在视野中
指标的目的是为了管理以实现特定成果。若在指标上的投入多于对成果的关注,便是本末倒置。你是在看油箱,而非终点线。
因此,在建立下一个AI指标前,请问自己:如果这个数字发生变化,哪个成果会受到影响?若无法回答,你测量的就不是进步,而是燃油表。先定义终点线,其他一切仅仅是遥测数据。