软件开发已成为人工智能自动化最大的受益领域。一位首席信息官(CIO)透露,其170人的团队借助AI将生产力提升了2.1倍。

然而,效率提升伴随高昂成本。该团队中AI使用最积极的员工,每人每月Token支出高达2.1万美元;另一位工程负责人则表示,每位工程师每月的AI相关支出在6000至8000美元之间。

这笔巨额开支最终必然源自预算,极可能挤占人员编制,进而对员工生计产生实质影响。但若不作为,企业也将面临真实的商业后果。因此,决策者必须厘清成本与收益:AI投资是否回报良好?是否存在更优的应用路径?

当前,关于AI价值的轶事报告比比皆是,但许多缺乏严谨推理,甚至纯属虚构。鉴于利害关系重大,建立科学的评估体系至关重要。本系列文章将分四部分及尾声,详解如何评估AI对组织软件开发的影响:

  1. 为何量化及避坑指南(本文)
  2. 衡量交付速度
  3. 衡量和建模意外后果
  4. 建模和预测业务结果
  5. 尾声:致首席财务官的备注

为何需要量化影响

工程领导层普遍面临利用AI提升效能的压力,但对于最佳路径共识寥寥,硬数据更是稀缺。即便存在数据,也不存在放之四海而皆准的方案:适合内部IT团队的策略未必适用于初创公司,针对新产品的打法也难以照搬至复杂的遗留系统。

速度并非唯一维度。若工作量翻倍却因高昂Token费用导致裁员半数,投资回报率(ROI)实则存疑;反之,若能以适度提速控制成本,或许是更优解。直觉往往不可靠,一项著名的METR研究显示,工程师主观认为AI使效率提升49%,但实际远未达标。唯有通过测量,才能知晓真实收益。

不可忽视的成本变量

成本虽比影响更易衡量,但也充满挑战,核心变量在于“补贴”。为争夺市场份额,大型AI公司提供大幅折扣。有工程负责人指出,团队成员每月消耗数千美元Token,实际支付订阅费仅200美元。随着Anthropic和OpenAI等公司的促销活动结束,价格终将回归。

然而,价格走势并非单向。开放权重模型、本地推理、专用推理芯片及路由技术的进步,正对Token成本施加下行压力。模型能力增强亦可能减少完成任务所需的Token量。因此,在计算ROI时,不应假设当前成本恒定,而应明确假设,同时模拟乐观与悲观情景。

此外,AI采用并非一蹴而就。如同任何重大变革,员工需时间学习,生产力往往先降后升。忽视变革管理带来的隐性成本,可能导致早期测量结果失真。

着眼长远与意外后果

交付速度仅是图景的一部分。若特性产量翻倍但维护成本同步激增,团队生产力将经历飙升后骤降。工程师职业倦怠亦是重大隐患。一位采用规格驱动开发的负责人表示:“每个团队都在报告职业倦怠。”倦怠不仅降低产出质量,导致问题漏报,更会引发人才流失及机构知识断层。

最终目标在于交付软件“价值”。错误修复率翻倍与竞争性新功能交付率翻倍,其商业成果截然不同。盲目交付未经深思熟虑的特性,反而可能损害产品体验。

摒弃无效指标:代码行数与PR

在确立正确衡量方式前,首先需明确禁忌。切勿走捷径。

首要禁忌是“代码行数”。工程界早在半个多世纪前便证实,代码行数与生产力无正相关性。同等条件下,千行代码实现的功能在维护成本和出错概率上均优于万行代码。AI生成代码往往冗长,若以行数论英雄,衡量的仅是混乱而非效率。

其次,拉取请求(PRs)数量同样不可靠。PR是代码审查的检查点,具有任意性:既可包含10行微调,也可涵盖万行新功能。传统模式下,PR流或许能反映开发节奏,但AI能快速生成大量代码,若无严格监督,PR数量将不再代表一致的开发节奏,甚至诱发人为操纵系统的行为。

衡量方法,而非人员

古德哈特定律指出:“一旦指标成为目标,它就不再是好指标。”罗伯特·D·奥斯汀在《衡量和管理组织绩效》中写道:“逐渐地,指标偏离了真正的绩效……被测量的绩效趋势向上,真正的绩效急剧下降。”

因此,不要建立僵化的绩效考核程序。指标应用于评估特定AI方法的运作效果,从中学习并迭代,而非用于评判团队或个人绩效。衡量的是方法,学成即止。接下来,本系列第二部分将深入探讨如何科学衡量交付速度。