
从企业在数月内耗尽年度AI预算,到部分公司限制员工使用AI工具,“Tokenmaxxing”(过度消耗Token)现象正触及上限。许多企业的关注点已从激励业务产出,异化为对资源消耗量和使用频率的监控。
削减AI使用看似是自然对策,但在实践中往往行不通,甚至可能导致高价值项目被误砍。由于缺乏可靠的AI投资回报率(ROI)衡量方式,企业只能针对唯一可见指标——消耗量——进行管控。
Gartner估计,84%的财务负责人未能衡量AI倡议的投资回报率。缺乏性能基准和可追溯性直接导致ROI不佳。商业领袖需优先掌握从开始到结束的全貌,清晰了解AI支出,以重建信心。
成本追踪困境
生成式AI的快速普及引入了新的消费模式,传统IT财务管理难以适应。长期以来,组织围绕云和本地工作负载优化预算,但新工具的成本取决于提示词复杂性、准确性及模型类型。大语言模型(LLM)固有的可变性,使得准确追踪成本变得困难。
随着AI代理(Agents)的引入,问题更加复杂。与静态的AI聊天机器人不同,代理通过独立于人类的连续后台循环工作,自主生成多个查询以解决复杂任务。不可预测的Token消耗、大量GPU使用及快速扩展,使得理解运行一个代理的成本极具挑战。
支出可视性盲区
另一障碍在于可视性。AI工具的快速采用导致支出分散在复杂的业务单元、基础设施、供应商API和工程团队之间,而非集中化管理。企业云账单和API账单 rarely 实时更新或易于解读,导致实际花费难以厘清。
这迫使组织改变衡量成功和支出的方式。仅追踪单个Token成本的孤立数据已不足够。为确保清楚了解所付费用及所得回报,团队领导者必须建立框架,更严格地掌控预算,使财务实践与技术采用步伐同步进化。
从数量转向价值
取代“试错法”的关键,在于重新思考如何定义和衡量生产力。许多企业鼓励员工多用AI,却少有企业实施具体指标,将高使用率与改善结果挂钩。例如,产品流程是否加速或降本?仅衡量代码提交、工单关闭等中间步骤,并不一定符合业务价值。
为此,必须建立基准。企业需知晓在无AI情况下,从人力到工具的流程成本,以便做出正确判断。没有基线,任何增益皆为猜测。技术业务管理(TBM)和FinOps等框架由此发挥作用,旨在确保每一笔支出被理解并与关键业务目标挂钩,培养问责文化,打破成本孤岛,将技术支出视为实时产品变量。
持续的财务智能
为利用AI创造真正价值,团队必须将其视为可衡量的业务驱动力。领导者不应将成功定义为员工使用AI的次数或登录频率。只有当花费的资金直接与影响业务产出的改善结果挂钩时,真正的ROI才会显现。
简言之,企业需获得清晰且诚实的支出视图,从而做出更明智选择,优先投资正确领域。这将带来更准确的成本认知,识别出真正推动业务前进的AI项目,而非仅作为炫耀性存在。