我大部分时间都在其他公司的工程团队内部工作，构建用于跟踪和优化AI开销的系统。对话的开场几乎如出一辙：有人调出仪表盘，指着一个远超预期的数字说：“我们知道费用涨了，但真不知道为什么。”

我常打一个比方：AI时代的CIO就像是在优化繁忙十字路口的城市规划师，他们能测量交通流量，也能听到大家消除拥堵的诉求，但无法分辨一辆车到底是卡车还是自行车，更不知道它为什么会上路。缺乏这些信息，他们就无法设计出正确的解决方案，结果花大价钱修了高架桥，而数据原本表明只需要一条自行车道。

每一次模型选择和预算讨论都是在这种模糊的状况下进行的，而交通流量每个季度都在变大。Gartner预计今年全球AI支出将增长47%，其中自主式AI软件的增长率约为141%。到2028年，它预测《财富》500强企业平均将运行超过15000个智能体，而2025年这一数字还不到15个。

为什么云治理的套路回答不了AI的提问

AI呈现了一个与云成本管理本质不同的问题，在云时代，我们主要通过给资源打标签来回答“这笔费用是谁花掉的”。虚拟机有所有者，S3存储桶归属于某个团队，FinOps再以此为基础进行优化。当时账单更新虽慢但尚可接受，因为开销在可预测的区间内波动，每项资源在产生费用前都需要人工配置，而且治理机制限制了成本的增长速度。突如其来的费用固然令人不快，但极少威胁到生存。

然而AI横空出世，直接将这套模式推向考场，并彻底痛打了一顿。Token调用不像虚拟机那样是一项物理资源，因此标签根本无处附着。为了降低使用门槛，超大规模云厂商在共享的多租户基础设施上运行大模型，这虽然降低了单Token的价格，却剥离了跟踪和控制开销所需的粒度。

一个API密钥可以承载跨三个团队的十几个工作流，而使用者往往是自主智能体，并非人类。故障模式也是全新的：智能体可能会偏离任务，在检索端点上陷入死循环以寻找找不到的答案，并在无功而返时从头重新开始。每百万Token几美元的价格看似微不足道，但当这个循环在数千个并行会话中运行时，一天就能烧掉五位数。这一切既不会触发任何资源配置拦截门槛，也无法映射到可打标签的资源上。云治理所依赖的控制点，在AI面前荡然无存。

其后果可能非常严重，Uber在Claude Code的使用量远超预期后，短短四个月就耗尽了整个2026年的AI预算，而他们绝非孤例，我合作过的许多大型企业在没有登上新闻头条的情况下也遭遇了同样的问题。几乎在每起案例中，推高开销的团队都不对预算负责，而且在账单寄达之前，没人注意到规模已经膨胀到了这种地步。这对管理者来说是信誉的毁灭性打击，因为这些超支削减了利润，动摇了利益相关者的信心，即便他们唯一的过错只是在使用手头现有的工具时尽了全力。

数据证实了这一点，DoiT近期对企业财务领导者的一项调查发现，在那些认为自身FinOps成熟度最高的组织中，仍有89%在去年出现了AI预算超支，且超支幅度在整个研究中最大。再强调一遍：成本纪律严明的团队超支反而最严重。他们为需要人工拦截、可打标签的资源构建了出色的治理体系，然后试图将这套体系硬套给既无拦截也无标签的工作负载。他们看到了超支，但为时已晚无法阻止，也缺乏洞察力去弄清楚该把精力集中在哪里。

应用程序插桩时代让我们更近一步，但付出了高昂代价

我们曾给出的最佳方案是对应用程序本身进行插桩：将每次LLM调用包裹在OpenTelemetry span中，注入成本分配元数据，并在多智能体工作流中传递该上下文，以便将Token计数汇总给预算负责人。我做过数十次这样的工作，它确实有效：能实现精准的单次请求归因，远比按估计拆分每月账单好得多。

但这始终是一种折中方案，你只能测量那些你想到了去插桩的部分，就算你做了，答案往往也来得太晚。

我最近合作过的一家客户构建了大约十个协同工作的智能体，用于自动化软件的安全和质量评估，其中大部分都在常态化运行。他们的账单一直在无缘无故地飙升，经过漫长的排查才找到原因：其中一个24小时运转的智能体消耗的Token是其他任何智能体的20倍，它陷入了无限循环，每次启动都会重新生成一个永远不会结束的进程。异常信号就摆在数据里，但只有在挖掘了数周并真金白银流出之后才浮出水面。

这其中还存在一种讽刺：AI本应为工程师节省时间，而手动插桩又把这些时间消耗掉了。你让资深工程师去搭建测量管线，只是为了控制本该提升他们生产力的工具的成本。此外，这种方式非常脆弱;每一个新模型、SDK和智能体框架，都是另一个需要持续维护的集成点。“为可能构建的一切进行插桩”并不现实，尤其是每天都有数万名员工和无数智能体在上线新的工作流。

当归因下沉到基础设施层会发生什么改变

目前正在兴起的方法——也是正在改变我开展此类咨询工作方式的方法——将归因从应用程序下沉到了基础设施层。与其让团队通过自己编写的代码来描述开销，不如直接观察在底层运行的内容。

其实现机制是内核级传感器，采用的是与安全和可观测性工具相同的eBPF技术，无需修改上层应用程序即可监控系统调用，它将GPU、CPU、内存和网络的每个单元映射回引起它的进程、容器和请求，然后将每次发出的模型调用与提供商的成本数据相结合，从而将Anthropic、OpenAI、Gemini或Bedrock上的Token开销与驱动它的工作负载和智能体精确匹配。

这种方式能提供与OpenTelemetry相同的答案，精度相当甚至更高，但却是实时的，且无需任何手动插桩工作。无需预先规划，也不会漏掉任何东西，管理AI开销的数据第一次以可操作的粒度持续可用，我那位客户遇到的智能体失控问题，在刚开始像滚雪球一样扩大时就会被识别并解决。

治理不再是自上而下的审计

治理方式的变化是我认为最有趣的部分，因为有了持续、精准的归因，你就可以设计专为AI打造的治理体系，而不是去改造一个为不同物理规律时代设计的系统。

战略依然属于高层，由CIO和财务领导者制定方向、预算和优先级，但保持在这些界限内的日常责任则转向了具体执行者。以往的云治理是自上而下的，因为资源配置要经过少数掌握完整业务上下文、能够权衡利弊的人，而在AI时代，消费决策无处不在，散布在共享密钥、智能体和数十个团队之间，因此遵从性必须由做出决策的人来承担。

实时归因让这一切成为可能，工程师可以在构建时实时看到所建内容的成本。原本可以使用更小模型却调用了前沿模型、在碎片化数据存储中散开的检索循环、智能体在紧密循环中不断重试失败的工具调用——这些不再是季度复盘时的谜团，而是在代码尚未冷却时就被捕捉到，同时，由于管理层也能看到相同的数据，他们可以权衡开销与价值并调整整体投资组合，而不是去对一份谁也解释不清的账单大打出手。回到那个十字路口，规划师终于能分清卡车和自行车了，路上的每一个工程师也能分清了。

可观测性的真正目的

因此，即便对于纪律最严明的团队来说也是最大绊脚石(双关语)的根本性障碍，现在以一年前无法想象的方式得到了解决，但解决它从来不是最终目的，可观测性只是手段，它只是必须先被解决。

实时、细粒度的归因让企业能够开始将AI视为一项可控的投资，而不是一场“先付钱再祈祷”的实验。当你将开销与具体工作相连、工作与产出相连、产出与支撑它的业务逻辑相连时，你就能有意识地治理AI，并将资金投向能够产生价值的地方。

过去两年回报的是那些利用AI交付更快的生产力先行者，而下一阶段的胜者将属于效率和影响力兼备的人——属于那些能在每美元推理成本上获取最高价值并能做出证明的人，这是一个战略问题，而且数据第一次存在，让大家能够在这一维度上一决高下。你究竟为客户增加了什么价值，以及这需要付出多少成本，将不再是一个猜想。

企业网D1net(www.d1net.com)：

国内头部to B IT门户，旗下运营国内头部的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。