外媒评论认为,企业过去两年大规模试用 AI 是合理选择,但 2026 年管理层更关心的,已经从“部署更多 AI”转向“如何在控制成本的同时拿到实际结果”。文章称,单纯依赖更便宜的 token 或模型,并不能解决企业 AI 的核心问题。

五个常见浪费环节

作者指出,许多公司当前的 AI 使用方式像“漏水管道”。从提示词构建到数据调用,再到模型选择和结果复用,多个环节都在持续消耗不必要的 token 和预算。即便 OpenAI、Anthropic、Google 等厂商近来下调输入 token 价格,并推出提示缓存等功能,这也只能缓解一部分压力。

文章将企业 AI 的低效率归纳为五类。第一是上下文膨胀。企业把过多信息塞进提示词,不仅增加成本,也可能让模型输出偏离重点。作者认为,更有效的做法是先整理底层数据,让系统直接调用可信信息,而不是把大量原始内容临时拼进 prompt。

第二是数据访问缺乏治理。若没有清晰的数据目录、权限和质量标记,AI 代理会在数据仓库中反复检索,再事后校验结果,既浪费 token,也容易带来不一致的执行结果。第三是模型错配。文章称,把所有任务都交给最强、最贵的前沿模型,是企业最常见也最昂贵的习惯。

记忆与缓存决定长期成本

第四个问题是缺少持续记忆。无状态代理每次交互都要重新加载背景、重跑历史信息、重新识别已处理过的例外情况。文章认为,若系统能保留用户偏好、既有决策和待办事项,就能减少重复计算,并降低单次交互成本。

第五是重复请求没有复用。许多企业代理面对高频、相似任务时,仍像首次处理一样重新读取上下文、重新检索、重新生成答案。作者建议,把提示缓存、向量嵌入复用和预计算结果结合起来,让重复请求越来越便宜、越来越快。

竞争点转向治理能力

文章举例称,大型企业若把 AI 代理用于销售或客服,每天可能产生数千次交互。若每次都把未经整理的原始数据直接送入大模型提示词,token 消耗可能高出 5 到 10 倍。按每百万 token 10 至 15 美元计算,成本会随着代理数量迅速累积。

文章认为,下一阶段企业 AI 的竞争,不在于谁买到更多 token,也不在于谁使用更大的模型,而在于谁能把 AI 使用过程变成可治理、可衡量的业务能力。真正的优势来自更干净的数据基础、更清晰的权限体系,以及更精细的模型调度。

补充信息:文中作者为 Salesforce 副总裁,文内同时提到 Informatica 主数据管理与 Salesforce Data 360 的集成案例,用以说明其对企业数据底座的判断。