根据一项最新调查，IT部门和财务部门领导者在估算和控制AI部署成本方面面临挑战，多数AI项目超出预算目标。
尽管企业广泛采用AI技术，但许多IT部门领导者发现难以实现AI项目的投资回报率，预算不准确是问题的关键所在。
SaaS基准测试公司Benchmarkit和成本治理平台Mavvrik近期的一项调查显示，约85%的机构对AI成本的估算误差超过10%，近25%的机构误差达到50%或以上。成本估算几乎总是偏低。
调查受访者表示，数据平台是导致AI成本意外增加的首要因素，其次是AI模型的网络访问权限。大型语言模型令牌成本是导致AI意外支出的第五大因素。
CIO担责
专家表示，虽然预算审批权通常掌握在首席财务官手中，但负责管理成本意外高昂的AI项目的CIO可能会面临重大影响。
专注于AI的网页开发公司Greenice的联合创始人Sergii Opanasenko表示：“对AI项目的预算低估如此严重，不仅会打乱预算计划，还会损害利益相关者的信心和项目的采纳度。最好的前进道路是将AI视为其他任何核心基础设施投资：合理规划范围，考虑集成和迭代，并为实验留出缓冲空间。”
Google Workspace专业服务公司Promevo的首席技术官John Pettit补充道，许多机构在部署AI时似乎“盲目行事”。他表示，如果由CIO领导的AI项目预算大幅超支，会影响CIO的可信度。
“在领导项目和组织时，信任是你最重要的资本，”他表示，“如果你的AI项目成本比预测高出50%，首席财务官和董事会会在批准下一个项目时犹豫不决。”
Pettit补充道，成本超支通常与AI模型成本之下的隐藏层有关，包括数据准备、安全性、集成和合规性。
AI知识管理供应商Bloomfire的首席营销官Dan Stradtman曾目睹过项目成本超支的影响。他表示：“我曾在财富500强公司领导团队，预算预测失误会引发连锁反应：路线图延迟、人员编制冻结、首席财务官撤回战略投资。对于IT部门领导者来说，治理并非可选。如果没有对成本进行严格的监控，以及没有为AI提供清晰的知识基础，你将面临不可预测的账单和沮丧的高管。”
除了导致对IT部门领导层的不信任外，成本预测失误还会损害公司的利润，应付账款软件供应商Billtrust的IT运营高级副总裁Farai Alleyne指出。“这不仅仅是IT支出问题，还可能演变为整体业务财务问题。”他表示。
调查结果证实了这一担忧。超过80%的公司报告称，AI成本使毛利率下降超过6%，超过25%的公司毛利率下降了16%或以上。
预算微薄，期望不切实际
为了说明AI预算的脱节，Greenice最近研究了自由职业者市场Upwork上发布的500多个自主式AI项目，发现其中超过60%的项目预算不到1000美元，预计交付时间不到三个月。Opanasenko表示，这些成本估算和时间表大多不切实际。
根据他的经验，企业领导者往往认为AI编码助手或无代码/低代码工具可以完成推出新AI工具所需的大部分软件开发工作。他表示，这些工具可用于创建小型原型，但对于企业级集成或多智能体系统，复杂性会产生额外成本。
Opanasenko补充道：“我们经常遇到客户自豪地说，他们用AI在一周内构建了80%到90%的系统，但剩下的10%到20%才是真正的复杂性所在。最后一英里往往需要更长时间，要么是因为集成复杂，要么是因为随着项目规模扩大和上下文变得过于庞大，AI助手难以应对。”
此外，他表示，机构经常低估运营AI项目的成本。向量化和大语言模型调用的令牌使用每月可能花费数万美元，但托管自己的模型也不便宜，本地基础设施成本每月也可能高达数千美元。
此外，还有范围蔓延的问题。Opanasenko表示：“当客户在项目中途改变主意或增加需求时，唯一的出路是重新评估范围，削减至预算允许的现实范围，并将额外功能推迟到后续阶段。”
控制成本的最佳实践
Promevo的Pettit建议CIO采用可观测性技术来跟踪AI成本，并关注基于结果的ROI指标。
“没有可观测性，你就是在猜测，”他表示，“有了它，你可以在培训任务失控或API使用量激增之前发现并阻止，避免预算超支。”
他建议CIO采用FinOps实践，将AI成本作为主要指标，并配备仪表板和警报。IT部门领导者还应鼓励跨团队透明度，让市场、研发和IT团队共享他们的AI使用情况和成本。
Pettit建议，IT部门领导者还可以从AI试点项目入手，衡量实际消耗，并应认识到小型AI解决方案有时效果最佳。
“并非每个用例都需要最大的模型，”Pettit表示，“有时，更轻量级的方法能以10%的成本实现90%的价值。”
与Pettit一样，Billtrust的Alleyne建议使用成本管理和可观测性工具来控制AI支出。他表示，虽然云供应商的成本管理工具很有用，但不如第三方解决方案深入，且无法覆盖所有潜在的AI成本。
“这些其他第三方工具可以提出建议，比如，‘嘿，你实际上在这个功能上超支了，可以调整规模，’”他表示，“我们根据合同承诺的建议进行了很多规模调整，并更改了备份方式，以更加注意整体云支出。”
Alleyne补充道，使用成本管理和可观测性工具的关键是定期检查。Billtrust的IT部门领导者每月至少检查几次AI成本管理软件。
“你可以拥有这些工具，但不要让它们成为摆设，”他表示，“要对成本管理计划保持严谨。”
Alleyne还建议IT部门领导者定期与其他部门沟通他们的AI使用情况。
“许多失误可以归因于其他部门在使用AI时做了某些事情，最终这些成本体现在了你的账单上，”他表示，“有些部门利用云上板的便利性使用相关功能，他们在你的企业云账户上运行，而你却收到了账单。”
