AI在线 AI在线

新的自主式AI工具带来新的威胁:智能体泛滥

你可能已经拥有一个用于开发和管理智能体的平台,甚至可能有两个或更多,这种智能体的泛滥使得智能体能够在企业的更多领域中运作,但也带来了更高的复杂性、增加了安全顾虑,并可能损害投资回报率。 在过去的一年里,供应商们一直在急于将智能体产品添加到他们的产品组合中。 微软、AWS、谷歌、IBM、Salesforce、ServiceNow、Workday和SAP都已经涉足这一领域,而数据管理软件提供商Informatica本周也承诺将在其智能数据管理云中添加智能体,以自动化数据处理流程。

新的自主式AI工具带来新的威胁:智能体泛滥

你可能已经拥有一个用于开发和管理智能体的平台,甚至可能有两个或更多,这种智能体的泛滥使得智能体能够在企业的更多领域中运作,但也带来了更高的复杂性、增加了安全顾虑,并可能损害投资回报率。

在过去的一年里,供应商们一直在急于将智能体产品添加到他们的产品组合中。微软、AWS、谷歌、IBM、Salesforce、ServiceNow、Workday和SAP都已经涉足这一领域,而数据管理软件提供商Informatica本周也承诺将在其智能数据管理云中添加智能体,以自动化数据处理流程。

对供应商锁定的担忧

分析师表示,供应商之间的激烈竞争以及对供应商锁定的担忧正在推动智能体的泛滥。

“企业感到困惑,正在讨论应该投资哪种智能体解决方案,因为几乎所有的云服务提供商和SaaS玩家都提供某种形式的智能体产品。”咨询公司West Monroe的合伙人Cam Cross说。

West Monroe的客户正在采用多个智能体,因为智能体领域没有明确的赢家,而且目前投资于单一平台存在供应商锁定的风险,Cross说。

此外,没有什么能阻止企业再添加“一个”智能体平台到他们的组合中,因为供应商们正以免费或低价的工具及其他优惠来吸引他们,Cross补充道。

一个熟悉的故事

智能体的泛滥,无论是智能体还是其他类型的智能体,都是企业技术领域新产品类别的一个熟悉特征。我们已经见证了数据库、云计算、GenAI和大型语言模型(LLM)的兴起过程中的这种泛滥——还有上一代自动化工具。

The Futurum Group的CIO实践负责人Dion Hinchcliffe将智能体的泛滥比作RPA在其鼎盛时期不受控制的扩散。他说,RPA最初也是从小处着手,比如自动化发票处理、客户入职等,但很快就演变成了一堆脆弱、重叠的机器人,且治理不善。

“同样的风险也适用于这里:自主式智能体大脑的RPA,它们更聪明,适应性更强,但如果没有协调,它们就会相互碰撞、重复工作,并让用户和系统都感到困惑。”Hinchcliffe说。

West Monroe的Cross看到了智能体泛滥与企业服务总线(ESB)架构增长的相似之处,后者用于在应用程序之间交换数据。

“许多技术供应商都有自己偏好的ESB集成工具,这使得企业内拥有了太多类似的工具。随着时间的推移,许多企业不得不整合这些工具以降低成本。”Cross说。

无论是RPA、ESB还是智能体,为同一任务拥有多个技术平台都可能导致更高的运营和支持成本、许可挑战,以及需要维护多种技能集。

AgentOps能否阻止智能体的泛滥?

为了防止智能体的泛滥,IT领导者必须在它深入企业之前果断采取行动。

数字工作者平台DoozerAI的联合创始人Paul Chada表示,他们可以从之前的泛滥事件中吸取教训。

“数据库的泛滥表明,数据治理必须在广泛采用之前进行,而云计算的泛滥则表明,没有监督的分散采购必然导致低效。”Chada说。

Hinchcliffe建议企业现在应采用AgentOps思维。“CIO们应该专注于在智能体泛滥之前创建一个企业范围的生命周期管理、可观测性、安全性和投资回报率测量流程,”他说。“领导者应该从DevOps和MLOps中汲取灵感:工具、护栏、测量和中央政策层是关键,他们应该指定一个跨职能团队来管理智能体的采用,以免每个部门都推出自己的智能体解决方案。”

应对智能体泛滥的协议

另一种控制智能体泛滥的方法是企业专注于智能体之间的互操作性,他们可以通过寻找支持模型上下文协议(Model Context Protocol,MCP)的系统来实现这一点,MCP是一种连接AI系统与数据源的通用、开放标准,另一种可能性是采用谷歌的A2A协议,该协议用于跨多个系统的自动化工作流程。

然而,MCP和A2A都还处于开发和采用的初期阶段,而且这样的协议和接口标准肯定会激增。事实上,IT领导者接下来可能不得不应对的威胁是智能体协议的泛滥。

相关资讯

企业应避免的关于智能体的五个认知陷阱

在商业和消费科技领域,最新的热点话题全都围绕着智能体。 这些智能体可以被视为GenAI领域的下一个飞跃,该领域曾为我们带来了ChatGPT等大型语言模型聊天机器人。 与仅仅回答问题或生成信息不同,它们能够代表我们采取行动,与其他工具和服务进行交互,以完成复杂的任务。
5/14/2025 7:00:00 AM
Bernard Marr

用AI对抗AI:网络安全专家如何利用犯罪分子的工具来对付他们

一段时间以来,AI在网络安全领域一直发挥着作用。 如今,自主式AI正成为焦点。 基于预先设定的计划和目标,自主式AI能够做出选择,以优化结果,而无需开发者的干预。
5/15/2025 7:00:00 AM
Andrius

如何防止智能体成为数据安全威胁

每家公司都存在信息缺口和瓶颈,归根结底,这正是AI为企业带来的真正价值:扩大信息获取渠道,帮助人们连接更多信息点。 但是,当你部署一个像智能体这样的系统,该系统连接着企业的每一个数据源,旨在回答问题、主动从数百个应用程序或部门中挖掘洞察,并采取行动(无论是否有人类提出要求),会发生什么呢?你会得到一个可能极大提升生产力的智能体,但同时也可能成为一个重大的安全风险。 好了,别急着渲染末日氛围——这个问题并非完全新鲜,毕竟,近六成的安全漏洞都是由人为造成的。
5/22/2025 7:10:00 AM
Rahul
  • 1