AI在线 AI在线

智能体规模化部署的隐形悬崖:如何避免部署崩盘?

想要构建并扩展智能体的企业还需要接受另一个现实:智能体的构建方式与其他软件截然不同。 根据Writer公司的CEO兼联合创始人May Habib的说法,智能体在构建方式、运行方式以及改进方式上都“有着根本的不同”,这意味着在处理自适应系统时,需要摒弃传统的软件开发生命周期(SDLC)。 “智能体并不总是可靠地遵循规则,”Habib在周三VB Transform大会的舞台上表示,“它们是结果导向的,它们会解读信息,会适应变化,而且,它们的行为真的只有在现实世界环境中才会显现出来。

智能体规模化部署的隐形悬崖:如何避免部署崩盘?

想要构建并扩展智能体的企业还需要接受另一个现实:智能体的构建方式与其他软件截然不同。

根据Writer公司的CEO兼联合创始人May Habib的说法,智能体在构建方式、运行方式以及改进方式上都“有着根本的不同”,这意味着在处理自适应系统时,需要摒弃传统的软件开发生命周期(SDLC)。

“智能体并不总是可靠地遵循规则,”Habib在周三VB Transform大会的舞台上表示,“它们是结果导向的,它们会解读信息,会适应变化,而且,它们的行为真的只有在现实世界环境中才会显现出来。”

Habib的经验来自于帮助数百家企业客户构建和扩展企业级智能体,她深知哪些方法有效,哪些无效。据Habib介绍,财富1000强企业中有超过350家是Writer的客户,而且到2025年底,财富500强企业中有一半以上将使用Writer来扩展智能体。

Habib表示,使用非确定性技术来产生强大的输出甚至可能“非常棘手”,尤其是在系统性扩展智能体时,即使企业团队可以在没有产品经理和设计师的情况下启动智能体,Habib仍认为需要一种“产品经理思维”来协作、构建、迭代和维护智能体。

“不幸或幸运的是,这取决于你的视角,如果IT部门不引领业务部门进入这种新的构建方式,那么IT部门将不得不承担后果。”

为何基于目标的智能体是正确的方法

思考方式的转变之一包括理解智能体的结果导向性质。例如,Habib表示,许多客户要求智能体协助他们的法律团队审查或修订合同,但这太开放了,相反,基于目标的方法意味着设计一个智能体来减少审查和修订合同所花费的时间。

“在传统的软件开发生命周期中,你是在为一套确定性的、非常可预测的步骤进行设计,”Habib说,“它是输入、输出,方式更加确定,但对于智能体,你是在寻求塑造智能体的行为,因此,你寻求的是更少的控制流程,更多的是给予上下文并引导智能体做出决策。”

另一个不同之处在于为智能体构建一个蓝图,该蓝图通过业务逻辑来指导它们,而不是为它们提供要遵循的工作流程,这包括设计推理循环,并与主题专家合作,绘制出促进所需行为的过程。

尽管有很多关于扩展智能体的讨论,但Writer仍在帮助大多数客户逐个构建智能体,这是因为首先需要回答关于谁拥有和审计智能体、谁确保其保持相关性以及是否仍在产生所需结果的问题。

“如果没有一种新的构建和扩展智能体的方法,人们很快就会遇到一个扩展瓶颈,”Habib说,“当企业管理智能体的能力远远落后于各部门开发智能体的速度时,人们就会遇到这个瓶颈。”

智能体的质量保证与软件的质量保证

智能体的质量保证也与软件不同,智能体的评估不是基于一个客观的检查清单,而是包括考虑非二元行为,并评估智能体在现实世界中的表现,这是因为失败并不总是显而易见的——也不像检查某物是否损坏那样黑白分明。相反,Habib表示,更好的做法是检查智能体是否表现良好,询问安全机制是否有效,评估结果和意图:“这里的目标不是完美。而是行为上的自信,因为这里存在很多主观性。”

不理解迭代重要性的企业最终会陷入“一场持续不断的网球赛,双方都会精疲力竭,直到他们不想再打下去为止,”Habib说。团队也需要接受智能体并不总是完美的,更重要的是“安全地启动它们,快速运行,并不断迭代”。

尽管面临挑战,但已有AI智能体帮助企业带来新收入的例子。例如,Habib提到了一家与Writer合作开发基于智能体系统的大型银行,该系统通过引导新客户进入多个产品线,创造了一条价值6亿美元的新追加销售渠道。

AI智能体的新版本控制

智能体的维护也与众不同,传统软件的维护涉及在出现问题时检查代码,但Habib表示,AI智能体需要一种新的版本控制方式,以控制所有可能影响行为的内容,它还需要适当的治理,并确保智能体随着时间的推移仍然有用,而不是产生不必要的成本。

由于模型与AI智能体之间并不存在清晰的映射关系,Habib表示,维护工作包括检查提示、模型设置、工具架构和内存配置,它还意味着全面追踪执行过程中的输入、输出、推理步骤、工具调用和人类交互。

“你可以更新一个大型语言模型(LLM)的提示,并观察到智能体的行为完全不同,尽管在git历史记录中实际上没有任何变化,”Habib说,“模型链接会发生变化,检索索引会更新,工具API会演进,突然之间,同样的提示行为就不再如预期那样了,这感觉就像我们在调试幽灵一样。”

相关资讯

当智能体失控时,企业将遭受重创

在采访中,AutoRABIT的CTO Jason Lord探讨了将智能体集成到现实世界中的系统所带来的网络安全风险。 诸如幻觉、提示注入和嵌入式偏见等问题可能会使这些系统成为易受攻击的目标。 Lord呼吁进行监督、持续监控和人为介入循环控制以应对这些威胁。
4/18/2025 11:22:57 AM
Mirko Zorz

成功采用AI需要具备两个条件

企业不应回避利用AI工具,但需要找到最大化效率和缓解企业风险之间的平衡点。 他们需要做到以下几点:制定无缝的AI安全政策以往,AI可能只是开发人员或专家交互的技术,但如今,公司各层级的员工都使用AI来协助他们完成各种任务。 因此,企业必须教育所有员工,让他们了解哪些大型语言模型和智能体应用程序是他们被授权使用的,以及他们可以与这些系统共享哪些类型的数据。
4/2/2025 7:00:00 AM
Mike Erquitt

新的自主式AI工具带来新的威胁:智能体泛滥

你可能已经拥有一个用于开发和管理智能体的平台,甚至可能有两个或更多,这种智能体的泛滥使得智能体能够在企业的更多领域中运作,但也带来了更高的复杂性、增加了安全顾虑,并可能损害投资回报率。 在过去的一年里,供应商们一直在急于将智能体产品添加到他们的产品组合中。 微软、AWS、谷歌、IBM、Salesforce、ServiceNow、Workday和SAP都已经涉足这一领域,而数据管理软件提供商Informatica本周也承诺将在其智能数据管理云中添加智能体,以自动化数据处理流程。
5/20/2025 7:00:00 AM
Anirban
  • 1