AI在线 AI在线

吴恩达最新来信:是时候关注并行智能体了

henry 发自 凹非寺. 量子位 | 公众号 QbitAI人多,好办事。 agent多,照样好办事!

henry 发自 凹非寺

量子位 | 公众号 QbitAI

人多,好办事。agent多,照样好办事!

在最新的Andrew’s Letters中,吴恩达老师就指出:并行智能体正在成为提升AI能力的新方向。

信中,他描绘了这样的一些场景:

  • 多个agent并行抓取分析网页,更快速地生成深度研究报告。
  • 多个agent协同处理代码库的不同部分,加快编程任务完成速度。
  • 多个agent在后台并行工作,同时由一个监督agent向用户提供反馈,实现并行异步控制。

在这些场景中,多个agent协作,就像一支高效的agent team同时处理不同任务,速度快、效率高。

吴恩达最新来信:是时候关注并行智能体了

这为我们理解AI能力的提升提供了新视角——

不仅仅依靠更多的数据和算力,更重要的是让多个智能体协同并行工作。

以往,当我们谈论AI能力的提升时,更多依赖的是所谓的“力大砖飞”的scaling law,也就是希望通过更多的数据和算力来获得性能的提升。

据吴恩达所说,这一点在他之前在百度和OpenAI的工作中,已得到了充分验证。

但问题是,这些方法往往需要长时间才能输出结果。

相比之下,并行运行的agent提供了另一种方式:在提升性能的同时,让用户无需长时间等待结果。

此外,大语言模型token成本的不断下降,也让多个agent并行处理的方法变得可行。

但就像网友指出的:如何协调多个agent呢?

咱光给方向,不给答案也不行啊。

吴恩达最新来信:是时候关注并行智能体了

对于这一疑问,吴恩达在信中也是有所提及:因为哪怕对于人类来说,将一个复杂任务(比如开发复杂的软件应用)拆分成小任务并交由下面的多个工程师并行完成,都就极具挑战,而一旦扩展到更多的并行单元,那么难度将会更大。

同样的,将任务分解给多个智能体并行执行也并不容易。

不过,凡事要用发展的眼光看问题:

吴恩达以两篇最近的论文为例,说明了并行智能体研究的发展:

一篇是来自Ryan Ehrlich等人的论文《Code Monkeys:Scaling Test-Time Compute for Software Engineering》。

吴恩达最新来信:是时候关注并行智能体了

简单来说,这篇论文让大语言模型在推理时并行生成多个轨迹,来生成多样化的候选解决方案,从而提高编程问题解决的效率。

其次是Together Mixture Of Agents(MoA)架构,它通过同时利用多个大语言模型来提升性能。

值得一提的是,该架构还能进一步调整分层架构(每层包含的agent数和层数),来进一步提升性能。

吴恩达最新来信:是时候关注并行智能体了

在信的最后,吴恩达总结道:

在如何最优地利用并行agent方面,仍然有大量研究与工程工作需要探索。我相信,能够高效并行工作的agent数量,就像能够高效并行工作的人的数量一样,最终会非常庞大。

最后的最后,我们不妨说句题外话。

2009年,吴恩达在他的经典论文《Large-Scale Deep Unsupervised Learning Using Graphics Processors》中,首次系统性地展示了GPU在深度学习中的大规模应用。

这篇论文不仅证明了GPU计算能显著提升卷积神经网络的训练效率,更预告着深度学习时代的到来。

而这一切的核心,归根结底就俩字:

并行

参考链接 [1]https://x.com/AndrewYNg/status/1961118026398617648 [2]https://www.deeplearning.ai/the-batch/agents-running-in-parallel-get-there-faster/ [3]https://arxiv.org/pdf/2501.14723 [4]https://docs.together.ai/docs/mixture-of-agents?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz–bx7Qwyz4z_x_fNl93PMa-tjsrHFwAsEMSCHyOV1wXdBXA9LRFQJ6RKmk8P7MHd0o7_REn

相关资讯

吴恩达:AI智能体工作流今年将有巨大进展,可能超过下一代基础模型

下一步是智能体?随着 ChatGPT、GPT-4、Sora 的陆续问世,人工智能的发展趋势引起了广泛关注,特别是 Sora 让生成式 AI 模型在多模态方面取得显著进展。人们不禁会问:人工智能领域下一个突破方向将会是什么?今天,人工智能著名学者、斯坦福大学教授吴恩达指出:AI 智能体工作流将在今年推动人工智能取得巨大进步,甚至可能超过下一代基础模型。他呼吁所有从事人工智能工作的人都关注 AI 智能体工作流,并撰写一篇博客简单阐述了原因。我们对博客内容进行了不改变原意的编译、整理,以下是博客内容:当前,我们主要在零样
3/22/2024 2:57:00 PM
机器之心

吴恩达:别光盯着GPT-5,用GPT-4做个智能体可能提前达到GPT-5的效果

智能体的潜力被低估了?AI 智能体是去年很火的一个话题,但是 AI 智能体到底有多大的潜力,很多人可能没有概念。最近,斯坦福大学教授吴恩达在演讲中提到,他们发现,基于 GPT-3.5 构建的智能体工作流在应用中表现比 GPT-4 要好。当然,基于 GPT-4 构建的智能体工作流效果更好。由此看来,AI 智能体工作流将在今年推动人工智能取得巨大进步,甚至可能超过下一代基础模型。这是一个值得所有人关注的趋势。这个关于智能体的演讲在社交媒体上引发了广泛关注。有人表示,这代表着 AI 发展中的范式转变,体现了从静态输出到动
4/1/2024 11:27:00 AM
机器之心

吴恩达:多智能体协作是新关键,软件开发等任务将更高效

招很多智能体来帮我干活。前不久,斯坦福大学教授吴恩达在演讲中提到了智能体的巨大潜力,这也引起了众多讨论。其中,吴恩达谈到基于 GPT-3.5 构建的智能体工作流在应用中表现比 GPT-4 要好。这表明,将目光局限于大模型不一定可取,智能体或许会比其所用的基础模型更加优秀。在软件开发领域,这些智能体展示了其独特的能力,能够高效协作,处理编程中的复杂问题,甚至进行代码自动生成。最新的技术动态显示,AI 智能通在软件开发中显示出巨大的潜力。还记得 Devin 吗?号称世界第一个 AI 软件工程师的它出场就惊艳到了我们,一
4/26/2024 2:33:00 PM
机器之心
  • 1