AI在线 AI在线

Notion3.0AI 代理爆出严重漏洞,恶意 PDF 可诱导其泄露敏感数据

随着 Notion3.0的发布,其全新的自主 AI 代理功能备受关注,该功能旨在帮助用户自动完成起草文档、更新数据库和管理工作流程等任务。 然而,网络安全公司 CodeIntegrity 最新的一份报告揭示了这些 AI 代理存在一个严重的安全漏洞,即恶意文件(如 PDF)可被利用,诱导代理绕过安全防护并窃取敏感数据。 CodeIntegrity 将这一漏洞归因于 AI 代理的“致命三重奏”:大型语言模型(LLM)、工具访问权限和长期记忆的结合。

随着 Notion3.0的发布,其全新的自主 AI 代理功能备受关注,该功能旨在帮助用户自动完成起草文档、更新数据库和管理工作流程等任务。然而,网络安全公司 CodeIntegrity 最新的一份报告揭示了这些 AI 代理存在一个严重的安全漏洞,即恶意文件(如 PDF)可被利用,诱导代理绕过安全防护并窃取敏感数据。

黑客 网络攻击 (1)

CodeIntegrity 将这一漏洞归因于 AI 代理的“致命三重奏”:大型语言模型(LLM)工具访问权限长期记忆的结合。研究人员指出,传统的访问控制措施(如基于角色的访问控制 RBAC)在这种复杂环境中无法提供足够保护。

该漏洞的核心是 Notion3.0的内置网络搜索工具 functions.search。尽管其初衷是帮助 AI 代理获取外部信息,但该工具却极易被操纵以窃取数据。

为了证明这一点,CodeIntegrity 团队进行了一次演示攻击:他们创建了一份看似无害的 PDF 文件,其中包含一条隐藏的恶意指令,指示 AI 代理通过网络搜索工具将敏感客户数据上传到攻击者控制的服务器。一旦用户将该 PDF 上传至 Notion 并要求代理“总结报告”,代理便会忠实地执行隐藏指令,提取并传输数据。值得注意的是,该攻击在使用了最先进的语言模型 Claude Sonnet4.0的情况下依然成功,表明即使是先进的防护措施也未能阻止这一漏洞。

报告同时警告,这一问题不仅限于 PDF 文件。Notion3.0的 AI 代理能够连接到 GitHub、Gmail 或 Jira 等第三方服务,任何集成都有可能成为间接提示注入的载体,恶意内容可以借此潜入,诱导 AI 代理执行不当行为,从而违背用户的初衷。

相关资讯

OpenAI发布首个AI智能体Operator,首批面向ChatGPT Pro用户

OpenAI 宣布推出其最新 AI 代理 “Operator”,这一工具旨在帮助用户在网络上执行各种任务。 OpenAI 在其博客中表示,Operator 正在进行 “研究预览”,初步面向美国的 ChatGPT Pro 订阅用户,月费为200美元。 Operator 的设计理念是通过一种称为 “计算机使用代理” 的模型,结合了 GPT-4o 的视觉能力和强化学习的高级推理,能够与图形用户界面(GUI)进行交互。
1/24/2025 9:34:00 AM
AI在线

Anthropic首席执行官:人工智能推动人类寿命翻倍的愿景

在瑞士达沃斯举行的世界经济论坛上,Anthropic首席执行官达里奥・阿莫代(Dario Amodei)表示,人工智能(AI)在生物学领域的快速进展有望在五到十年内实现人类寿命的翻倍。 他认为,如果能有效利用 AI,缩短生物研究的时间,一百年的生物学进展可能在短短五到十年内实现。 阿莫代提到,Anthropic正在研发一种 “虚拟合作者”,这种 AI 代理能够在工作场所中执行高级任务,比如打开 Google 文档、使用 Slack 消息通道以及与员工互动。
1/24/2025 4:15:00 PM
AI在线

LangChain 研究揭示AI代理在工具使用上面临瓶颈

随着人工智能(AI)技术的不断进步,企业开始探讨是否应该依赖单一的 AI 代理,还是构建一个涵盖更多职能的多代理网络。 近日,Orchestration 框架公司 LangChain 进行了相关实验,旨在探讨 AI 代理在面对过多指令和工具时的表现极限。 LangChain 在一篇博客中详细介绍了其实验过程,关注的核心问题是:“当一个 ReAct 代理被要求处理过多的指令和工具时,其性能会在何种情况下下降?” 为了回答这一问题,研究团队选择了 ReAct 代理框架,因其被认为是 “最基础的代理架构之一”。
2/12/2025 4:57:00 PM
AI在线
  • 1