AI在线 AI在线

Meta修复安全漏洞,用户AI提示及生成内容不再泄露

近日,Meta 公司宣布修复了一项影响其 AI 聊天机器人的严重安全漏洞,该漏洞曾允许用户访问其他用户的私人提示和 AI 生成的内容。 此漏洞的发现者,安全测试公司 AppSecure 的创始人 Sandeep Hodkasia,因其在2024年12月26日私下披露该漏洞,获得了 Meta 支付的1万美元奖励。 Hodkasia 在接受 TechCrunch 采访时表示,他是在对 Meta AI 的功能进行深入研究时发现了这个漏洞。

近日,Meta 公司宣布修复了一项影响其 AI 聊天机器人的严重安全漏洞,该漏洞曾允许用户访问其他用户的私人提示和 AI 生成的内容。此漏洞的发现者,安全测试公司 AppSecure 的创始人 Sandeep Hodkasia,因其在2024年12月26日私下披露该漏洞,获得了 Meta 支付的1万美元奖励。

Hodkasia 在接受 TechCrunch 采访时表示,他是在对 Meta AI 的功能进行深入研究时发现了这个漏洞。该系统允许用户编辑他们的 AI 提示并生成文本和图像,但在这个过程中,Meta 的后端服务器为每个提示和其生成的响应分配了一个唯一的编号。通过分析他在编辑提示时浏览器的网络流量,Hodkasia 发现,他可以轻易地修改这个唯一编号,导致 Meta 的服务器返回其他用户的提示和生成内容。

Meta,元宇宙,Facebook

这一漏洞意味着 Meta 的服务器没有对请求提示和响应的用户身份进行正确的验证。Hodkasia 指出,这些提示编号是 “极易猜测” 的,恶意攻击者可能会利用自动化工具快速更改编号,从而抓取其他用户的原始提示内容。

Meta 确认该漏洞已于2025年1月24日被修复,并表示公司 “没有发现滥用的证据,同时也对研究者进行了奖励。”Meta 发言人 Ryan Daniels 在接受采访时提到,随着各大科技公司纷纷推出和改进自己的 AI 产品,安全和隐私风险也变得愈发突出。

Meta AI 的独立应用于今年早些时候发布,旨在与 ChatGPT 等竞争对手一较高下。然而,该应用在上线初期就遇到了一些问题,有用户误将其与聊天机器人的私人对话公开分享。

相关资讯

Claude 4被诱导窃取个人隐私!GitHub官方MCP服务器安全漏洞曝光

被选为GitHub Copilot官方模型后,Claude 4直接被诱导出bug了! 一家瑞士网络安全公司发现,GitHub官方MCP服务器正在面临新型攻击——通过在公共仓库的正常内容中隐藏恶意指令,可以诱导AI Agent自动将私有仓库的敏感数据泄露至公共仓库。 就是说,当用户使用集成了GitHub MCP的Claude 4 ,用户的私人敏感数据可能遭到泄露。
5/27/2025 3:30:37 PM

OpenAI ChatGPT 新增自动模式,基于提示词复杂度灵活选择合适 AI 模型

科技媒体 testingcatalog 昨日(9 月 18 日)报道,OpenAI 面向所有用户在多种设备上,为 ChatGPT 推出了“Auto”自动模式。AI在线注:用户切换选择 Auto 之后,会自动根据用户输入的提示词复杂程度,自动选择最合适的 AI 模型。对于复杂的提示,它会选用最先进的模型,而对于较简单的提示,则采用更快的模型以节省时间。许多用户反馈表示,在大多数情况下,他们更倾向于与最先进的模型进行交互。然而,在某些特定场景下,能够选择优化速度被视为一项有价值的功能。
9/19/2024 9:28:30 AM
故渊

OpenAI 推出 meta-prompt 工具,AI 时代让你掌握提示词艺术

AI 时代,你和他人的差异可能直接体现在如何提出合适的提示词(Prompt)上。科技媒体 The Decoder 昨日(10 月 11 日)发布博文,报道称 OpenAI 更新提示词优化功能 Playgound,新增引入“元提示”(meta-prompt)工具。“元提示”(meta-prompt)工具主要帮助用户更高效地创建、改进针对大型语言模型(LLMs)的提示,节省开发高质量 AI 提示的时间。
10/12/2024 1:31:57 PM
故渊
  • 1