数据中毒攻击

仅需250份文件！AI模型也能被 “洗脑” 的惊人发现

仅需250份文件！AI模型也能被 “洗脑” 的惊人发现

在近期的一项联合研究中，来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的科学家们揭示了一个惊人的事实:大语言模型（如 ChatGPT、Claude 和 Gemini 等）对数据中毒攻击的抵抗力远低于我们的预期。研究表明，攻击者仅需插入约250份被污染的文件，就能在这些模型中植入 “后门”，改变它们的回应方式。这一发现引发了对当前 AI 安全实践的深刻反思。

10/20/2025 10:17:19 AM AI在线

Anthropic研究：仅需 250 份中毒文件即可轻易攻破大型 AI 模型

Anthropic研究：仅需 250 份中毒文件即可轻易攻破大型 AI 模型

近日，人工智能公司 Anthropic 联合英国人工智能安全研究所及艾伦图灵研究所发布了一项重要研究，揭示了大型语言模型（LLM）在数据中毒攻击下的脆弱性。研究表明，只需250份被 “投毒” 的文件，便能够在多种规模的 AI 模型中植入后门，而这一攻击手段的有效性与模型的大小并无直接关系。在这项研究中，科研团队对参数量从6亿到130亿的多种模型进行了测试。

10/12/2025 9:23:24 AM AI在线

资讯热榜

免费！让图片放大不失真的位图转矢量图神器 Tmttool AI应用新纪元：2025中国AI应用排行榜榜单揭晓丨2025年1月 6秒视频10秒生成！全新AI视频神器 Grok Imagine 深度体验+元提示词分享最火、最全的Agent记忆综述，NUS、人大、复旦、北大等联合出品后悔没早发现！教你用谷歌Gemini生成精美PPT（附提示词） GGUF 是什么？一文看懂大模型里最火的模型格式 Sora、可灵、即梦哪家强？AI视频软件深度测评！ Mac也能跑Qwen3，一文看懂本地部署qwen 3配置要求

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT 谷歌 DeepSeek AI新词 AI绘画大模型机器人数据 Midjourney 开源 Meta 微软智能用户 GPT 学习英伟达 Gemini 智能体技术马斯克 Anthropic 图像 AI创作训练 LLM 论文 AI for Science 代码腾讯苹果算法 Agent Claude 芯片具身智能 Stable Diffusion xAI 蛋白质人形机器人开发者生成式神经网络机器学习 AI视频 3D 字节跳动大语言模型 RAG Sora 百度研究 GPU 生成华为工具 AGI 计算生成式AI AI设计大型语言模型搜索亚马逊 AI模型视频生成特斯拉 DeepMind 场景 Copilot 深度学习 Transformer 架构 MCP 编程视觉