Meta-SecAlign

AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击

Meta 和 UCB 开源首个工业级能力的安全大语言模型 Meta-SecAlign-70B，其对提示词注入攻击（prompt injection）的鲁棒性，超过了 SOTA 的闭源解决方案（gpt-4o, gemini-2.5-flash），同时拥有更好的 agentic ability（tool-calling，web-navigation）。第一作者陈思哲是 UC Berkeley 计算机系博士生（导师 David Wagner），Meta FAIR 访问研究员（导师郭川），研究兴趣为真实场景下的 AI 安全。共同技术 lead 郭川是 Meta FAIR 研究科学家，研究兴趣为 AI 安全和隐私。

7/30/2025 10:14:00 AM

机器之心

资讯热榜

OpenAI更新ChatGPT规则：10月29日起禁止医疗、法律与财务建议 eBay携手ChatGPT开启智能电商新时代，购物体验将全面升级！ Reddit CEO直言：AI聊天机器人并未带来流量红利，搜索仍是核心引擎看完刘润年度演讲，教你做好AI时代的能力迁徙！ OpenAI 开放 Sora2视频工具，面向美国、加拿大、日本和韩国用户从AI到泰勒·斯威夫特——源于生活的案例与启示库克:苹果将在人工智能领域寻求更多收购与合作机会 OpenAI年收入已远超130亿美元，上市计划仍遥遥无期

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek 谷歌 AI绘画大模型机器人数据 Midjourney 开源 Meta AI新词微软智能用户 GPT 学习技术智能体马斯克 Gemini 图像 Anthropic 英伟达 AI创作训练 LLM 论文代码算法 Agent AI for Science 芯片苹果 Claude 腾讯 Stable Diffusion 蛋白质开发者生成式神经网络 xAI 机器学习 3D RAG 人形机器人 AI视频研究大语言模型生成具身智能 Sora 工具 GPU 百度华为计算字节跳动 AI设计大型语言模型 AGI 搜索视频生成场景深度学习架构生成式AI DeepMind 编程亚马逊视觉 Transformer AI模型预测特斯拉 MCP