Meta-SecAlign

AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击

Meta 和 UCB 开源首个工业级能力的安全大语言模型 Meta-SecAlign-70B，其对提示词注入攻击（prompt injection）的鲁棒性，超过了 SOTA 的闭源解决方案（gpt-4o, gemini-2.5-flash），同时拥有更好的 agentic ability（tool-calling，web-navigation）。第一作者陈思哲是 UC Berkeley 计算机系博士生（导师 David Wagner），Meta FAIR 访问研究员（导师郭川），研究兴趣为真实场景下的 AI 安全。共同技术 lead 郭川是 Meta FAIR 研究科学家，研究兴趣为 AI 安全和隐私。

7/30/2025 10:14:00 AM

机器之心

资讯热榜

阿里推出 AI 医学助手 App“氢离子”：收录千万级核心期刊文献，还可查疾病、找药品 Kimi K2 高速版kimi-k2-turbo-preview发布输出每秒 40 Tokens 逆天!旧Mac上能run千亿参数SOTA!效果惊人:一次生成游戏，0修改！本地大模型拐点来了!网友：别被大模型叙事带偏了(附指南） 2025年ChatGPT编程神器指南：20个开发者必学提示！阶跃星辰新一代基础大模型 Step 3 正式开源：拥有强大视觉感知和复杂推理能力多项力压 Grok 4、OpenAI o3，谷歌推出 Gemini 2.5 Deep Think 模型我在WAIC看见的十大趋势刚刚，扎克伯克公开信：Meta不会开源全部模型

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini AI创作马斯克论文智能体英伟达 Anthropic 代码算法训练 Stable Diffusion 芯片开发者蛋白质腾讯 LLM 生成式苹果 Claude 神经网络 AI新词 Agent 3D 机器学习 AI for Science 研究生成 xAI AI视频计算人形机器人 Sora GPU AI设计百度华为工具搜索大语言模型场景 RAG 字节跳动具身智能大型语言模型预测深度学习伟达视觉 Transformer 视频生成 AGI 神器推荐亚马逊架构 Copilot DeepMind 模态安全