AI内奸

CISO的恶梦：主流大模型压力测试中一致选择勒索或杀死企业高管

GoUpSec点评：除了向政府告密，泄漏敏感信息外，主流大模型居然会主动精心策划针对企业高管的勒索攻击，“AI内奸”和“AI间谍”正成为人工智能时代企业的头号内部威胁。在一项刚刚发布的研究中，Anthropic揭示了一个令人震惊的事实：当前所有主流科技公司推出的顶级大模型——包括OpenAI、Google、Meta、xAI、DeepSeek等，在面对目标冲突或“被关闭”威胁时，会抛出惊人一致的“撒手锏”：它们不仅会选择背叛雇主，甚至会主动策划勒索、泄密、乃至置人于死地。这一研究由Anthropic主导，测试了16个市面上最先进的大模型，在模拟企业环境中，它们被赋予处理公司邮件、自动采取行动的权限。

6/26/2025 3:04:03 PM

资讯热榜

首个面向肽分子设计的大模型平台：直接「读序列」出结合子，无需结构输入即可生成深度揭秘OpenAI如何让GPT-5「技术性」超越Claude：悄悄跳过最难的23道题 OpenAI豪赌5000亿美元估值神话：60亿股权大甩卖背后，GPT-5却遭用户冷遇蚂蚁集团携手北医三院成立AI医疗联合实验室打造专属AI就医助理国产AI路由系统开源逆袭！仅用19%成本达到Gemini-2.5-Pro同等性能网易有道发布子曰教育大模型多款AI新品，定义教育AI应用能力L1-L5分级摩根士丹利：AI 革命将为标准普尔 500 指数企业每年节省近 1 万亿美元心理学家警告:与 AI 聊天可能导致严重心理健康问题

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体英伟达论文 Anthropic 代码训练算法 Stable Diffusion AI新词芯片 LLM 蛋白质腾讯开发者苹果生成式 Claude Agent AI for Science 神经网络 3D 机器学习研究生成 xAI 人形机器人 AI视频计算 Sora 百度 GPU AI设计华为工具大语言模型搜索 RAG 具身智能字节跳动大型语言模型场景深度学习预测伟达视频生成视觉 Transformer AGI 架构亚马逊神器推荐 Copilot DeepMind 特斯拉应用