WormGPT

恶意AI卷土重来！WormGPT 通过主流平台制造钓鱼邮件和恶意脚本

近日，恶意人工智能工具 WormGPT 再次引起了网络安全专家的关注。这款工具已经不再依赖自建模型，而是通过 “劫持” 合法的大语言模型（LLMs）来生成恶意内容，令人担忧的是，它甚至能够轻易地绕过现有的安全限制。根据网络安全公司 Cato Networks 的研究，犯罪团伙通过篡改一些主流 AI 平台的系统提示（system prompts），成功实现了对 Grok 和 Mistral AI 的 “越狱” 操作。

6/19/2025 3:01:18 PM

AI在线

恶意工具WormGPT 新变种重现江湖，使用Mistral AI和Grok模型编写恶意代码

近日，Cato Network 的安全研究人员在地下论坛上发现了两种新版本的 WormGPT，这一恶意工具曾在2023年被广泛关注并被认为已被关闭。这两个新版本分别名为 keanu-WormGPT 和 xzin0vich-WormGPT，分别使用了商业 AI 模型 xAI 的 Grok 和 Mistral 的 Mixtral，目的在于帮助网络犯罪分子制作网络钓鱼邮件、编写恶意代码以及规避合法 AI 平台的安全措施。图源备注：图片由AI生成，图片授权服务商Midjourney最初的 WormGPT 是由一位名为 “Last” 的葡萄牙黑客创建的，他利用开源模型 GPT-J 来绕过主流 AI 工具的伦理限制。

6/19/2025 2:01:28 PM

AI在线

资讯热榜

Microsoft Releases 700 Real AI Cases to Explore New Intelligent Work Models 微软发布 700 个真实 AI 案例，探索智能化工作新模式腾讯LeVo来袭！媲美Suno 4.5的AI唱歌模型，支持零样本音色克隆 Former DeepSeek executive secretly starts new AI Agent project, already backed by top VC Luo Yonghao's digital person achieves success in its first live broadcast on Baidu e-commerce: GMV exceeds that of a real person in an hour in 26 minutes Li Hang, head of ByteDance AI Lab, resigns; Seed team enters adjustment period ByteDance Seaweed APT2 is震撼 released! Real-time Interactive AI Video Generation Unlocks a New Era of 3D Virtual World OpenAI Upgrades ChatGPT Search Functionality to Provide More Precise and Smarter Responses

标签云

人工智能 AI OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌数据机器人大模型 Midjourney 用户智能开源微软 Meta GPT 学习图像技术 AI创作 Gemini 论文马斯克 Stable Diffusion 代码算法英伟达 Anthropic 芯片开发者生成式蛋白质腾讯训练智能体神经网络 3D 研究苹果生成计算机器学习 Sora Claude AI设计 AI for Science GPU AI视频人形机器人华为 LLM 搜索百度 xAI 场景大语言模型预测伟达字节跳动深度学习 Agent Transformer 工具视觉模态神器推荐 RAG 大型语言模型具身智能文本 LLaMA 算力 Copilot API 驾驶应用架构