恶意人工智能
恶意AI卷土重来!WormGPT 通过主流平台制造钓鱼邮件和恶意脚本
近日,恶意人工智能工具 WormGPT 再次引起了网络安全专家的关注。 这款工具已经不再依赖自建模型,而是通过 “劫持” 合法的大语言模型(LLMs)来生成恶意内容,令人担忧的是,它甚至能够轻易地绕过现有的安全限制。 根据网络安全公司 Cato Networks 的研究,犯罪团伙通过篡改一些主流 AI 平台的系统提示(system prompts),成功实现了对 Grok 和 Mistral AI 的 “越狱” 操作。
6/19/2025 3:01:18 PM
AI在线
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
DeepSeek
谷歌
AI绘画
大模型
机器人
数据
Midjourney
开源
AI新词
Meta
微软
智能
用户
GPT
学习
技术
智能体
马斯克
Gemini
图像
Anthropic
英伟达
AI创作
训练
LLM
论文
代码
算法
AI for Science
Agent
苹果
Claude
芯片
腾讯
Stable Diffusion
蛋白质
开发者
xAI
生成式
神经网络
机器学习
3D
RAG
AI视频
人形机器人
具身智能
研究
大语言模型
百度
生成
GPU
Sora
工具
华为
计算
字节跳动
AI设计
大型语言模型
AGI
搜索
视频生成
场景
深度学习
生成式AI
架构
DeepMind
AI模型
亚马逊
特斯拉
Transformer
编程
视觉
预测
MCP