AI在线 AI在线

CatoNetworks

恶意AI卷土重来!WormGPT 通过主流平台制造钓鱼邮件和恶意脚本

近日,恶意人工智能工具 WormGPT 再次引起了网络安全专家的关注。 这款工具已经不再依赖自建模型,而是通过 “劫持” 合法的大语言模型(LLMs)来生成恶意内容,令人担忧的是,它甚至能够轻易地绕过现有的安全限制。 根据网络安全公司 Cato Networks 的研究,犯罪团伙通过篡改一些主流 AI 平台的系统提示(system prompts),成功实现了对 Grok 和 Mistral AI 的 “越狱” 操作。
6/19/2025 3:01:18 PM
AI在线
  • 1