AI在线 AI在线

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

AI智能体的滥用标志着网络攻击进入"自动化+智能化"新阶段。企业需同步升级防护体系,将AI视为潜在攻击载体,通过技术管控与管理规范降低风险。专家呼吁,未来需将AI安全纳入整体防御战略,平衡技术创新与安全防护。

网络安全公司 Symantec 于 3 月 13 日发布博文,指出 AI 智能体(如 OpenAI 的 Operator)已突破传统工具功能限制,可协助黑客发起钓鱼攻击、构建攻击基础设施。

AI在线援引博文介绍,研究人员强调,这类 AI 工具正从“被动辅助”转向“主动执行”,成为网络安全的新威胁。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

Symantec 发现,AI 智能体现可执行复杂攻击链,包括情报收集、恶意代码编写及社会工程攻击设计。攻击者通过简单提示工程(prompt engineering)即可绕过 AI 伦理限制,操控智能体完成攻击任务。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

此前 AI 仅能生成钓鱼邮件或基础代码,如今甚至可自动化搭建攻击基础设施,显著提升攻击效率。Stephen Kowski(SlashNext)建议强化邮件过滤(部署能检测 AI 生成内容的过滤系统),推行零信任原则(限制用户及 AI 智能体的最小权限访问)以及针对性培训员工识别 AI 生成的钓鱼威胁。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

由 Operator 创建的 PowerShell 脚本

相关资讯

“AI 教父”本希奥宣布开发“诚信”系统,防范智能体欺骗人类

“AI 教父”约书亚・本希奥(Yoshua Bengio)成立 LawZero 非营利组织,致力于开发“诚实”的 AI 系统,用以识别“流氓”AI 系统。
6/4/2025 1:51:01 PM
故渊

腾讯朱雀实验室推出代码防护技术Deep Puzzling,让代码更难被猜透

随着AI技术与网络安全结合得越来越紧密,基于AI技术的网络攻防手段也在日益更替。11月26日,全球顶级的信息安全峰会HITB Cyberweek 2021于近日举办,腾讯朱雀实验室专家研究员Jifeng Zhu和研究员Keyun Luo受邀参加,并进行了题为《Deep Puzzling: Binary Code Intention Hiding based on AI Uninterpretability》(《基于AI不可解释性的二进制代码意图隐藏》)的议题分享。会上,腾讯朱雀实验室展示了如何利用AI模型的特性,实
11/27/2021 2:31:00 PM
新闻助手

PC 版 ChatGPT 客户端曝“记忆”功能漏洞,黑客可利用恶意文件令 AI 转发对话记录

OpenAI 在今年 2 月宣布为 ChatGPT 推出记忆(Memory)的功能,今年 9 月初这项功能正式向所有用户开放,该功能的主要用途是“设定预设”,从而帮助 AI 向用户更符合需求的答案。不过研究人员 Johann Rehberger 目前披露报告,称这项功能在 PC 版 ChatGPT 客户端上存在漏洞,黑客可借漏洞获取用户对话记录。AI在线获悉,Johann Rehberger 将这项漏洞称为 SpAIware,他表示黑客可通过钓鱼形式让受害者在 PC 版 ChatGPT 客户端中上传特定文件 / 特
9/27/2024 12:37:13 PM
漾仔
  • 1