AI在线 AI在线

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

AI智能体的滥用标志着网络攻击进入"自动化+智能化"新阶段。企业需同步升级防护体系,将AI视为潜在攻击载体,通过技术管控与管理规范降低风险。专家呼吁,未来需将AI安全纳入整体防御战略,平衡技术创新与安全防护。

网络安全公司 Symantec 于 3 月 13 日发布博文,指出 AI 智能体(如 OpenAI 的 Operator)已突破传统工具功能限制,可协助黑客发起钓鱼攻击、构建攻击基础设施。

AI在线援引博文介绍,研究人员强调,这类 AI 工具正从“被动辅助”转向“主动执行”,成为网络安全的新威胁。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

Symantec 发现,AI 智能体现可执行复杂攻击链,包括情报收集、恶意代码编写及社会工程攻击设计。攻击者通过简单提示工程(prompt engineering)即可绕过 AI 伦理限制,操控智能体完成攻击任务。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

此前 AI 仅能生成钓鱼邮件或基础代码,如今甚至可自动化搭建攻击基础设施,显著提升攻击效率。Stephen Kowski(SlashNext)建议强化邮件过滤(部署能检测 AI 生成内容的过滤系统),推行零信任原则(限制用户及 AI 智能体的最小权限访问)以及针对性培训员工识别 AI 生成的钓鱼威胁。

网络犯罪的“智能帮凶”:OpenAI Operator 等 AI 智能体成黑客新武器

由 Operator 创建的 PowerShell 脚本

相关资讯

“AI 教父”本希奥宣布开发“诚信”系统,防范智能体欺骗人类

“AI 教父”约书亚・本希奥(Yoshua Bengio)成立 LawZero 非营利组织,致力于开发“诚实”的 AI 系统,用以识别“流氓”AI 系统。
6/4/2025 1:51:01 PM
故渊

当心,你运行的AI可能变成内奸,会帮攻击者劫持你的电脑

大模型发展到现在,大家的设备上基本都有 AI 大模型工具了吧。 随着多模态、交互、编码等各项能力的进化,AI 智能体的应用也越来越广泛。 随之而来的就是 AI 智能体在相应应用场景获取的权限也越来越多。
8/28/2025 2:17:00 PM
机器之心

腾讯朱雀实验室推出代码防护技术Deep Puzzling,让代码更难被猜透

随着AI技术与网络安全结合得越来越紧密,基于AI技术的网络攻防手段也在日益更替。11月26日,全球顶级的信息安全峰会HITB Cyberweek 2021于近日举办,腾讯朱雀实验室专家研究员Jifeng Zhu和研究员Keyun Luo受邀参加,并进行了题为《Deep Puzzling: Binary Code Intention Hiding based on AI Uninterpretability》(《基于AI不可解释性的二进制代码意图隐藏》)的议题分享。会上,腾讯朱雀实验室展示了如何利用AI模型的特性,实
11/27/2021 2:31:00 PM
新闻助手
  • 1