ChatGPTAtlas
OpenAI 启用 AI 模拟黑客攻击,只为修补代理式浏览器的致命漏洞
OpenAI 正采取一种“以毒攻毒”的新策略,来提升其代理式网页浏览器 ChatGPT Atlas 的安全性。 为了应对日益复杂的网络威胁,OpenAI 开发了一套“自动化攻击者”系统,通过模拟真实黑客的攻击手段,对 ChatGPT Atlas 进行全天候的压力测试。 这套系统的核心在于对抗提示注入(Prompt Injection)攻击。
OpenAI 内部警示:ChatGPT Atlas 面临“即时注入”安全威胁
【AIbase报道】尽管 OpenAI 正在全力推广其全新一代智能浏览器 ChatGPT Atlas,但公司内部安全主管 Dane Stuckey 近日却公开表达了对其潜在安全风险的担忧,引发业界关注。 Stuckey 指出,Atlas 面临的最大挑战之一是尚未彻底解决的 “即时注入”(Prompt Injection)攻击。 这类攻击通过在网页、邮件或其他内容中巧妙嵌入恶意指令,从而诱导 AI 代理执行非预期操作。
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
谷歌
DeepSeek
AI新词
AI绘画
大模型
机器人
数据
Midjourney
开源
Meta
微软
智能
用户
GPT
学习
英伟达
Gemini
智能体
技术
马斯克
Anthropic
图像
AI创作
训练
LLM
论文
AI for Science
代码
腾讯
苹果
算法
Agent
Claude
芯片
具身智能
Stable Diffusion
xAI
蛋白质
人形机器人
开发者
生成式
神经网络
机器学习
AI视频
3D
字节跳动
大语言模型
RAG
Sora
百度
研究
GPU
生成
华为
工具
AGI
计算
生成式AI
AI设计
大型语言模型
搜索
亚马逊
AI模型
视频生成
特斯拉
DeepMind
场景
Copilot
深度学习
Transformer
架构
MCP
编程
视觉