安全漏洞
国内首个AI大模型众测结果出炉！发现281个安全漏洞，未来治理刻不容缓
在第22届中国网络安全年会（暨国家网络安全宣传周网络安全协同防御分论坛）上，国内首次针对AI大模型的众测结果揭晓。 此次活动由中央网信办网络安全协调局指导，国家计算机网络应急技术处理协调中心主办，吸引了559名白帽子安全专家参与，对15款AI大模型和应用产品进行了全面的安全漏洞测试。 这项测试涵盖了从基础大模型到智能体和模型开发平台等多种产品，旨在从攻击者的角度发掘潜在的安全隐患。
9/17/2025 9:06:32 AM
AI在线
Perplexity Comet 浏览器遭遇恶意指令攻击漏洞，已修复但需警惕
近日，Perplexity 公司推出的基于人工智能的 Comet 浏览器被发现存在处理未验证输入的严重安全漏洞。 这一漏洞使得浏览器在请求对网页内容进行总结时，能够随意接受并处理页面上的文本，包括那些隐藏的恶意指令。 这种攻击方式被称为间接提示注入攻击。
8/21/2025 10:17:13 AM
AI在线
AI能替你写代码，但近半数代码可能暗藏安全漏洞
Veracode发布的《2025年GenAI代码安全报告》显示，虽然GenAI擅长编写可运行的代码，但在45%的情况下会引入安全漏洞，该报告分析了80个真实编程任务中100多个大语言模型(LLM)生成的代码。 氛围编程Veracode首席技术官延斯·韦斯林(Jens Wessling)表示：“氛围编程(vibe coding)的兴起，标志着软件开发方式的根本转变。 在氛围编程中，开发者通常依赖AI生成代码，且不明确规定安全要求，这种趋势的主要问题在于，开发者无需指定安全约束就能得到想要的代码，实际上是将安全编码决策交给了大语言模型。
8/11/2025 7:30:00 AM
自主式AI对安全专家来说既是福音也是祸患
网络安全在自主式AI面前站在了一个十字路口，我们从未拥有过如此强大的工具，它可以在眨眼之间创建大量的代码，发现并解除威胁，并且可以被如此果断且防御性地使用，这已经被证明是一个巨大的力量倍增器和生产力红利。 但虽然功能强大，自主式AI却并不可靠，这就是目前的困境。 所创建的代码可能包含微妙的缺陷，并且最终可能会弊大于利，比如通过助长网络钓鱼诱饵和构建新型恶意软件。
4/18/2025 12:10:00 AM
David Strom
- 1
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
DeepSeek
谷歌
AI绘画
机器人
大模型
数据
Midjourney
开源
Meta
智能
微软
用户
AI新词
GPT
学习
技术
智能体
马斯克
Gemini
图像
Anthropic
英伟达
AI创作
训练
LLM
论文
代码
算法
Agent
AI for Science
芯片
苹果
腾讯
Stable Diffusion
Claude
蛋白质
开发者
生成式
神经网络
xAI
机器学习
3D
RAG
人形机器人
研究
AI视频
生成
大语言模型
具身智能
Sora
工具
GPU
百度
华为
计算
字节跳动
AI设计
AGI
大型语言模型
搜索
视频生成
场景
深度学习
DeepMind
架构
生成式AI
编程
视觉
Transformer
预测
AI模型
伟达
亚马逊
MCP