AI在线 AI在线

网络安全

智能体可能通过普通网络搜索泄露企业数据

智能体可能通过普通网络搜索泄露企业数据
该研究由Smart Labs . AI和奥格斯堡大学共同开展。 作者希望了解间接提示注入在实际应用中(而非仅在孤立案例中)是如何运作的。
10/31/2025 2:00:00 AM
Mirko
如何在UNSW-NB15数据集上使用去噪自编码器进行零日攻击检测

如何在UNSW-NB15数据集上使用去噪自编码器进行零日攻击检测
译者 | 李睿审校 | 重楼零日攻击是当前网络安全领域最具破坏性的威胁之一，它们利用此前未发现的漏洞入侵，能够绕过现有的入侵检测系统（IDS）。 传统的基于签名的入侵检测系统（IDS）依赖于已知攻击模式构建防御规则，因此在此类攻击面前往往失效。 为了检测这种零日攻击，人工智能模型需要了解正常的网络行为模式，并自动识别并标记偏离正常模式的异常行为。
10/17/2025 9:00:00 AM
李睿
AI在现代威胁狩猎中的真实作用

AI在现代威胁狩猎中的真实作用
如今，AI无处不在，它存在于你的收件箱、社交信息流，甚至你的汽车里。 在网络安全领域，它被吹捧为一种“灵丹妙药”，最终能让防御者跟上攻击者的步伐。 我见识过足够多的炒作周期，深知事实远非如此简单。
9/23/2025 7:05:00 AM
Tony
OpenAI修复ChatGPT安全漏洞，用户数据曾面临泄露风险

OpenAI修复ChatGPT安全漏洞，用户数据曾面临泄露风险
近日，网络安全公司Radware的研究人员揭露了OpenAI ChatGPT中的一个安全漏洞，该漏洞曾可能导致用户的 Gmail 邮件数据被黑客窃取。 这个问题存在于 ChatGPT 推出的 “深度研究” 代理工具中，旨在帮助用户更好地分析和处理大量信息。 据 Radware 的研究，利用这一漏洞，攻击者可以轻松获取与 ChatGPT 服务绑定的 Gmail 账户中的敏感数据。
9/19/2025 9:56:42 AM
AI在线
影子AI每18个月翻倍增长，制造出安全运营中心永远无法察觉的盲区

影子AI每18个月翻倍增长，制造出安全运营中心永远无法察觉的盲区
这一场景每天都在全球各地的企业中上演，到2027年，深度伪造攻击将给各企业造成400亿美元的损失。 两年前还看似理论层面的技术，如今已实现工业化规模应用。 深度伪造只是新兴威胁态势中的一个维度。
9/17/2025 1:41:54 PM
Louis
大模型智能体不止能写代码，还能被训练成白帽黑客

大模型智能体不止能写代码，还能被训练成白帽黑客
当人们还在惊叹大模型能写代码、能自动化办公时，它们正在悄然踏入一个更敏感、更危险的领域 —— 网络安全。 想象一下，如果 AI 不只是写代码的助手，而是能够像「白帽黑客」一样，在不破坏系统的前提下模拟攻击、发现漏洞、提出修复建议，会带来怎样的改变？ 这个问题，最近由 Amazon AWS AI 的 Q Developer 团队给出了答案。
9/11/2025 11:42:00 AM
机器之心
对话顺丰科技网络安全总监梁博：大模型浪潮下物流网络安全的守与破

对话顺丰科技网络安全总监梁博：大模型浪潮下物流网络安全的守与破
网络安全中的攻防一直是矛与盾的关系，它们是相互对立且不断发展的。 当大模型重塑产业形态时，网络安全的“攻防边界”正在被悄然改写，开始上演一场在用魔法打败魔法的战争，但最终谁会胜利，不得而知。 作为承载亿量级用户隐私数据、依托自动化场景运转的物流行业来说，既面临传统网络攻击的持续侵扰，又需应对大模型衍生的新型安全风险。
9/1/2025 9:26:54 AM
以人工智能助力网络安全的 Seemplicity 获得 5000 万美元融资

以人工智能助力网络安全的 Seemplicity 获得 5000 万美元融资
以色列网络安全公司 Seemplicity 在其 B 轮融资中成功筹集到5000万美元。 这一轮融资由 Sienna Venture Capital 领投，Essentia Venture Capital 及现有投资者 Glilot Capital Partners、NTTVC 和 S Capital 参与。 Seemplicity 总部位于特拉维夫，同时在硅谷的帕洛阿尔托设有分支。
8/26/2025 11:30:58 AM
AI在线
网络安全中的哈希算法简介与实践

网络安全中的哈希算法简介与实践
网络安全中的哈希算法是一种单向过程，使用加密函数将数据转换为固定长度的字符串（称为哈希或摘要）。 确保数据的完整性和安全性，因此对于密码存储、数字签名和区块链应用至关重要。 无论你尝试多么独特的密码组合，你确定它无法被破解吗？
8/14/2025 7:59:30 AM
何威风
以AI与安全为双翼：HPE Aruba Networking重塑企业网络新范式

以AI与安全为双翼：HPE Aruba Networking重塑企业网络新范式
在前不久HPE于拉斯维加斯举办的全球Discover大会上，HPE Aruba Networking展示了一系列以 “AI赋能的安全融合网络” 为核心的新技术产品。 究其原因，目前随着AI的快速迭代和演进，一方面，大部分企业通过AI反哺业务增长，但另一方面，这也使企业的网络安全问题越来越棘手。 也就是说，HPE Aruba Networking的技术迭代和产品更新很大程度上是因“企业需求”而生，并因“企业需求”而变。
7/31/2025 11:59:22 AM
因被 AI 生成的虚假漏洞报告轰炸，开源网络工具 cURL 考虑停止提供安全赏金

因被 AI 生成的虚假漏洞报告轰炸，开源网络工具 cURL 考虑停止提供安全赏金
AI在线 7 月 19 日消息，开源网络工具 cURL 开发者 Daniel Stenberg 在博客发文，抱怨 cURL 的安全漏洞赏金项目（cURL Bug Bounty）被滥用，许多不怀好意者使用 AI 工具批量生成虚假漏洞报告，试图赚取项目赏金，这令 cURL 安全团队不堪其扰，考虑后续停止提供漏洞赏金。 Daniel Stenberg 表示，自 2019 年以来，cURL 的安全漏洞赏金项目合计为 81 个安全漏洞发现者提供了 9 万美元（AI在线注：现汇率约合 64.7 万元人民币）的奖励，而不怀好意者正是看到了相应赏金项目有利可图，因此利用 AI 工具生成大量“垃圾漏洞报告”，例如 cURL 仅在上周收到的垃圾报告量就激增到平时的 8 倍，而这些漏洞报告大部分都不实。 作为比较，cURL 安全团队目前仅有 7 个成员，即使是被大量 AI 漏洞报告轰炸，相应团队也无法掉以轻心，只能挨个花费 30 分钟至 3 小时确认相应漏洞是否属实，因此严重浪费时间及精力。
7/19/2025 8:57:55 PM
漾仔
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊

攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
虽然无法彻底解决维度诅咒带来的问题，根据理论证明，曼哈顿距离在高维空间中的识别能力要远远好于常用的欧式距离，可以缓解维度诅咒效应。 方法框架即便曼哈顿距离有着更好的识别效力，但是研究人员也不认为在识别后门攻击的时候曼哈顿就能完全替代欧氏距离。 除此以外，先前的工作已经表明[3]，有的后门攻击会在欧氏距离上表现区分度，有的则会在余弦相似度（Cos 距离）上表现差异。
7/14/2025 8:57:00 AM
市场监管总局批准发布人工智能、信息技术、物联网等7项国家标准

市场监管总局批准发布人工智能、信息技术、物联网等7项国家标准
市场监管总局（国家标准委）近日批准发布一批重要国家标准。 在新兴产业方面，发布人工智能、信息技术、物联网等7项国家标准，为释放数字化服务与应用能力提供技术保障。 发布数据中心、网络安全技术、系统与软件工程等5项国家标准，助力数字经济深层次互联互通。
7/2/2025 5:00:55 PM
AI在线
人工智能代理时代的安全、风险与合规治理

人工智能代理时代的安全、风险与合规治理
自主性催生治理模式变革人工智能代理（AI agents）正迅速成为企业运营的基础设施。 无论是处理服务工单、自动化政策执行、定制用户体验还是管理监管文件，AI代理已突破实验环境局限，深度参与企业服务交付、决策制定和运营扩展的全过程。 这类代理与传统机器人或确定性RPA（机器人流程自动化）系统存在本质差异。
6/19/2025 8:05:00 AM
清茶泡饭
首席信息安全官为何需要理解AI技术栈——网络安全视角

首席信息安全官为何需要理解AI技术栈——网络安全视角
随着人工智能技术的普及，相关风险也在蔓延。 安全负责人正面临保护尚未完全理解的系统的挑战，这构成了重大隐患。 帕拉丁全球研究所最新报告《AI技术栈：技术与网络政策入门》系统剖析了AI系统的构建原理及主要安全风险分布。
6/17/2025 9:31:53 AM
憨憨鸭
美国政府疫苗网站遭篡改，现托管 AI 生成的垃圾信息

美国政府疫苗网站遭篡改，现托管 AI 生成的垃圾信息
美国卫生与公众服务部（HHS）旗下疫苗网站遭篡改，托管AI生成的垃圾信息，涉及LGBTQ+主题。此次攻击还波及NPR、英伟达和斯坦福大学等机构网站。目前HHS尚未回应。#网络安全 #AI垃圾信息
6/12/2025 9:10:40 AM
远洋
AI 威胁使 SecOps 团队精疲力竭并面临风险

AI 威胁使 SecOps 团队精疲力竭并面临风险
在当今网络安全的战场上，AI 的迅猛崛起正在给安全运营团队带来前所未有的压力。 根据一项针对500名美国大型企业高级网络安全专家的最新调查显示，86% 的受访者在过去一年里加大了 AI 技术的使用，以应对日益增多的 AI 驱动攻击。 然而，虽然 AI 工具在威胁检测和数据分析等方面帮助了安全团队，令人担忧的是，近70% 的专业人士认为 AI 及其他新兴技术反而加剧了他们的工作疲惫感。
6/10/2025 3:00:56 PM
AI在线
智能体如何重塑工业自动化和风险管理

智能体如何重塑工业自动化和风险管理
在采访中，西门子数字工业部门网络安全横向管理副总裁迈克尔·梅茨勒(Michael Metzler)讨论了在工业环境中部署智能体所带来的网络安全影响，他谈到了智能体做出半自主决策所带来的风险，以及为什么像纵深防御(Defense-in-Depth)这样的分层安全方法对于保障工业系统安全至关重要。 在一个关键基础设施环境(如能源厂或生产线)中，如果智能体被攻破，会带来哪些影响?与传统自动化系统相比，智能体为工业环境引入了哪些新的网络安全风险?智能体代表了工业自动化领域的一项重要进步，通过其半自主决策功能提供了新的能力。 与任何技术进步一样，成功实施需要与现有的工业安全和安全标准及协议进行深思熟虑的整合。
5/29/2025 7:02:00 AM
Mirko Zorz