网络安全
大模型智能体不止能写代码，还能被训练成白帽黑客
当人们还在惊叹大模型能写代码、能自动化办公时，它们正在悄然踏入一个更敏感、更危险的领域 —— 网络安全。 想象一下，如果 AI 不只是写代码的助手，而是能够像「白帽黑客」一样，在不破坏系统的前提下模拟攻击、发现漏洞、提出修复建议，会带来怎样的改变？ 这个问题，最近由 Amazon AWS AI 的 Q Developer 团队给出了答案。
9/11/2025 11:42:00 AM
机器之心
对话顺丰科技网络安全总监梁博：大模型浪潮下物流网络安全的守与破
网络安全中的攻防一直是矛与盾的关系，它们是相互对立且不断发展的。 当大模型重塑产业形态时，网络安全的“攻防边界”正在被悄然改写，开始上演一场在用魔法打败魔法的战争，但最终谁会胜利，不得而知。 作为承载亿量级用户隐私数据、依托自动化场景运转的物流行业来说，既面临传统网络攻击的持续侵扰，又需应对大模型衍生的新型安全风险。
9/1/2025 9:26:54 AM
以人工智能助力网络安全的 Seemplicity 获得 5000 万美元融资
以色列网络安全公司 Seemplicity 在其 B 轮融资中成功筹集到5000万美元。 这一轮融资由 Sienna Venture Capital 领投，Essentia Venture Capital 及现有投资者 Glilot Capital Partners、NTTVC 和 S Capital 参与。 Seemplicity 总部位于特拉维夫，同时在硅谷的帕洛阿尔托设有分支。
8/26/2025 11:30:58 AM
AI在线
网络安全中的哈希算法简介与实践
网络安全中的哈希算法是一种单向过程，使用加密函数将数据转换为固定长度的字符串（称为哈希或摘要）。 确保数据的完整性和安全性，因此对于密码存储、数字签名和区块链应用至关重要。 无论你尝试多么独特的密码组合，你确定它无法被破解吗？
8/14/2025 7:59:30 AM
何威风
以AI与安全为双翼：HPE Aruba Networking重塑企业网络新范式
在前不久HPE于拉斯维加斯举办的全球Discover大会上，HPE Aruba Networking展示了一系列以 “AI赋能的安全融合网络” 为核心的新技术产品。 究其原因，目前随着AI的快速迭代和演进，一方面，大部分企业通过AI反哺业务增长，但另一方面，这也使企业的网络安全问题越来越棘手。 也就是说，HPE Aruba Networking的技术迭代和产品更新很大程度上是因“企业需求”而生，并因“企业需求”而变。
7/31/2025 11:59:22 AM
因被 AI 生成的虚假漏洞报告轰炸，开源网络工具 cURL 考虑停止提供安全赏金
AI在线 7 月 19 日消息，开源网络工具 cURL 开发者 Daniel Stenberg 在博客发文，抱怨 cURL 的安全漏洞赏金项目（cURL Bug Bounty）被滥用，许多不怀好意者使用 AI 工具批量生成虚假漏洞报告，试图赚取项目赏金，这令 cURL 安全团队不堪其扰，考虑后续停止提供漏洞赏金。 Daniel Stenberg 表示，自 2019 年以来，cURL 的安全漏洞赏金项目合计为 81 个安全漏洞发现者提供了 9 万美元（AI在线注：现汇率约合 64.7 万元人民币）的奖励，而不怀好意者正是看到了相应赏金项目有利可图，因此利用 AI 工具生成大量“垃圾漏洞报告”，例如 cURL 仅在上周收到的垃圾报告量就激增到平时的 8 倍，而这些漏洞报告大部分都不实。 作为比较，cURL 安全团队目前仅有 7 个成员，即使是被大量 AI 漏洞报告轰炸，相应团队也无法掉以轻心，只能挨个花费 30 分钟至 3 小时确认相应漏洞是否属实，因此严重浪费时间及精力。
7/19/2025 8:57:55 PM
漾仔
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
虽然无法彻底解决维度诅咒带来的问题，根据理论证明，曼哈顿距离在高维空间中的识别能力要远远好于常用的欧式距离，可以缓解维度诅咒效应。 方法框架即便曼哈顿距离有着更好的识别效力，但是研究人员也不认为在识别后门攻击的时候曼哈顿就能完全替代欧氏距离。 除此以外，先前的工作已经表明[3]，有的后门攻击会在欧氏距离上表现区分度，有的则会在余弦相似度（Cos 距离）上表现差异。
7/14/2025 8:57:00 AM
市场监管总局批准发布人工智能、信息技术、物联网等7项国家标准
市场监管总局（国家标准委）近日批准发布一批重要国家标准。 在新兴产业方面，发布人工智能、信息技术、物联网等7项国家标准，为释放数字化服务与应用能力提供技术保障。 发布数据中心、网络安全技术、系统与软件工程等5项国家标准，助力数字经济深层次互联互通。
7/2/2025 5:00:55 PM
AI在线
人工智能代理时代的安全、风险与合规治理
自主性催生治理模式变革人工智能代理（AI agents）正迅速成为企业运营的基础设施。 无论是处理服务工单、自动化政策执行、定制用户体验还是管理监管文件，AI代理已突破实验环境局限，深度参与企业服务交付、决策制定和运营扩展的全过程。 这类代理与传统机器人或确定性RPA（机器人流程自动化）系统存在本质差异。
6/19/2025 8:05:00 AM
清茶泡饭
首席信息安全官为何需要理解AI技术栈——网络安全视角
随着人工智能技术的普及，相关风险也在蔓延。 安全负责人正面临保护尚未完全理解的系统的挑战，这构成了重大隐患。 帕拉丁全球研究所最新报告《AI技术栈：技术与网络政策入门》系统剖析了AI系统的构建原理及主要安全风险分布。
6/17/2025 9:31:53 AM
憨憨鸭
美国政府疫苗网站遭篡改，现托管 AI 生成的垃圾信息
美国卫生与公众服务部（HHS）旗下疫苗网站遭篡改，托管AI生成的垃圾信息，涉及LGBTQ+主题。此次攻击还波及NPR、英伟达和斯坦福大学等机构网站。目前HHS尚未回应。#网络安全 #AI垃圾信息
6/12/2025 9:10:40 AM
远洋
AI 威胁使 SecOps 团队精疲力竭并面临风险
在当今网络安全的战场上，AI 的迅猛崛起正在给安全运营团队带来前所未有的压力。 根据一项针对500名美国大型企业高级网络安全专家的最新调查显示，86% 的受访者在过去一年里加大了 AI 技术的使用，以应对日益增多的 AI 驱动攻击。 然而，虽然 AI 工具在威胁检测和数据分析等方面帮助了安全团队，令人担忧的是，近70% 的专业人士认为 AI 及其他新兴技术反而加剧了他们的工作疲惫感。
6/10/2025 3:00:56 PM
AI在线
智能体如何重塑工业自动化和风险管理
在采访中，西门子数字工业部门网络安全横向管理副总裁迈克尔·梅茨勒(Michael Metzler)讨论了在工业环境中部署智能体所带来的网络安全影响，他谈到了智能体做出半自主决策所带来的风险，以及为什么像纵深防御(Defense-in-Depth)这样的分层安全方法对于保障工业系统安全至关重要。 在一个关键基础设施环境(如能源厂或生产线)中，如果智能体被攻破，会带来哪些影响?与传统自动化系统相比，智能体为工业环境引入了哪些新的网络安全风险?智能体代表了工业自动化领域的一项重要进步，通过其半自主决策功能提供了新的能力。 与任何技术进步一样，成功实施需要与现有的工业安全和安全标准及协议进行深思熟虑的整合。
5/29/2025 7:02:00 AM
Mirko Zorz
AI幻觉引爆网络安全危机 专家揭示了三大防御策略
对现实世界的影响“如果一家公司的智能体利用了过时或不准确的数据，AI幻觉可能会虚构出并不存在的漏洞，或错误解读威胁情报，导致不必要的警报或忽视真正的风险。 此类错误可能会分散对真正威胁的注意力，创造新的漏洞，并浪费本已紧张的安全运营团队资源。 ”Tanium的AI副总裁HarmanKaur在接受采访时表示。
5/21/2025 1:00:00 AM
Mirko Zorz
英国内阁示警：AI 发展将使该国面临更多、更复杂网络攻击
英国内阁高级部长警告，AI技术将使网络攻击更频繁复杂。近期英国零售业频遭勒索软件攻击，损失惨重。政府将推出新网络安全战略，要求企业加强防护。
5/7/2025 8:45:41 PM
清源
思科与 Meta 携手推出网络安全新武器：Foundation-sec-8B 大模型
思科（Cisco）与 Meta 的合作为我们带来了一个令人振奋的新进展。 他们共同发布了名为 Foundation-sec-8B 的开源大型语言模型(LLM)，该模型专门针对网络安全领域，具有80亿个参数。 这一创新产品不仅展现了两大科技巨头的强强联手，也预示着网络安全技术的新纪元。
5/7/2025 10:01:04 AM
AI在线
当人工智能脱离人类监督：自维持系统的网络安全风险
译者 | 晶颜审校 | 重楼人工智能正从执行预定义指令的工具，进化为具备自我修改、参数重写及实时反馈进化能力的复杂系统。 这种被称为“自创生”的自维持特性，使其能动态适应环境以提升效率，但也带来不可预测性。 对网络安全团队而言，传统安全模型基于“威胁来自外部”的假设——即恶意行为者利用稳定系统漏洞实施攻击。
5/7/2025 8:07:09 AM
晶颜
应对网络威胁利器！Cisco与Meta推出Foundation-sec-8B LLM
在全球安全大会（RSAC2025）上，Cisco 和 Meta 联手发布了 Foundation-sec-8B，这是一个专为网络安全设计的开源大型语言模型(LLM)。 随着网络攻击的加剧，传统的防御措施已显不足，企业亟需创新的解决方案来应对不断演变的威胁。 Foundation-sec-8B LLM 的独特之处Cisco 的 Foundation-sec-8B LLM 是由其新成立的 Foundation AI 团队开发的，旨在为网络安全领域提供专门的 AI 基础设施。
5/6/2025 10:01:12 AM
AI在线
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
DeepSeek
AI绘画
谷歌
机器人
数据
大模型
Midjourney
开源
智能
Meta
用户
微软
GPT
学习
技术
图像
Gemini
智能体
马斯克
AI新词
AI创作
Anthropic
英伟达
论文
训练
代码
算法
LLM
Stable Diffusion
芯片
腾讯
苹果
蛋白质
Claude
开发者
AI for Science
Agent
生成式
神经网络
机器学习
3D
xAI
研究
人形机器人
生成
AI视频
百度
计算
工具
Sora
GPU
大语言模型
华为
RAG
AI设计
字节跳动
具身智能
搜索
大型语言模型
场景
深度学习
AGI
视频生成
预测
视觉
伟达
架构
Transformer
神器推荐
DeepMind
亚马逊
特斯拉
编程
AI模型