AI在线 AI在线

安全

AI聊天机器人正滑向隐私危机

AI聊天机器人正滑向隐私危机
AI聊天工具正逐渐占据办公室场景，但隐私成本几何?用户在聊天界面中常感到匿名，可能会在未意识到风险的情况下分享个人数据。 网络犯罪分子也发现了同样的漏洞，AI聊天对话中分享的信息最终引发重大数据泄露事件可能只是时间问题。 当工作场所工具缺乏监管时专家警告称，用户在使用ChatGPT或Gemini等平台时应保持警惕，因为看似简单的交流仍可能留下持久的数据痕迹。
11/4/2025 7:00:00 AM
Sinisa
OpenAI Atlas等AI浏览器暴露Web Agent安全风险！南洋理工破解底层机制

OpenAI Atlas等AI浏览器暴露Web Agent安全风险！南洋理工破解底层机制
随着OpenAI推出ChatGPT Atlas浏览器，与Google Chrome正面竞争，AI浏览器赛道的核心技术关注点已聚焦于「自动化效率」。 但同时，LLM驱动的Web Agent也正演变为难以防御的「智能爬虫」，对当前网络安全构成日益严峻的威胁。 为此，南洋理工大学、香港理工大学、夏威夷大学马诺阿分校团队联合研发的WebCloak，针对性破解了Web Agent的底层机制，为这一新型威胁提供了轻量且高效的防御方案，成功填补了当前 LLM 驱动爬虫防御的技术空白。
11/3/2025 9:13:00 AM
双管齐下：联邦学习防投毒攻击与梯度泄露，华南理工深北莫研究成果登上TMC与IoT

双管齐下：联邦学习防投毒攻击与梯度泄露，华南理工深北莫研究成果登上TMC与IoT
随着联邦学习在物联网（IoT）系统中的广泛应用，如何在保障数据隐私的同时有效抵御恶意攻击，已成为学界与产业界的共同难题。 针对这一问题，华南理工大学计算机学院与深圳北理莫斯科大学合作，提出了FedMSBA和FedMAR两种防御方法。 其中，FedMSBA利用混合差分隐私机制，结合逐层感知方法，为参与方提供了更佳的理论隐私预算。
10/29/2025 9:51:03 AM
AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025

AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025
你的AI助手真的安全吗？ 你敢信吗？ 只要在AI的「脑子」里注入一段精心「调制」的「想法」，就能让它自己「黑化」，说出本不该说的秘密。
10/27/2025 9:12:00 AM
GenAI正导致敏感数据大规模泄露

GenAI正导致敏感数据大规模泄露
敏感数据无处不在，且增长迅速。 Concentric AI发布的一份新报告强调了非结构化数据、重复文件以及高风险的共享行为如何给安全团队带来严重问题。 研究结果显示，微软Copilot等GenAI工具增加了复杂性，而过度共享和数据管理不善等老问题仍持续造成数据泄露风险。
9/28/2025 7:10:00 AM
Anamarija
CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己

CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己
美国网络安全巨头CrowdStrike和Meta凑到一块，在拉斯维加斯的Fal.Con 2025大会上宣布，联合推出了一个叫CyberSOCEval的开源基准测试套件。 这东西干嘛的？ 就是一张给所有号称能做网络安全的AI大语言模型准备的考卷，专门考它们在真实的安全运营中心（SOC）环境下，到底能不能打。
9/25/2025 9:04:00 AM
云上话 AI 安全——安全必修课：大模型防护指南与行业实践圆满落幕！

云上话 AI 安全——安全必修课：大模型防护指南与行业实践圆满落幕！
随着人工智能技术的快速发展，大模型正在重塑金融行业的服务模式与运营效率。 然而，技术与应用越深入，安全问题也越凸显。 提示词注入、数据泄露、算力滥用等新型风险正在成为金融企业规模化应用大模型过程中必须直面的话题。
9/22/2025 11:00:47 AM
何思思
新威胁需要新防御！对AI智能体安全的一些思考和建议

新威胁需要新防御！对AI智能体安全的一些思考和建议
AI智能体正在成为连接数字世界和物理世界的关键纽带。 从操控软件 、开发代码到科学发现，它在现代企业数智化发展中有着几乎无限的发展潜力。 随着AI智能体能力和应用的不断增长，如何确保它们安全、可靠地运行是每个企业都必须要面对的严峻挑战。
9/19/2025 2:14:53 PM
ChatGPT惊现“零点击攻击”，API密钥被轻松泄露，OpenAI暂未解决

ChatGPT惊现“零点击攻击”，API密钥被轻松泄露，OpenAI暂未解决
ChatGPT存在“零点击攻击”安全问题。 用户无需点击，攻击者也能从ChatGPT连接的第三方应用窃取敏感数据，甚至窃取API密钥。 一位研究软件安全问题，名为塔米尔·伊沙雅·沙尔巴特（Tamir Ishay Sharbat）的小哥发了篇文章说道。
8/13/2025 9:05:00 AM
Anthropic官宣「封杀」OpenAI！GPT-5发布在即，竟被曝用Claude Code做开发？

Anthropic官宣「封杀」OpenAI！GPT-5发布在即，竟被曝用Claude Code做开发？
掀桌，拔网线，彻底拉黑！ 本周二，AI领域的两大巨头撕破脸。 据多位知情人士爆料，Anthropic公司已经切断了OpenAI对其所有大语言模型的API访问权限。
8/4/2025 8:58:00 AM
阿里安全揭示：恶意邮件可致macOS/iOS瞬间瘫痪！畸形证书发现密码库新漏洞

阿里安全揭示：恶意邮件可致macOS/iOS瞬间瘫痪！畸形证书发现密码库新漏洞
一封加密邮件，就能让macOS/iOS系统瞬间死机？ 这并非科幻情节，而是阿里安全最新研究成果揭示的真实攻击。 为了有效提防这种攻击，阿里安全与美国印第安纳大学伯明顿分校联合探索并发现了一项用于检测密码算法库中潜在的DoS（Denial-of-Service，拒绝服务）类安全问题的攻击向量——畸形X.509证书，并围绕该向量展开了一系列针对密码算法库中存在的相关问题的研究工作。
7/31/2025 3:50:49 PM
时令
“AI搭子”是否会替代传统组织形式，AI Agent原生是否会成为企业新的存在的方式？

“AI搭子”是否会替代传统组织形式，AI Agent原生是否会成为企业新的存在的方式？
十年前互联网变革时《浪潮之巅》《必然》《个体崛起》的启示还记忆犹新，今天，网红搭子、直播带货、短视频，就已经切切实实地在生活中常态化了。 可以看到，这些新兴产业形态背后，是一个个为了同一目标，动态组队的个体。 这也刚好印证了《个体崛起》一书的预言：互联网时代，个人正在从组织中分裂出来，未来社会经济的基本单元不再是企业，而是个体。
7/30/2025 12:02:00 AM
什么是网络安全转型？成功的最佳实践

什么是网络安全转型？成功的最佳实践
在监管压力不断增加和网络威胁不断上升的情况下，高管必须优先考虑网络安全转型，以保护资产、促进增长并确保弹性。 在当今的数字世界中，网络安全不应再被抛在脑后，而是企业至关重要的必需品。 如果不积极主动地进行网络安全转型，企业将面临监管处罚、运营中断、网络安全漏洞和声誉受损的风险。
7/15/2025 4:00:00 AM
何威风
你的RAG系统安全么？

你的RAG系统安全么？
生成式人工智能（GenAI）近年来发展迅速，大语言模型成为这一浪潮的核心力量。 无论是商业还是开源模型，它们都具备强大的语言理解与生成能力，正广泛应用于内容创作、聊天机器人等场景，让企业更容易落地智能应用。 但一个关键挑战是如何让这些通用的 LLM 更懂特定领域，同时保持知识的时效性。
7/1/2025 9:36:42 AM
曹洪伟
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯

ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
本工作共同第一作者包括：张亦弛，清华大学计算机系三年级博士生，师从朱军教授，研究方向是多模态大模型和大模型安全，在CVPR、NeurIPS、ICML等顶会发表多篇论文，曾主导开发了首个多模态大模型可信度全面评测基准MultiTrust；张思源，清华大学计算机系一年级硕士生，导师是苏航副研究员，研究方向是大模型安全与对齐算法。 本文通讯作者是清华大学人工智能学院董胤蓬助理教授和计算机系朱军教授。 其他合作者来自北航、瑞莱智慧、阿里安全、百川智能等单位。
6/26/2025 8:42:00 AM
特斯拉Robotaxi终于来了，但这11个误区你得先搞清楚

特斯拉Robotaxi终于来了，但这11个误区你得先搞清楚
6月22日，特斯拉在奥斯汀正式启动了Robotaxi服务。 我在推特上看到那些邀请函截图时，说实话有点震惊——这个被马斯克承诺了无数次的服务，居然真的开始了。 不过，网上关于特斯拉Robotaxi的讨论，很多都是错误的。
6/24/2025 9:16:48 AM
阿丸笔记
马斯克放大招：Robotaxi 真的来了！首批10辆开跑，千万网友围观，全网猜测：安全监控员干啥的？网友：不知道该怎么定义接管了

马斯克放大招：Robotaxi 真的来了！首批10辆开跑，千万网友围观，全网猜测：安全监控员干啥的？网友：不知道该怎么定义接管了
编辑 | 云昭出品 | 51CTO技术栈（微信号：blog51cto）统一车费 4.20 美元、首发奥斯汀、仅10余辆车上线运行……马斯克的 Robotaxi 终于开跑了。 6月23日清晨，马斯克在 X 上官宣：特斯拉自动驾驶出租车服务正式在德州奥斯汀启动试点，每单统一收取 4.20 美元，用户可以通过 Tesla App 体验这一“未来交通”。 并在置顶的帖子上表示：向 @Tesla_AI 的软件和芯片设计团队表示超级祝贺，@Robotaxi 成功上线！
6/23/2025 12:27:01 PM
云昭
本世纪最伟大AI专访之一：AI安全、Agent、OpenAI等重磅话题

本世纪最伟大AI专访之一：AI安全、Agent、OpenAI等重磅话题
昨晚，油管千万级大V The Diary Of A CEO放出了，与图灵奖、诺贝尔奖获得者，被誉为AI教父的Geoffrey Hinton最新深度专访。 二人以对话形式主要探讨了AI的发展、安全、应用；虽然AI存在一定的风险，但在帮助人类提升科研、工作、生活水平质量等方面是非常高效。 当然也会抢走一部分人的工作，从而创造一些全新的职位。
6/17/2025 9:26:09 AM