安全

GenAI正导致敏感数据大规模泄露

敏感数据无处不在，且增长迅速。 Concentric AI发布的一份新报告强调了非结构化数据、重复文件以及高风险的共享行为如何给安全团队带来严重问题。研究结果显示，微软Copilot等GenAI工具增加了复杂性，而过度共享和数据管理不善等老问题仍持续造成数据泄露风险。

9/28/2025 7:10:00 AM

Anamarija

CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己

美国网络安全巨头CrowdStrike和Meta凑到一块，在拉斯维加斯的Fal.Con 2025大会上宣布，联合推出了一个叫CyberSOCEval的开源基准测试套件。这东西干嘛的？就是一张给所有号称能做网络安全的AI大语言模型准备的考卷，专门考它们在真实的安全运营中心（SOC）环境下，到底能不能打。

9/25/2025 9:04:00 AM

云上话 AI 安全——安全必修课：大模型防护指南与行业实践圆满落幕！

随着人工智能技术的快速发展，大模型正在重塑金融行业的服务模式与运营效率。然而，技术与应用越深入，安全问题也越凸显。提示词注入、数据泄露、算力滥用等新型风险正在成为金融企业规模化应用大模型过程中必须直面的话题。

9/22/2025 11:00:47 AM

何思思

新威胁需要新防御！对AI智能体安全的一些思考和建议

AI智能体正在成为连接数字世界和物理世界的关键纽带。从操控软件、开发代码到科学发现，它在现代企业数智化发展中有着几乎无限的发展潜力。随着AI智能体能力和应用的不断增长，如何确保它们安全、可靠地运行是每个企业都必须要面对的严峻挑战。

9/19/2025 2:14:53 PM

ChatGPT惊现“零点击攻击”，API密钥被轻松泄露，OpenAI暂未解决

ChatGPT存在“零点击攻击”安全问题。用户无需点击，攻击者也能从ChatGPT连接的第三方应用窃取敏感数据，甚至窃取API密钥。一位研究软件安全问题，名为塔米尔·伊沙雅·沙尔巴特（Tamir Ishay Sharbat）的小哥发了篇文章说道。

8/13/2025 9:05:00 AM

Anthropic官宣「封杀」OpenAI！GPT-5发布在即，竟被曝用Claude Code做开发？

掀桌，拔网线，彻底拉黑！本周二，AI领域的两大巨头撕破脸。据多位知情人士爆料，Anthropic公司已经切断了OpenAI对其所有大语言模型的API访问权限。

8/4/2025 8:58:00 AM

阿里安全揭示：恶意邮件可致macOS/iOS瞬间瘫痪！畸形证书发现密码库新漏洞

一封加密邮件，就能让macOS/iOS系统瞬间死机？这并非科幻情节，而是阿里安全最新研究成果揭示的真实攻击。为了有效提防这种攻击，阿里安全与美国印第安纳大学伯明顿分校联合探索并发现了一项用于检测密码算法库中潜在的DoS（Denial-of-Service，拒绝服务）类安全问题的攻击向量——畸形X.509证书，并围绕该向量展开了一系列针对密码算法库中存在的相关问题的研究工作。

7/31/2025 3:50:49 PM

时令

“AI搭子”是否会替代传统组织形式，AI Agent原生是否会成为企业新的存在的方式？

十年前互联网变革时《浪潮之巅》《必然》《个体崛起》的启示还记忆犹新，今天，网红搭子、直播带货、短视频，就已经切切实实地在生活中常态化了。可以看到，这些新兴产业形态背后，是一个个为了同一目标，动态组队的个体。这也刚好印证了《个体崛起》一书的预言：互联网时代，个人正在从组织中分裂出来，未来社会经济的基本单元不再是企业，而是个体。

7/30/2025 12:02:00 AM

什么是网络安全转型？成功的最佳实践

在监管压力不断增加和网络威胁不断上升的情况下，高管必须优先考虑网络安全转型，以保护资产、促进增长并确保弹性。在当今的数字世界中，网络安全不应再被抛在脑后，而是企业至关重要的必需品。如果不积极主动地进行网络安全转型，企业将面临监管处罚、运营中断、网络安全漏洞和声誉受损的风险。

7/15/2025 4:00:00 AM

何威风

你的RAG系统安全么？

生成式人工智能（GenAI）近年来发展迅速，大语言模型成为这一浪潮的核心力量。无论是商业还是开源模型，它们都具备强大的语言理解与生成能力，正广泛应用于内容创作、聊天机器人等场景，让企业更容易落地智能应用。但一个关键挑战是如何让这些通用的 LLM 更懂特定领域，同时保持知识的时效性。

7/1/2025 9:36:42 AM

曹洪伟

ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯

本工作共同第一作者包括：张亦弛，清华大学计算机系三年级博士生，师从朱军教授，研究方向是多模态大模型和大模型安全，在CVPR、NeurIPS、ICML等顶会发表多篇论文，曾主导开发了首个多模态大模型可信度全面评测基准MultiTrust；张思源，清华大学计算机系一年级硕士生，导师是苏航副研究员，研究方向是大模型安全与对齐算法。本文通讯作者是清华大学人工智能学院董胤蓬助理教授和计算机系朱军教授。其他合作者来自北航、瑞莱智慧、阿里安全、百川智能等单位。

6/26/2025 8:42:00 AM

特斯拉Robotaxi终于来了，但这11个误区你得先搞清楚

6月22日，特斯拉在奥斯汀正式启动了Robotaxi服务。我在推特上看到那些邀请函截图时，说实话有点震惊——这个被马斯克承诺了无数次的服务，居然真的开始了。不过，网上关于特斯拉Robotaxi的讨论，很多都是错误的。

6/24/2025 9:16:48 AM

阿丸笔记

马斯克放大招：Robotaxi 真的来了！首批10辆开跑，千万网友围观，全网猜测：安全监控员干啥的？网友：不知道该怎么定义接管了

编辑 | 云昭出品 | 51CTO技术栈（微信号：blog51cto）统一车费 4.20 美元、首发奥斯汀、仅10余辆车上线运行……马斯克的 Robotaxi 终于开跑了。 6月23日清晨，马斯克在 X 上官宣：特斯拉自动驾驶出租车服务正式在德州奥斯汀启动试点，每单统一收取 4.20 美元，用户可以通过 Tesla App 体验这一“未来交通”。并在置顶的帖子上表示：向 @Tesla_AI 的软件和芯片设计团队表示超级祝贺，@Robotaxi 成功上线！

6/23/2025 12:27:01 PM

云昭