AI在线 AI在线

数据隐私

企业中的大部分AI应用对安全团队而言是不可见的

企业中的大部分AI应用对安全团队而言是不可见的
大多数企业内部的AI活动都在IT和安全团队不知情的情况下进行。 根据Lanai的数据，企业中高达89%的AI使用是“隐形”的，带来了数据隐私、合规与治理方面的风险。 随着AI功能直接嵌入各类业务工具，这一“盲区”正在扩大。
9/17/2025 7:15:00 AM
Mirko Zorz
生成式AI时代下的数据、模型与用户保护全攻略

生成式AI时代下的数据、模型与用户保护全攻略
译者 | 核子可乐审校 | 重楼生成式AI正在重塑企业运营模式，以前所未有的规模实现自动化、内容生成和智能决策。 从AI驱动的聊天机器人到高级代码生成和创意设计，生成式AI正在通过提升效率与创新能力引发行业革命。 然而，伴随技术进步而来的还有企业必须应对的重大安全风险。
4/21/2025 8:19:36 AM
核子可乐
Meta 宣布重启 AI 训练，利用欧洲用户公开内容

Meta 宣布重启 AI 训练，利用欧洲用户公开内容
Meta 近日宣布，将开始使用来自欧洲用户的公开内容来训练其人工智能模型。 这一决定是对去年因数据隐私问题而暂停训练工作后的恢复。 Meta 表示，此次 AI 训练将主要依赖于在27个欧盟国家的成年用户所分享的公开帖子和评论。
4/15/2025 10:01:27 AM
AI在线
破解大模型隐私防线，华科清华联手实现微调数据90%精准识别

破解大模型隐私防线，华科清华联手实现微调数据90%精准识别
微调大模型的数据隐私可能泄露？ 最近华科和清华的研究团队联合提出了一种成员推理攻击方法，能够有效地利用大模型强大的生成能力，通过自校正机制来检测给定文本是否属于大模型的微调数据集。 NeurIPS24论文 《Membership inference attacks against fine-tuned large language models via self-prompt calibration》，提出了一种基于自校正概率波动的成员推理攻击算法SPV-MIA，首次在微调大模型场景下将攻击准确度提高至90%以上。
1/6/2025 7:40:00 AM
2024年人工智能的发展趋势

2024年人工智能的发展趋势
回顾2024年的人工智能领域，我们可以观察到一系列显著的趋势，特别是人工智能助手的广泛应用、人工智能代理的兴起，以及企业在选择人工智能解决方案时所面临的挑战与考量。 以下是对行业专家Derek Topp关于这些趋势的深入解读。 一、人工智能助手的快速发展在2024年，我们见证了无数供应商竞相发布新产品，旨在创建、部署和维护基于通用人工智能（GenAI）的代理。
1/2/2025 11:39:32 AM
Harris编译
  • 1