AI在线 AI在线

联邦学习

联邦学习：无需共享原始数据训练模型

联邦学习：无需共享原始数据训练模型
译者 | 李睿审校 | 重楼随着机器学习对训练数据的需求与日俱增，传统的集中式训练方式在隐私要求、运营效率低下以及消费者日益增长的怀疑态度下不堪重负。 由于道德和法律限制，医疗记录或支付历史等责任信息已经难以被简单地集中采集与处理。 在此背景下，联邦学习提供了一种截然不同的解决方案：它摒弃了“将数据传输至模型”的传统思路，转而采用“将模型推送至数据所在端”的创新模式。
10/21/2025 8:00:00 AM
李睿
ICCV 2025 | 新型后门攻击直指Scaffold联邦学习，NTU联手0G Labs揭示中心化训练安全漏洞

ICCV 2025 | 新型后门攻击直指Scaffold联邦学习，NTU联手0G Labs揭示中心化训练安全漏洞
通过使用控制变元（control variate）来校准每个客户端的本地梯度，Scaffold 已被广泛认为是缓解联邦学习中数据异质性影响的一种强大方案。 但尽管 Scaffold 实现了显著的性能提升，这种优越性是以增加安全漏洞为代价的。 本文中，NTU、0G Labs等机构提出了 BadSFL，这是首个针对 Scaffold 的后门攻击方法，它能够将原本良性的客户端转化为攻击的帮凶以放大攻击效果。
8/9/2025 12:52:00 PM
机器之心
大模型时代下的私有数据安全与利用

大模型时代下的私有数据安全与利用
一、大模型时代下的数据安全与利用问题众所周知，大模型是当前研究的热点之一，且已成为当前发展的主流趋势。 我们团队最近的研究方向从传统的联邦学习转变为探索这一范式在大模型时代的新拓展，即基于知识迁移的联邦学习。 我们认为在大模型时代，这种新的联邦学习模式非常适用。
11/18/2024 8:13:30 AM
邹恬圆
模型被投毒攻击，如今有了新的安全手段，还被AI顶刊接收

模型被投毒攻击，如今有了新的安全手段，还被AI顶刊接收
在深度学习时代，联邦学习（FL）提供了一种分布式的协作学习的方法，允许多机构数据所有者或客户在不泄漏数据隐私的情况下协作训练机器学习模型。然而，大多数现有的 FL 方法依赖于集中式服务器进行全局模型聚合，从而导致单点故障。这使得系统在与不诚实的客户打交道时容易受到恶意攻击。本文中，FLock 系统采用了点对点投票机制和奖励与削减机制，这些机制由链上智能合约提供支持，以检测和阻止恶意行为。FLock 理论和实证分析都证明了所提出方法的有效性，表明该框架对于恶意客户端行为具有鲁棒性。现今，机器学习（ML），更具体地说，
4/16/2024 3:24:00 PM
机器之心
FATE 2.0版本重磅发布：实现异构联邦学习系统互联互通

FATE 2.0版本重磅发布：实现异构联邦学习系统互联互通
打破“计算孤岛”、联通“技术孤岛”，推动异构平台之间的互联互通，是隐私计算技术下一阶段的重要发展方向。国家数据局印发的《“数据要素×”三年行动计划（2024—2026年）》提出：“打造安全可信流通环境，深化隐私计算、联邦学习等技术应用，增强数据利用可信、可控、可计量能力，促进数据合规高效流通使用。”[1]中国信通院评论文章曾指出：“隐私计算有望成为支撑数据流通产业的基础设施，解决不同产品之间的技术壁垒，实现隐私计算跨平台间的互联互通已成为产业内的迫切需求。” [2]
1/9/2024 3:43:00 PM
FedAI联邦学习