深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么

在刚刚结束的 IJCAI 2021 大会上,「深度进修模型知识产权损坏国际研讨会(DeepIPR-IJCAI’21)」正式举行,这场研讨会由微众银行、马来亚大学、香港科技大学、上海交通大学共同主办。

深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么机器进修,尤其是深度神经网络(DNN)手艺,近年来在诸多范围取得了巨大成功,许多科技公司都将神经网络模型部署在商业产品中,提高效益。训练先进的神经网络模型需要大规模数据集、庞大的计算资源和设计者的智慧。这具体体现在:(1)深度进修模型应用的训练模型规模巨大,以 GPT-3 为例,其预训练所用的数据量达到 45TB,训练费用超过 1200 万美元,有着极高的经济成本(2)深度进修模型在训练部署到工业应用场景过程中(比如智慧金融,智慧医疗应用),需要引入金融、医疗等范围专有先验知识,因此在模型设计过程就需要引入专家的知识和经验来订制模型,这体现了人脑力的知识产权。(3)深度进修模型的训练过程,需要特定范围的海量数据作为训练资源,存在数据本身价值和知识属性。以上属性决定了经过训练的深度进修模型具有很高的商业价值和知识属性,必须将其纳入合法所有者(即创建它的一方)的知识产权。因此,从手艺上迫切需要损坏深度神经网络(DNN)模型不被非法复制、重新分发或滥用。

深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么

深度进修模型知识产权损坏问题,是一个跨学科的综合性议题,涉及计算机安全,人工智能理论与格式、知识产权损坏、法律等诸多方面。深度进修模型的盗用、非法复制、分发等,进犯者可以采用手艺手段或者非手艺手段;但要确认盗用且声明模型所有权,则是完全从手艺端来提取证据,以便从法规的角度来认证模型所有权。具体而言,(1)从计算机安全角度出发,手艺手段需要采取密码学可信的协议,来保证模型的知识产权考证和发布过程是严密可信的;(2)从人工智能理论格式角度出发,模型的所有权认证手艺需要保证不牺牲模型可用性前提下,提供可靠且鲁棒的知识产权损坏格式;(3)在法规层面,从手艺端对模型所有权提取证据之后,这些证据能成为模型所有权的依据。最终监管方要通过法规的损坏,来裁定模型所有者的知识产权,这需要相关法规来指导如何从手艺判据,来判定模型所有权。据笔者所知,目前尚未有相关的立法具体到深度进修模型知识这一子范围,模型知识产权损坏不仅需要科技事情者的参与,也需要知识产权损坏范围事情者的关注和努力。本次研讨会定位于深度神经网络知识产权损坏钻研的前沿,展示钻研机构及高校实验室在此范围进行的最前沿的事情。分别来自德国、芬兰、马来西亚和中国的 8 位学者,就深度进修模型知识产权损坏问题,从算法、协议、安全等多个角度出发,分享了他们对模型知识产权损坏的思考和事情。在 Talk 1 中,南京航空航天大学的薛明富老师带来了《DNN Intellectual Property Protection: Taxonomy, Attacks and Evaluations》的主题讲座,他对深度进修模型损坏格式进行了分类性的总结,从模型场景、损坏机制、损坏能力、目标模型等维度,对模型知识产权损坏钻研进行了梳理,并且总结了针对已有的格式,存在的进犯和挑战,并给出了系统评估的相关建议。这场讲座为模型损坏范围总结了钻研现状和发展脉络。深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么来自德国 Fraunhofer AISEC 钻研院的 Franziska Boenisch,同样针对神经网络水印手艺分享了视角下的模型知识产权损坏的综述钻研事情。Franziska 从神经网络水印手艺的需求、算法应用、威胁模型等角度回顾了现有的钻研事情,以神经网络水印手艺的可用性、鲁棒性、可靠性、完整性等要求为主线,串联回顾了已有的模型水印钻研,指出了现有的钻研存在几大待解决的问题,包括缺乏主动损坏机制,算法数据类型案例有限和司法保障和手艺钻研并轨。深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么作为深度进修模型知识产权损坏的资深钻研者,毕业自马来亚大学以及微众银行 AI 项目组算法钻研员 Kam Woh Ng 分享了他所提出的用数字护照损坏模型知识产权的格式。Kam Woh Ng 分析了神经网络模型知识产权损坏的相关钻研的最新进展后发现,一种旨在通过伪造水印来对所有权考证产生疑问的模糊进犯,对多种基于水印的 DNN 所有权考证格式对 DNN 的知识产权损坏构成了严重威胁。针对上述安全漏洞,Kam Woh Ng 提出了一种新颖的基于数字护照的 DNN 所有权考证计划,该计划既对网络剪枝及微调等修改具有鲁棒性,又能够抵御模糊进犯。嵌入数字护照的关键在于,以一种巧妙的方式设计和训练 DNN 模型,从而使原 DNN 的事情性能在使用伪造护照时大大降低。也就是说,真正的数字护照不仅可以依据预定义的数字签字来进行考证,而且还可以根据 DNN 模型的事情性能来认定。Kam Woh Ng 详细分享如何使用数字护照损坏 DNN 以及抵御模糊进犯。深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么Kam Woh Ng 的 Passport 模型损坏格式提供了一大类通用的模型损坏思路,在本次研讨会中,还有其他钻研者也分享了模型水印格式具体应用在图象生成、图象概述等模型中的事情。来自马来西亚马来亚大学的 Ding Sheng Ong,针对图象生成深度进修模型,分享了题为《Protecting Intellectual Property of Generative Adversarial Networks From Ambiguity Attacks(GAN 的知识产权损坏格式)》的讲座。虽然目前已有用于卷积神经网络(CNN)的 IPR 损坏格式,但是却不能直接使用在生成对抗网络(GANs)——另一种被广泛用于生成逼真图象的深度进修模型。因此,本文提出了一种基于黑盒与白盒的 GAN 模型 IPR 损坏格式。实验结果表明,本格式并不会损害 GAN 本来的性能(如图象生成、图象超分辨率以及样式转换)。本格式也能够抵御去除嵌入的水印(removal)和模糊(ambiguity)进犯。分享中解说了如何基于黑盒与白盒的方式损坏对抗生成网络(GANs),以及如何抵御各种水印进犯。深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么来自马来西亚马来亚大学的 Jian Han Lim, 针对图象标注(image caption)神经网络模型,带来了题为《Protect, Show, Attend and Tell: Empower Image Captioning Model with Ownership Protection》的分享。Jian Han Lim 指出,现有的深度神经网络知识产权 (IPR) 损坏通常 i) 仅专注于图象分类任务,以及 ii) 遵循标准的数字水印框架,该框架通常用于损坏多媒体和视频内容的所有权。Jian Han Lim 论证了当前的数字水印框架不足以损坏通常被视为人工智能前沿之一的图象标注任务。作为补充,本文钻研并提出了在循环神经网络中的两种不同签字水印嵌入计划。从理论和经验的角度来看,其说明伪造的密钥会产生无法使用的图象标注模型,从而阻止了侵权的违规行为。该事情是第一个对图象字幕任务提出所有权损坏的事情。此外,大量实验表明,所提出的格式不会影响 Flickr30k 和 MS-COCO 数据集上所有通用字幕指标的原始图象标注任务性能,同时它能够承受去除进犯和歧义进犯。深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么针对深度进修常见任务和模型,已有上述所示多种神经网络损坏算法案例提供算法支撑。那么如何设计可行的通信协议,指导模型所有权考证的实际执行?来自上海交通大学的李方圻针对模型所有权考证的场景、协议和前景进行了题为《Regulating Ownership Verification for Deep Neural Networks: Scenarios, Protocols, and Prospects》的分享。李方圻介绍说,随着深度神经网络的广泛应用,将其作为知识产权加以损坏的必要性变得显而易见,钻研者已经提出了许多水印计划来识别深度神经网络的所有者并考证所有权。然而,大多数钻研都专注于水印嵌入而不是可说明考证的协议,为了弥合这些建议与现实世界需求之间的差距,李方圻介绍了三种场景下的深度进修模型知识产权损坏:所有权说明、联邦进修和知识产权转移,展示了已建立的密码原语和人工智能设置之间的结合,这可以构成实用且可说明的机器进修安全性的基础。深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么已有的深度进修模型知识产权损坏格式主要着眼于深度神经网络水印的算法实践和鲁棒性挑战,目前没有把模型水印算法实践到分布式神经网络训练的钻研。来自上海交通大学以及微众银行 AI 项目组的李博闻带来了题为《联邦深度进修模型所有权损坏》的讲座:考虑一个不完全信任的联邦进修系统中,假定各参与方能够按照联邦法则来进行模型更新和协同训练,但彼此不泄露私有本地数据和私密签字。在这种设定下,李博闻阐述了一种新颖的联合深度神经网络 (FedDNN) 所有权考证计划,该计划允许嵌入和考证所有权签字,以声明 FedDNN 模型的合法知识产权 (IPR),以防模型被非法复制、重新分发或滥用 . 嵌入式所有权签字的有效性在理论上是通过说明的条件来说明的,在这种条件下,签字可以被多个客户端嵌入和检测,而无需公开私人签字。 深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么最后,来自芬兰 Aalto 大学的 Buse Atli 带来了题为《Model Stealing and Ownership Verification of Deep Neural Networks》的综合性分享。最近的一些事情表明,从手艺的层面,人们暂时无法完全阻止深度进修模型夺取进犯,不同的模型夺取检测预防机制要么无法对抗强大的敌手,要么对模型性能和良性用户的效用产生负面影响。因此,模型所有者可以通过说明被盗模型的所有权来减少此类进犯的动机,而不是防止模型被夺取本身。已经提出的各种模型水印计划被广泛用于可靠的所有权考证,水印深度神经网络(DNN)引起了学术界相当大的钻研兴趣(尤其是在图象分类方面),因为深度进修模型水印易于部署并且对模型性能的影响可以忽略不计。并且,学术界针对 DNN 水印手艺提出了许多不同的进犯格式,从而对其鲁棒性提出了质疑。在本次演讲中,Buse 介绍了针对不同模型夺取进犯、动态对抗性水印 (DAWN) 作为对模型夺取的威慑以及联邦进修中模型水印手艺 (WAFFLE) 的相关事情,以根据不同的安全和隐私要求对这些格式进行分析。深度进修模型知识产权损坏怎么做?看看IJCAI 2021这场Workshop说了什么聚集顶尖学者,关注深度进修模型知识产权损坏范围,DeepIPR-IJCAI’21已成为全球模型损坏范围最前沿的学术动态窗口。以科技手段解决时代难题,多位行业领军者的干货分享,一定能够成为当下时代模型知识产权损坏范围最有力的助推器。讲座视频回顾及更多信息可查看研讨会官网或者B站

官网:http://federated-learning.org/DeepIPR-IJCAI-2021/

B站:https://www.bilibili.com/video/BV1PP4y1W7nS

原创文章,作者:机器之心,如若转载,请注明出处:https://www.iaiol.com/news/shen-du-jin-xiu-mo-xing-zhi-shi-chan-quan-sun-huai-zen-me/

(0)
上一篇 2021年 8月 31日 下午2:38
下一篇 2021年 8月 31日 下午3:21

相关推荐

  • 时隔五年,普林斯顿大学典范书《在线凸优化导论》第二版发表

    2016 年发表的《在线凸优化导论》第一版已成为领域内典范书。

    2021年 12月 29日
  • 华为诺亚调研200多篇文献,视觉Transformer综述入选TPAMI 2022

    华为诺亚方舟实验室联合北大和悉大整理了业界第一篇视觉Transformer综述。

    2022年 2月 23日
  • 计算机视觉领军学者沈春华归国,已参加浙江大学

    越来越多海外任教的学者正在「回归」国内。

    2021年 12月 19日
  • 94岁诺奖得主希格斯去世,曾预言「上帝粒子」的生存

    一名用诗意的语言揭示宇宙秘密的人。一名 94 岁平凡科学家的逝世,引发了人们广泛的哀思。4 月 10 日消息,诺贝尔物理学奖得主、著名物理学家彼得・希格斯(Peter Higgs)于周一去世,享年 94 岁。希格斯因提出希格斯玻色子也被称为「上帝粒子」而闻名。根据爱丁堡大学的一份声明我们得知(彼得・希格斯是该校的名誉退休传授),希格斯经历短暂的生病后,于 4 月 8 日星期一在家中安静的离开。对于老爷子的去世,爱丁堡大书院长 Peter Mathieson 沉重的表示:「彼得・希格斯是一名杰出的科学家 &mdash

    2024年 4月 10日
  • 淘宝推荐、视频搜刮背后的检索技巧:深度揭秘达摩院向量检索引擎Proxima

    淘宝搜刮推荐、视频搜刮背后使用了什么样的检索技巧?非结构化数据检索,向量检索,以及多模态检索,它们到底处理了什么课题?今天由阿里达摩院的科学家从业务课题出发,抽丝剥茧,深度揭秘达摩院内部技巧,向量检索引擎 Proxima,以及相关领域的现状、挑战和未来。

    2021年 3月 8日
  • AMD Ryzen 5000移动版曝光,功能大涨30%,明年1月或发布

    新呈现的型号 Ryzen 9 5900HX,单核功能要比现在的旗舰级 4900HS 快 30% 左右,还没有算超频。

    2020年 12月 9日
  • “中原氢城”濮阳与优必选科技达成策略竞争,发布全世界首款氢能源人形机器人

    2022年9月28日,氢生活、AI未来——全世界首款氢能源人形机器人发布暨濮阳“两能”交融策略签约仪式在“中原氢城”濮阳举行。在全世界首款氢能源人形机器人“一行”发布的同时,濮阳与优必选科技就人工智能与氢能“两能”交融达成策略竞争,积极探索和实施以人工智能驱动新能源生长策略,助力实行我国“碳达峰、碳中和”的目标,推动经济绿色高质量生长。领导和高朋与全世界首款氢能源人形机器人&ld

    2022年 9月 28日
  • NeurIPS 2020 | 微软亚洲研究院论文摘录之方针检测篇

    编者按:12月6日至12日,国际人工智能顶级会议 NeurIPS 2020(Conference and Workshop on Neural Information Processing Systems,神经信息处理系统大会)将在线上举办。相比前几年,2020年 NeurIPS 会议不管从论文投稿数量还是接收率都创下了记录:论文投稿数量创历史最高记录,比2019年增长了38%,但接收率却为史上最低。

    2020年 12月 3日
  • 新加坡国立大学金玥明组全奖博士生、博士后、科研助理招募

    新一年博士招生正式启动!本期我们将为大家介绍新加坡国立大学金玥明课题组招募博士生 / 博士后 / 科研助理的相关信息。

    2022年 8月 11日
  • 京东云发布618十大手艺,意在带动行业的新一轮变革

    6月15日,以“解码京东618:京东云发布十大手艺使用趋向”为主题的媒体沙龙在京东举办,这也是京东团体统合云、零卖、物流多方618手艺团队首次全面解密亿级消费洪峰、全供应链最复杂场景背面的手艺图景。活动现场,京东零卖逐层揭开了库存周转31.2天,这一世界级数字背面的奥秘,并由京东物流“接力”分享了如何通过一体化供应链完成全国超200座城市分钟级投递的过程,展示了商品从零卖到物流,最后送至消费者手中的全链路过程。与此同时,作为京东618的手艺基石,京东云全面展现了在面对

    2021年 6月 16日

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注