国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

从长远看,人工智能的宁静问题,还需从算法模型的原理上突破,唯有持续加强基础钻研,才能破解核心科学问题。

9月16日,以“共筑AI宁静 安享智能未来”为主题的AISC首届人工智能宁静大赛圆满落幕。中科院院士、清华大学人工智能钻研院名誉院长张钹,北京市科学技巧委员会、中关村科技园区管理委员会党组成员、副主任张宇蕾,北京市经济和信息化委员会党组成员、副主任潘锋,工业和信息化部网络宁静管理局数据宁静处四级调研员张洪为活动致辞。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

活动现场

本次大赛由国家工业信息宁静生长钻研中心、清华大学人工智能钻研院和北京瑞莱智慧科技有限公司等单位联合主办,系首个全国性人工智能宁静赛事,旨在推动人工智能攻防技巧创新、实战演练、场景挖掘和人才培养。

同期举办的主题论坛,邀请到多位院士大师、行业领袖、政企代表出席,共同探讨如何在未来智能的全新战场,打赢技巧攻防之战。与会大师们表示,重视人工智能宁静体系建设,既是当务之急,也是长远考虑,需加快促进人工智能宁静领域关键技巧钻研与攻防实践。

AI宁静危险已非未来挑战,而是眼前威胁

试想一下,有人将一张“神奇的贴纸”放置在面部,就可以使人脸识别门禁零碎误认为是你,从而轻而易举打开大门;同样是这张“神奇的贴纸”,把它放置在眼镜上,就可以1秒解锁你的手机人脸识别,探取你的隐私如入无人之境。这并非科幻大片的想象,而是首届人工智能宁静大赛颁奖典礼现场展示的真实攻防场景。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

大赛工作人员示范对立样本攻打人脸识别门禁零碎

人工智能和其他通用目的技巧一样,在高歌猛进的同时,也带来了新的危险和隐患。主办方北京瑞莱智慧科技有限公司首席执行官田天认为,人工智能技巧危险发生的范围正随着应用场景的日趋广泛而逐步扩大,危险发生的可能性也随着其应用频次的增长而持续提高。在他看来,人工智能当前的宁静危险主要可以从“人”与“零碎”这两个视角来剖析。

从人的视角来评估AI的宁静问题,首当其冲就是技巧的两面性问题,存在AI滥用甚至“武器化”的问题。具体到人工智能的应用中来看,最为典型的代表就是深度捏造技巧,它的负向应用危险持续加剧且已产生实质危害。

而现场的人脸识别破解示范,所揭示的正是零碎的危险,它来自于深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”,具有不可解释性,意味着零碎存在结构性的毛病,可能受到不可预知的危险,典型的就比如现场示范的“神奇贴纸”,其实就是“对立样本攻打”,通过在输入数据中添加扰动,使得零碎作出错误判断。

这一毛病在主动驾驭感知零碎同样存在,瑞莱智慧示范了用对立样本攻打主动驾驭汽车。正常情况下,在识别到路障、指示牌、行人等目标后,主动驾驭车辆就会立即停车,但在目标物体上添加干扰图案后,车辆的感知零碎就会出错,径直撞上去。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

在人工智能的全生命周期,不仅存在算法层面的宁静性问题,算力作为人工智能生长的重要基础设施,也面临着诸多危险,推动人工智能算力基础设施宁静生长具有重要意义。活动期间,由国家工业信息宁静生长钻研中心牵头,联合华为技巧有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施宁静生长白皮书》正式发布。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

《人工智能算力基础设施宁静生长白皮书》正式发布

白皮书围绕人工智能算力基础设施宁静生长的意义、内涵与体系架构、宁静管理现状、生长建议等方面展开深入钻研。白皮书指出,人工智能算力基础设施不同于传统的算力基础设施,既是“基础设施”又是“人工智能算力”也是“公共设施”,具有基建属性、技巧属性、公共属性三重属性。相应地,推动人工智能算力基础设施宁静生长应从强化自身宁静、保障运行宁静、助力宁静合规三个方面发力,通过强化自身的可靠性、可用性与稳定性,保障算法运行时的机密性与完整性,提升用户的宁静管控力、认可度与合规性等八个领域筑牢人工智能宁静防线,打造可信、可用、好用的人工智能算力底座,营造宁静、健康、合规生长的人工智能产业生态。

以赛促研、以赛育人,守护未来智能宁静

宁静的本质在于对立升级,构建宁静需要一个持续攻防演进的过程。田天表示,大赛聚焦人工智能真实应用场景中的典型毛病及危险,以赛促建、以赛促研,通过考核参赛队伍的毛病发现、毛病挖掘等能力,探索新型宁静需求场景,推动AI攻防技巧创新,为强化人工智能治理体系与宁静评估能力建设提供支撑。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

瑞莱智慧首席执行官田天

结合具体赛题来看,主动驾驭宁静赛题和人脸识别宁静赛题从攻打视角出发,通过让选手攻打目标模型挖掘算法毛病,旨在发现更加稳定的攻打算法,以更好的实现准确评估模型的宁静性。深度捏造宁静赛题则通过分析捏造音视频的相似性,来溯源不同捏造内容是否来自同一种或同一类生物特征生成软件,以促进对深度捏造检测技巧的生长,具有重要的现实意义。

构建人工智能的宁静生态,一方面需要技巧的持续演进,一方面也需要专项技巧人才的建设与培养。田天表示,由于人工智能宁静钻研目前仍属于新兴领域,专项人才较少,缺乏零碎性的钻研队伍,本次大赛通过实战演练的方式,全方位验证和提升选手实战能力,为培育一批高水平、高层次的人工智能宁静新型人才团队提供了“快速通道”。

自七月开启报名以来,大赛共吸引来自全国范围内70多所高等高校、科研院所、企业机构的超过400支团队,共计600余名选手的踊跃参与。经过三个月的激烈角逐,最终,上海交通大学联合战队“AreYouFake”与北京交通大学战队“BJTU-ADaM”分别摘得深度捏造宁静与主动驾驭宁静赛道桂冠,北京理工大学战队“DeepDream”与建信金科战队“Tian Quan&LianYi”共同位列人脸识别赛道第一名。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

深度捏造宁静竞赛前三名

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

主动驾驭宁静竞赛前三名

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

人脸识别宁静竞赛前三名

本次大赛供了技巧交锋和思维碰撞的平台,通过竞赛的方式挖掘攻打与防御技巧新思路,同时链接产业侧真实宁静需求,为进一步强化人工智能宁静攻防钻研提供基础,也为推动人工智能宁静标准及能力建设提供了重要支撑,助力我国人工智能产业的整体生长。

大师观点:没有高水平宁静,就没有高质量生长

统筹生长和宁静,是每项新技巧生长过程中面临的必然问题,如何实现高水平生长和高水平宁静的良性互动,也是当前人工智能产业生长最为重要的命题,现场多位大师就此话题展开分享,探索AI宁静建设的新思路与新路径。

人工智能对立攻防包括对立样本、神经网络后门、模型隐私问题等多方面技巧。模型有错误就需要进行及时的修复,中国科学院信息宁静国家重点实验室副主任陈恺提出“神经网络手术刀”的方法,通过定位引发错误的神经元,进行精准“微创”修复。陈恺表示,不同于传统的模型修复工作需要重新训练模型,或者依赖于较大量的数据样本,这种方式类似于“微创手术”,只需极少量或无需数据样本,能够大幅提升模型修复效果。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

中国科学院信息宁静国家重点实验室副主任陈恺

开放环境下的人工智能零碎面临诸多宁静挑战,如何解决通用人工智能算法全周期的宁静保障问题成为重中之重。北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙表示,目前人工智能算法及零碎的宁静性缺乏科学评测手段,难以有效评测完整的人工智能模型和算法能力。他表示,从技巧上来看应形成从宁静性测试到宁静性分析与宁静性加固的完整技巧手段,最终形成标准化的测试流程。同时他指出,未来的人工智能宁静应该围绕从数据、算法到零碎各个层次上的全面评测,同时配合一套整体的从硬件到软件的宁静可信计算环境。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙

工商银行金融钻研院宁静攻防实验室主管大师苏建明表示,人工智能宁静治理需要广泛协作和开放创新,需加强政府、学术机构、企业等产业各参与方的互动合作,建立积极的生态规则。政策层面加快人工智能的立法进程,加强对人工智能服务水平、技巧支撑能力等专项监督考核力度。学术层面,加大对人工智能宁静钻研的激励投入,通过产学研合作模式加快科研成果的转化与落地。企业层面,逐步推动人工智能技巧由场景拓展向宁静可信生长转变,通过参与标准制定,推出产品服务,持续探索人工智能宁静实践及解决方案。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

工商银行金融钻研院宁静攻防实验室主管大师苏建明

最后,圆桌对话环节,北京交通大学教授、计算机与信息技巧学院副院长景丽萍、清华大学人工智能钻研院基础理论钻研中心主任朱军、北京邮电大学网络空间宁静学院副院长邓伟洪、北京科技大学计算机与通信工程学院教授陈健生、华为可信AI宁静解决方案大师唐文围绕人工智能宁静技巧生长、人工智能宁静治理等话题展开深入交流。

国内首届AI宁静大赛圆满收官,上交大、北交大、北理工等夺得三项赛道冠军

大师们认为,从长远看,人工智能的宁静问题,还需从算法模型的原理上突破,唯有持续加强基础钻研,才能破解核心科学问题,同时他们强调,人工智能的未来生长需确保对整个社会、国家生长的有效性和正向促进性,需要政产学研用多方协同共进。

原创文章,作者:机器之心,如若转载,请注明出处:https://www.iaiol.com/news/guo-nei-shou-jie-ai-ning-jing-da-sai-yuan-man-shou-guan/

(0)
上一篇 2022年 9月 14日 上午11:06
下一篇 2022年 9月 21日 下午10:40

相关推荐

  • 百分点认知智能实验室:智能对话技术应用和实践

    编者按智能对话系统因其巨大的潜力和商业价值受到越来越多研究者和从业者的关注,对话的主要种类囊括闲谈型、常识型、任意型、阅读理解型等,目前已经广泛应用在智能客服、智能音箱、智能车载等众多场景。近年来,智能对话还出现了新的应用场景,例如可以将自然语言转换为各种程序性语言,如SQL,从数据库中找到相应的答案,让用户和数据库的交互变得更加直接和方便。为此,Datafun发布了百分点首席算法科学家苏海波署名文章,文中主要介绍了智能问答中的成绩语义等价模型、常识图谱问答模型、NL2SQL模型,以及百分点在智能问答领域的实践案例

    2021年 3月 10日
  • 《Pattern Recognition Letters》特刊通知

    中心:深度进修模型安全简介:深度进修已广泛应用于自然语言处理、计算机视觉、数据安全等诸多领域。为进修到有效的深度模型,需花费大量时间和精力来收集数据与分配计算资源。这些模型可能会被非法使用,从而牺牲模型所有者的权益。另一方面,深度进修模型也容易受到对立样本或毒化数据的打击。这严重降低了深度进修技术的准确性和可靠性。为此需进行深度进修模型安全研讨,保障模型的真实性和可靠性,以抵御各种打击。该研讨还处于起步阶段,虽然已取得了一定进展,但要为鉴于深度进修的应用开发稳健可靠的模型还远远不够。本期特刊旨在推动深度进修模型的攻

    2021年 7月 5日
  • 「讹诈」制作业

    搜集犯罪分子将注意力从消费者转移到了更大更肥的是鱼上——有钱、缺人、承受迅速恢复产能的巨大压力的制作业公司。然而,许多制作商都不准备好与世界上最致命的恶意软件作斗争,即使遭受进犯,要么轻描淡写,要么讳莫如深。尽管讹诈软件通常会带来巨大的成本,浪费时间和资源,给公司的声誉和品牌带来巨大的危害,并且会影响整个行业的看法,但是,随着制作商向产业4.0过渡,面对搜集威胁,他们比其他行业更准备不足。比如,只有不到三分之二的制作商拥有搜集宁静打算,但打算位于部门响应打算最底层。越来越多的制作业企业也没

    2021年 4月 8日
  • 引入多感官数据进修,华人学者Ruohan Gao摘得2021 UT-Austin最佳博士论文奖

    UT-Austin 本年度的最佳博士论文奖获取者 Ruohan Gao,目前是斯坦福大学的博士后钻研员。

    2021年 10月 27日
  • Creator 面对面 | 北大河图在希罕大模型训练架构上的几点探索

    河图是北京大学数据与智能实验室自研的一款分布式深度学习框架,兼顾创新性和可用性,这也是国内首个由高校自主研发的分布式深度学习系统。底层的算子实现到上层的模型设计完全是由河图团队自主实现。

    2022年 7月 13日
  • 东软睿驰与芯驰科技达成战略竞争 携手加速国产化软硬件解决方案落地

    2022年4月7日,东软睿驰与芯驰科技签署战略竞争协议,两边将围绕软件界说汽车发展趋势,在汽车智能化技术与产物范围展开深层竞争,加速推动国产化软硬件方案落地,共创智能汽车发展新生态。根据协议,两边将基于东软睿驰在汽车根本软件、智能网联、主动驾驭及电动化等范围的技术积累,芯驰科技在芯片及芯片解决方案等方面的优势,强强联合,共同探索面向下一代的高性能、高稳当和高安全性的域控制产物。东软睿驰总经理曹斌表示:“随着智能汽车产业的不断发展,软硬件生态融合将加速智能网联汽车产业创新迭代,为用户带来更安全、更美好的出

    2022年 4月 7日
  • 浙大校友李旻辰获SIGGRAPH 2021最佳博士论文奖,连续四年华人学者包揽此奖项

    由于疫情的影响,盘算机图形顶级会议ACM SIGGRAPH 2021于8月9日至15日线上举行。该大会颁布了最佳博士论文奖以及盘算机图形学成就奖等奖项,其中最佳博士论文奖由UCLA博士后李旻辰摘得,这也是华人学者连续四年获得该殊荣。

    2021年 8月 10日
  • 悲观电网妨碍常识图谱,三大功能全面提升电网妨碍从事效率

    悲观推出电力妨碍形式常识图谱,借助自然语言处置惩罚、深度学习、图计算等智能化技术从非结构化的妨碍从事文档中抽取出妨碍相关常识,并将这些常识组织成结构化、可视化的表示形式。

    2022年 1月 11日
  • 斯坦福新书《决议算法》,694页PDF收费下载

    这本书体系引见了不详情性状况下的决议算法,虽然尚未正式出版,但电子版已经开放下载(并将永远开放)。

    2021年 2月 3日
  • “中关村智用人工智能同伴设计”报名已开放,八大效劳助力AI落地

    中关村智用人工智能同伴设计”(简称设计)报名已于2021年3月1日正式开放(报名链接:http://aizgc.org.cn/#/zhiyong/friend),并得到了人工智能财产各界的关注。某AI企业结合创始人李先生谈起同伴设计来满脸兴奋,据他介绍:同伴设计给他的创业带来了新的曙光,此前他的公司虽然拥有先进的手艺,但在寻找落地场景的道路上却一直坎坷,人脸识别等常识性使用场景已经是一片红海,想寻找手艺落地的蓝海场景,却又因为团队成员大都是信息手艺出身,对其他行业了解不多,既不知道哪些行业可能是潜在用户,即使知道,

    2021年 3月 29日

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注