AI在线 AI在线

安全

全球首个涉 AI 安全双边协议，英美两国建立人工智能安全科学合作伙伴关系

全球首个涉 AI 安全双边协议，英美两国建立人工智能安全科学合作伙伴关系
感谢美国东部时间 4 月 1 日晚，美国和英国签署了一项具有里程碑意义的 AI 相关协议，双方宣布建立人工智能安全科学合作伙伴关系。这也是全球首个关于人工智能安全的双边协议。该协议明确，英国去年 11 月成立的新 AI 安全研究所和美国同类机构，将通过借调两国研究人员来互相交流专业知识。图源 Pixabay此外，两家机构还将开发一种共同的人工智能安全测试方法，包括使用相同的方法和底层基础设施，双方将根据国家法律法规和合同，寻求员工交流和信息共享。新闻稿还称，双方拟将在一个“可公开访问”的 AI 模型上开展联合测试。
4/2/2024 3:44:10 PM
清源
首款生成式 AI 安全解决方案，微软 Copilot for Security 4 月 1 日上线

首款生成式 AI 安全解决方案，微软 Copilot for Security 4 月 1 日上线
感谢微软去年 3 月宣布推出 Security Copilot 服务， 当时微软声称这是世界上第一个基于生成式 AI 的安全产品。现在，微软宣布更名后的“Copilot for Security”将于 4 月 1 日正式上线。据介绍，这款行业领先的产品是唯一一款生成式 AI 解决方案，可帮助安全和 IT 专业人员增强其技能、进行更多协作、查看更多内容并更快地做出响应。 在微软最近进行的一项研究中，经验丰富的安全分析师通过使用 Copilot ，在处理常见安全任务中速度提高了 22%，同时将准确性提高了 7%。 此外
3/14/2024 8:33:51 AM
浩渺
国内首个网络安全大模型评测平台SecBench发布

国内首个网络安全大模型评测平台SecBench发布
2024年1月19日，业界首个网络安全大模型评测平台SecBench正式发布，该平台由腾讯朱雀实验室和腾讯安全科恩实验室，联合腾讯混元大模型、清华大学江勇教授/夏树涛教授团队、香港理工大学罗夏朴教授研究团队、上海人工智能实验室OpenCompass团队共同建设，主要解决开源大模型在网络安全应用中安全能力的评估难题，旨在为大模型在安全领域的落地应用选择基座模型提供参考，加速大模型落地进程。同时，通过建设安全大模型评测基准，为安全大模型研发提供公平、公正、客观、全面的评测能力，推动安全大模型建设。行业首发，弥补大模型在
1/19/2024 2:11:00 PM
新闻助手
确保实验室安全，港中大徐曜论述AI驱动的高通量自动化实验平台的重要性

确保实验室安全，港中大徐曜论述AI驱动的高通量自动化实验平台的重要性
作者 | 徐曜编辑 | S2023年，全球高校化学实验室安全事故频繁发生，这一现象凸显了教育领域对实验室安全的重视已迫在眉睫。从4月10日浙江一高校动物房的火灾事件，到8月17日台湾一大学化工系实验室的爆炸，再到11月30日河北一高校药学院的药化实验室火灾，虽然这些事故没有直接导致人员伤亡，但对实验动物和科研设施造成了重大损害。这些案例提醒我们，加强高校实验室的安全管理和风险预防工作是不容忽视的。图1：高校实验室安全问题依旧严峻。为应对这一挑战，市场上涌现出了一系列创新产品和技术。这些技术旨在通过高通量、模块化流体
1/5/2024 11:57:00 AM
ScienceAI
OpenAI发布新安全框架，董事会有权否决CEO发布新模型

OpenAI发布新安全框架，董事会有权否决CEO发布新模型
机器之能报道编辑：吴昕人类正在进入生成式 AI 新时代。而 OpenAI 在引导新技术朝着符合人类价值观和安全标准的方向所做的努力，也被视为行业的路标。还记得 Sam Altman 回归 OpenAI 时提到的「三个当务之急」吗？首当其冲的就是险些将他踢出公司的安全问题。现在，OpenAI  正力图系统化他们的安全思维。「我们的准备团队正在开展开创性工作，将安全发展成为一门定量科学。」 OpenAI 总裁 Greg Brockman 在社交平台上表示。本周一，公司在其网站上公布的一项计划，制定了一个框架来解决其最先
12/19/2023 3:08:00 PM
机器之能
从“源头”保护数据安全：腾讯安全推出大模型隐私保护脱敏技术

从“源头”保护数据安全：腾讯安全推出大模型隐私保护脱敏技术
大模型已经被广泛应用在各类场景，帮助人们进行报告摘要、文本翻译、数据分析、业务风控等各项工作，极大地提升了工作效率，但同时公众对于大模型带来的数据泄露的隐忧也从未停止。近日，腾讯安全玄武实验室披露了一项关于大模型隐私保护的安全脱敏与还原（Hide and Seek, HaS）技术，有望帮助大模型产品使用者从本地终端侧防范隐私数据泄露。HaS为业内首个支持信息还原的自由文本脱敏技术，通过对用户上传给大模型的prompt（提示词）进行隐私信息脱敏，并在大模型返回计算结果后进行恢复，该方案兼顾了隐私安全和计算资源消耗：脱
12/6/2023 9:41:00 AM
新闻助手
电信及互联网行业数据安全内控审计建设实践 | 盾见

电信及互联网行业数据安全内控审计建设实践 | 盾见
一站式解决数据安全合规审计、使用过程安全监测、动态脱敏防护等问题，为电信及互联网企业数字化建设保驾护航。
6/2/2023 9:51:00 AM
极盾科技
为数据而生，为隐私而战：隐私计算产业加速崛起

为数据而生，为隐私而战：隐私计算产业加速崛起
在充分保护隐私的同时尽可能多地挖掘数据价值，不仅理论上可行，实践中也有越来越多的团队为之努力并取得进展。
5/15/2023 3:06:00 PM
机器之心
PPC Insights系列：洞见安全多方图联邦

PPC Insights系列：洞见安全多方图联邦
知识图谱（Knowledge Graph）技术凭借其拓扑结构的信息关联关系和消息传递机制，能够对单体信息进行有益补充，因此正在被逐步应用于金融反欺诈、反洗钱和精准营销等场景。但是，因为现实社会中的数据孤岛问题，单一机构内的图数据往往只是一小部分，导致了更全面的关联关系和消息传递范式被阻断，这使得图数据的现实应用价值大打折扣。为此，洞见科技自主研发了“安全多方图联邦（Insight Federated Graph，InsightFG）”技术，并获得了国家发明专利。该技术从能力上涵盖了多方图数据的安全构建、安全查询、安
2/28/2023 11:33:00 AM
新闻助手
国内首届AI安全大赛圆满收官，上交大、北交大、北理工等夺得三项赛道冠军

国内首届AI安全大赛圆满收官，上交大、北交大、北理工等夺得三项赛道冠军
从长远看，人工智能的安全问题，还需从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题。
9/16/2022 9:16:00 PM
机器之心
对话极盾科技CEO丁杨：初创企业，所有客户都是创始人

对话极盾科技CEO丁杨：初创企业，所有客户都是创始人
十几年前的丁杨是一名工科大学生，在校期间，他最喜欢的事儿就是参加每周的社团活动，这个社团名为东南大学网络安全联盟（SUS），它还有着一个特殊的称号，即国内最早的高校网络安全社团。在接受朋湖专访时，说起这段青春往事，丁杨的语调也变得高昂起来，“我们每周六社团的人都会聚在一起做内容分享，风雨无阻。”他讲道，“当然后期来的人也有所减少，但最后留下来的人现在来看，也都选择从事了和网络安全相关的工作。”丁杨是其中坚持下来的一员。如今，丁杨已是一家网络安全初创企业创始人，拥有15年安全和数据分析从业经验，现在的他依然决心要在网
9/7/2022 9:56:00 AM
极盾科技
道阻且长，行则将至 | 安远AI x 机器之心系列讲座圆满结束

道阻且长，行则将至 | 安远AI x 机器之心系列讲座圆满结束
历时一个月，安远AI与机器之心联合举办的「迈向安全、可靠、可控的人工智能」六场系列讲座圆满结束，我们邀请了全球顶尖人工智能机构专家分享强化学习、预训练大模型、通用人工智能等内容。这六位专家分享了他们的真知灼见，并对人工智能与人类的未来展现出忧虑与希望：第1期：「寻找AGI的安全路径 」不正确的微调或目标的错误泛化可能会导致AGI追求一个不正确的目标。如果足够智能，这种未对齐（unaligned）的AGI将导致灾难性的后果。 —DeepMind研究科学家Rohin Shah第2期：「人类与AI的共生演化 」AI技术的
8/9/2022 6:59:00 PM
新闻助手
【征稿】IJCAI 2021联邦学习与迁移学习国际研讨会

【征稿】IJCAI 2021联邦学习与迁移学习国际研讨会
数字时代，隐私和安全正成为一个关键问题。公司和组织每天都在收集大量的数据，然而数据隐私保护相关法律法规越来越严格，给大数据和人工智能带来了新的挑战。例如欧盟的《通用数据保护条例》（General data Protection Regulation，GDPR）就明确提出，禁止在没有明确用户授权的情况下，直接合并来自不同来源的用户数据进行AI建模。为了探索AI如何适应这种新的监管环境，微众银行、京东、第四范式等中国企业联合香港科技大学、新加坡南洋理工大学、普林斯顿大学等国际知名高校及科研院所，将在第30届人工智能国际
4/9/2021 11:16:00 AM
新闻助手