AI在线 AI在线

安全

售价78.9万元起，极氪009光辉开启纯电四座超豪华MPV时代

售价78.9万元起，极氪009光辉开启纯电四座超豪华MPV时代
今日，极氪汽车家族再添新成员，极氪智能科技正式发布四座超豪华旗舰MPV车型极氪009光辉，官方零售价为78.9万元起。即日起，用户可通过极氪App、极氪官网、极氪小程序、全国各大城市的极氪门店等官方渠道进行预定，并将于5月19日，正式开启全国交付。限时购车权益：从2024年4月19日至2024年5月31日（含），支付50,000元定金的极氪009光辉新车首任非营运车主，可终身享受「安心护航计划」，包括但不限于车辆全生命周期的免费保养，雨刮片、制动片、制动盘等免费更换，以及无限次维保取送车（细则详见公告）。极氪新车首
4/19/2024 11:32:00 PM
新闻助手
OpenAI、蚂蚁集团、谷歌、科大讯飞等联合编制大模型安全国际标准，已正式发布

OpenAI、蚂蚁集团、谷歌、科大讯飞等联合编制大模型安全国际标准，已正式发布
4月15日-19日，第27届联合国科技大会在瑞士日内瓦召开。16日，在以“塑造AI的未来”为主题的AI边会上，世界数字技术院（WDTA）发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准，代表全球人工智能安全评估和测试进入新的基准。据了解，这两项国际标准是由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。其中《大语言模型安全测试方法》由蚂蚁集团牵头编制。 （图：W
4/18/2024 10:04:00 AM
新闻助手
瑞莱智慧完成新一轮战略融资，加速打造中国AGI安全基座

瑞莱智慧完成新一轮战略融资，加速打造中国AGI安全基座
近日，人工智能安全基础设施提供商瑞莱智慧（RealAI）宣布完成新一轮战略融资，北京市人工智能产业投资基金等参与投资。本轮融资完成后，瑞莱智慧将继续加速通用人工智能安全基座产品研发，并不断推进安全可控的大模型商业化落地。随着全球范围内最大规模的人工智能浪潮掀起，人工智能的可控性和安全性成为愈发重要的发展议题。如今，人工智能大模型的通用性和泛化性大幅提升，应用也从传统的判别式任务走向生成式任务，而人工智能的内生及衍生安全问题变得愈加复杂，其带来的挑战和已经引起的各类风险事件也持续受到全球公众、企业和政府的广泛关注。当
4/12/2024 12:44:00 PM
机器之心
全球首个涉 AI 安全双边协议，英美两国建立人工智能安全科学合作伙伴关系

全球首个涉 AI 安全双边协议，英美两国建立人工智能安全科学合作伙伴关系
感谢美国东部时间 4 月 1 日晚，美国和英国签署了一项具有里程碑意义的 AI 相关协议，双方宣布建立人工智能安全科学合作伙伴关系。这也是全球首个关于人工智能安全的双边协议。该协议明确，英国去年 11 月成立的新 AI 安全研究所和美国同类机构，将通过借调两国研究人员来互相交流专业知识。图源 Pixabay此外，两家机构还将开发一种共同的人工智能安全测试方法，包括使用相同的方法和底层基础设施，双方将根据国家法律法规和合同，寻求员工交流和信息共享。新闻稿还称，双方拟将在一个“可公开访问”的 AI 模型上开展联合测试。
4/2/2024 3:44:10 PM
清源
首款生成式 AI 安全解决方案，微软 Copilot for Security 4 月 1 日上线

首款生成式 AI 安全解决方案，微软 Copilot for Security 4 月 1 日上线
感谢微软去年 3 月宣布推出 Security Copilot 服务， 当时微软声称这是世界上第一个基于生成式 AI 的安全产品。现在，微软宣布更名后的“Copilot for Security”将于 4 月 1 日正式上线。据介绍，这款行业领先的产品是唯一一款生成式 AI 解决方案，可帮助安全和 IT 专业人员增强其技能、进行更多协作、查看更多内容并更快地做出响应。 在微软最近进行的一项研究中，经验丰富的安全分析师通过使用 Copilot ，在处理常见安全任务中速度提高了 22%，同时将准确性提高了 7%。 此外
3/14/2024 8:33:51 AM
浩渺
国内首个网络安全大模型评测平台SecBench发布

国内首个网络安全大模型评测平台SecBench发布
2024年1月19日，业界首个网络安全大模型评测平台SecBench正式发布，该平台由腾讯朱雀实验室和腾讯安全科恩实验室，联合腾讯混元大模型、清华大学江勇教授/夏树涛教授团队、香港理工大学罗夏朴教授研究团队、上海人工智能实验室OpenCompass团队共同建设，主要解决开源大模型在网络安全应用中安全能力的评估难题，旨在为大模型在安全领域的落地应用选择基座模型提供参考，加速大模型落地进程。同时，通过建设安全大模型评测基准，为安全大模型研发提供公平、公正、客观、全面的评测能力，推动安全大模型建设。行业首发，弥补大模型在
1/19/2024 2:11:00 PM
新闻助手
确保实验室安全，港中大徐曜论述AI驱动的高通量自动化实验平台的重要性

确保实验室安全，港中大徐曜论述AI驱动的高通量自动化实验平台的重要性
作者 | 徐曜编辑 | S2023年，全球高校化学实验室安全事故频繁发生，这一现象凸显了教育领域对实验室安全的重视已迫在眉睫。从4月10日浙江一高校动物房的火灾事件，到8月17日台湾一大学化工系实验室的爆炸，再到11月30日河北一高校药学院的药化实验室火灾，虽然这些事故没有直接导致人员伤亡，但对实验动物和科研设施造成了重大损害。这些案例提醒我们，加强高校实验室的安全管理和风险预防工作是不容忽视的。图1：高校实验室安全问题依旧严峻。为应对这一挑战，市场上涌现出了一系列创新产品和技术。这些技术旨在通过高通量、模块化流体
1/5/2024 11:57:00 AM
ScienceAI
OpenAI发布新安全框架，董事会有权否决CEO发布新模型

OpenAI发布新安全框架，董事会有权否决CEO发布新模型
机器之能报道编辑：吴昕人类正在进入生成式 AI 新时代。而 OpenAI 在引导新技术朝着符合人类价值观和安全标准的方向所做的努力，也被视为行业的路标。还记得 Sam Altman 回归 OpenAI 时提到的「三个当务之急」吗？首当其冲的就是险些将他踢出公司的安全问题。现在，OpenAI  正力图系统化他们的安全思维。「我们的准备团队正在开展开创性工作，将安全发展成为一门定量科学。」 OpenAI 总裁 Greg Brockman 在社交平台上表示。本周一，公司在其网站上公布的一项计划，制定了一个框架来解决其最先
12/19/2023 3:08:00 PM
机器之能
从“源头”保护数据安全：腾讯安全推出大模型隐私保护脱敏技术

从“源头”保护数据安全：腾讯安全推出大模型隐私保护脱敏技术
大模型已经被广泛应用在各类场景，帮助人们进行报告摘要、文本翻译、数据分析、业务风控等各项工作，极大地提升了工作效率，但同时公众对于大模型带来的数据泄露的隐忧也从未停止。近日，腾讯安全玄武实验室披露了一项关于大模型隐私保护的安全脱敏与还原（Hide and Seek, HaS）技术，有望帮助大模型产品使用者从本地终端侧防范隐私数据泄露。HaS为业内首个支持信息还原的自由文本脱敏技术，通过对用户上传给大模型的prompt（提示词）进行隐私信息脱敏，并在大模型返回计算结果后进行恢复，该方案兼顾了隐私安全和计算资源消耗：脱
12/6/2023 9:41:00 AM
新闻助手
电信及互联网行业数据安全内控审计建设实践 | 盾见

电信及互联网行业数据安全内控审计建设实践 | 盾见
一站式解决数据安全合规审计、使用过程安全监测、动态脱敏防护等问题，为电信及互联网企业数字化建设保驾护航。
6/2/2023 9:51:00 AM
极盾科技
为数据而生，为隐私而战：隐私计算产业加速崛起

为数据而生，为隐私而战：隐私计算产业加速崛起
在充分保护隐私的同时尽可能多地挖掘数据价值，不仅理论上可行，实践中也有越来越多的团队为之努力并取得进展。
5/15/2023 3:06:00 PM
机器之心
PPC Insights系列：洞见安全多方图联邦

PPC Insights系列：洞见安全多方图联邦
知识图谱（Knowledge Graph）技术凭借其拓扑结构的信息关联关系和消息传递机制，能够对单体信息进行有益补充，因此正在被逐步应用于金融反欺诈、反洗钱和精准营销等场景。但是，因为现实社会中的数据孤岛问题，单一机构内的图数据往往只是一小部分，导致了更全面的关联关系和消息传递范式被阻断，这使得图数据的现实应用价值大打折扣。为此，洞见科技自主研发了“安全多方图联邦（Insight Federated Graph，InsightFG）”技术，并获得了国家发明专利。该技术从能力上涵盖了多方图数据的安全构建、安全查询、安
2/28/2023 11:33:00 AM
新闻助手
国内首届AI安全大赛圆满收官，上交大、北交大、北理工等夺得三项赛道冠军

国内首届AI安全大赛圆满收官，上交大、北交大、北理工等夺得三项赛道冠军
从长远看，人工智能的安全问题，还需从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题。
9/16/2022 9:16:00 PM
机器之心
对话极盾科技CEO丁杨：初创企业，所有客户都是创始人

对话极盾科技CEO丁杨：初创企业，所有客户都是创始人
十几年前的丁杨是一名工科大学生，在校期间，他最喜欢的事儿就是参加每周的社团活动，这个社团名为东南大学网络安全联盟（SUS），它还有着一个特殊的称号，即国内最早的高校网络安全社团。在接受朋湖专访时，说起这段青春往事，丁杨的语调也变得高昂起来，“我们每周六社团的人都会聚在一起做内容分享，风雨无阻。”他讲道，“当然后期来的人也有所减少，但最后留下来的人现在来看，也都选择从事了和网络安全相关的工作。”丁杨是其中坚持下来的一员。如今，丁杨已是一家网络安全初创企业创始人，拥有15年安全和数据分析从业经验，现在的他依然决心要在网
9/7/2022 9:56:00 AM
极盾科技
道阻且长，行则将至 | 安远AI x 机器之心系列讲座圆满结束

道阻且长，行则将至 | 安远AI x 机器之心系列讲座圆满结束
历时一个月，安远AI与机器之心联合举办的「迈向安全、可靠、可控的人工智能」六场系列讲座圆满结束，我们邀请了全球顶尖人工智能机构专家分享强化学习、预训练大模型、通用人工智能等内容。这六位专家分享了他们的真知灼见，并对人工智能与人类的未来展现出忧虑与希望：第1期：「寻找AGI的安全路径 」不正确的微调或目标的错误泛化可能会导致AGI追求一个不正确的目标。如果足够智能，这种未对齐（unaligned）的AGI将导致灾难性的后果。 —DeepMind研究科学家Rohin Shah第2期：「人类与AI的共生演化 」AI技术的
8/9/2022 6:59:00 PM
新闻助手
【征稿】IJCAI 2021联邦学习与迁移学习国际研讨会

【征稿】IJCAI 2021联邦学习与迁移学习国际研讨会
数字时代，隐私和安全正成为一个关键问题。公司和组织每天都在收集大量的数据，然而数据隐私保护相关法律法规越来越严格，给大数据和人工智能带来了新的挑战。例如欧盟的《通用数据保护条例》（General data Protection Regulation，GDPR）就明确提出，禁止在没有明确用户授权的情况下，直接合并来自不同来源的用户数据进行AI建模。为了探索AI如何适应这种新的监管环境，微众银行、京东、第四范式等中国企业联合香港科技大学、新加坡南洋理工大学、普林斯顿大学等国际知名高校及科研院所，将在第30届人工智能国际
4/9/2021 11:16:00 AM
新闻助手