安全

OpenAI 又一吹哨人离职！拉响安全警报，风险隐患实在太大

OpenAI 离职潮中，又一研究员官宣离职，并且还发出了“警告”信息：Ilya 和 Jan Leike 的担忧正是我的担忧，还有一些额外的问题。我们需要做更多事来改进决策流程等基础性的事务，包括问责制、透明度、文档、策略执行、如何谨慎使用技术，以及减轻不平等、权利和环境影响的措施。主人公名叫 Gretchen Krueger（简称格姐），是 OpenAI 的 AI 策略研究员。她在 2019 年加入 OpenAI，参与过 GPT-4 和 DALL・E 2 的开发工作，还在 2020 年领导了 OpenAI 第一个全

5/26/2024 5:52:30 PM

远洋

微软谷歌等 AI 巨头齐聚首尔：承诺安全开发人工智能模型，必要时关闭尖端系统

路透社报道，微软、谷歌、OpenAI 等 16 家科技公司在 21 日和 22 日举行的“人工智能（AI）首尔峰会”上承诺安全开发 AI 模型，在无法控制最极端风险的情况下关闭其尖端系统（cutting-edge systems）。参会的公司还包括国内企业智谱 AI（IT之家备注：腾讯、阿里、美团和小米曾对其投资）、IBM、亚马逊、Meta 和三星。安全承诺包括发布框架，阐明公司将如何衡量其模型的风险。在风险严重且“无法接受”的极端情况下，如果无法减轻风险，人工智能公司将不得不按下紧急停止开关，停止开发或部署其

5/22/2024 10:23:19 AM

沛霖（实习）

OpenAI 高管 Jan Leike 离职，批判公司内部已不再将“安全”视为优先

感谢继 OpenAI 共同创始人 Ilya Sutskever 离职之后，另一名 OpenAI 高管 Jan Leike 在 X 平台发布贴文，宣布他已经在上周离开公司。据悉，Jan Leike 是 OpenAI 旗下 Superalignment（超级对齐）团队的共同主管，他表示最近几年 OpenAI 已经不惜内部文化，忽视安全准则，执意高速推出“吸引眼球”的产品。IT之家经查询得知，OpenAI 在 2023 年 7 月设立 Superalignment 团队，任务是“确保那些具备‘超级智能’、‘比人类还聪明’

5/21/2024 1:43:20 PM

漾仔

欧拉全球化战略再进阶，2024款欧拉好猫&GT木兰版北京车展超值上市！

4月26日，2024北京国际车展欧拉品牌发布会以“欧拉美学，全球经典”为主题，重磅发布了欧拉全球化出海战略。欧拉将从产品覆盖、市场布局和出海模式等三个维度上不断深化，由“单品出海”向全价值体系“生态出海”进阶，开启全球化2.0新时代。发布会上，2024款欧拉好猫&GT木兰版同步超值上市！2024款欧拉好猫售价10.58万元-13.58万元区间，带来颜值、配置和安全等方面的全面升级；2024款欧拉好猫GT木兰版售价为11.98万元-12.98万元，以更酷飒、更智能、更安全的方式与新世代一同玩转纯电GT，双车更有5重权

5/13/2024 2:04:00 PM

新闻助手

“共筑安全星河：首届AI安全大赛在中关村论坛盛大启动”

在2024年的中关村论坛数据安全治理与发展论坛上，一项具有里程碑意义的活动——首届生成式人工智能安全大赛，正式拉开了帷幕。这场大赛是在北京市互联网信息办公室和中国科学院网络安全和信息化领导小组办公室的共同指导下，由中国科学院信息工程研究所与信息内容安全国家工程研究中心联合主办。此次大赛以“共筑安全星河，护航AI发展”作为核心主题，其宗旨在于依托中国科学院信息工程研究所Galaxy（星河）生成式人工智能安全风险测评平台，为参赛者提供一个专业的比赛环境。Galaxy平台，被誉为安全风险测评的“星河”，其核心是一个“以攻

4/28/2024 11:17:00 AM

新闻助手

售价78.9万元起，极氪009光辉开启纯电四座超豪华MPV时代

今日，极氪汽车家族再添新成员，极氪智能科技正式发布四座超豪华旗舰MPV车型极氪009光辉，官方零售价为78.9万元起。即日起，用户可通过极氪App、极氪官网、极氪小程序、全国各大城市的极氪门店等官方渠道进行预定，并将于5月19日，正式开启全国交付。限时购车权益：从2024年4月19日至2024年5月31日（含），支付50,000元定金的极氪009光辉新车首任非营运车主，可终身享受「安心护航计划」，包括但不限于车辆全生命周期的免费保养，雨刮片、制动片、制动盘等免费更换，以及无限次维保取送车（细则详见公告）。极氪新车首

4/19/2024 11:32:00 PM

新闻助手

OpenAI、蚂蚁集团、谷歌、科大讯飞等联合编制大模型安全国际标准，已正式发布

4月15日-19日，第27届联合国科技大会在瑞士日内瓦召开。16日，在以“塑造AI的未来”为主题的AI边会上，世界数字技术院（WDTA）发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准，代表全球人工智能安全评估和测试进入新的基准。据了解，这两项国际标准是由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。其中《大语言模型安全测试方法》由蚂蚁集团牵头编制。（图：W

4/18/2024 10:04:00 AM

新闻助手

瑞莱智慧完成新一轮战略融资，加速打造中国AGI安全基座

近日，人工智能安全基础设施提供商瑞莱智慧（RealAI）宣布完成新一轮战略融资，北京市人工智能产业投资基金等参与投资。本轮融资完成后，瑞莱智慧将继续加速通用人工智能安全基座产品研发，并不断推进安全可控的大模型商业化落地。随着全球范围内最大规模的人工智能浪潮掀起，人工智能的可控性和安全性成为愈发重要的发展议题。如今，人工智能大模型的通用性和泛化性大幅提升，应用也从传统的判别式任务走向生成式任务，而人工智能的内生及衍生安全问题变得愈加复杂，其带来的挑战和已经引起的各类风险事件也持续受到全球公众、企业和政府的广泛关注。当

4/12/2024 12:44:00 PM

机器之心

全球首个涉 AI 安全双边协议，英美两国建立人工智能安全科学合作伙伴关系

感谢美国东部时间 4 月 1 日晚，美国和英国签署了一项具有里程碑意义的 AI 相关协议，双方宣布建立人工智能安全科学合作伙伴关系。这也是全球首个关于人工智能安全的双边协议。该协议明确，英国去年 11 月成立的新 AI 安全研究所和美国同类机构，将通过借调两国研究人员来互相交流专业知识。图源 Pixabay此外，两家机构还将开发一种共同的人工智能安全测试方法，包括使用相同的方法和底层基础设施，双方将根据国家法律法规和合同，寻求员工交流和信息共享。新闻稿还称，双方拟将在一个“可公开访问”的 AI 模型上开展联合测试。

4/2/2024 3:44:10 PM

清源

首款生成式 AI 安全解决方案，微软 Copilot for Security 4 月 1 日上线

感谢微软去年 3 月宣布推出 Security Copilot 服务，当时微软声称这是世界上第一个基于生成式 AI 的安全产品。现在，微软宣布更名后的“Copilot for Security”将于 4 月 1 日正式上线。据介绍，这款行业领先的产品是唯一一款生成式 AI 解决方案，可帮助安全和 IT 专业人员增强其技能、进行更多协作、查看更多内容并更快地做出响应。在微软最近进行的一项研究中，经验丰富的安全分析师通过使用 Copilot ，在处理常见安全任务中速度提高了 22%，同时将准确性提高了 7%。此外

3/14/2024 8:33:51 AM

浩渺

国内首个网络安全大模型评测平台SecBench发布

2024年1月19日，业界首个网络安全大模型评测平台SecBench正式发布，该平台由腾讯朱雀实验室和腾讯安全科恩实验室，联合腾讯混元大模型、清华大学江勇教授/夏树涛教授团队、香港理工大学罗夏朴教授研究团队、上海人工智能实验室OpenCompass团队共同建设，主要解决开源大模型在网络安全应用中安全能力的评估难题，旨在为大模型在安全领域的落地应用选择基座模型提供参考，加速大模型落地进程。同时，通过建设安全大模型评测基准，为安全大模型研发提供公平、公正、客观、全面的评测能力，推动安全大模型建设。行业首发，弥补大模型在

1/19/2024 2:11:00 PM

新闻助手

确保实验室安全，港中大徐曜论述AI驱动的高通量自动化实验平台的重要性

作者 | 徐曜编辑 | S2023年，全球高校化学实验室安全事故频繁发生，这一现象凸显了教育领域对实验室安全的重视已迫在眉睫。从4月10日浙江一高校动物房的火灾事件，到8月17日台湾一大学化工系实验室的爆炸，再到11月30日河北一高校药学院的药化实验室火灾，虽然这些事故没有直接导致人员伤亡，但对实验动物和科研设施造成了重大损害。这些案例提醒我们，加强高校实验室的安全管理和风险预防工作是不容忽视的。图1：高校实验室安全问题依旧严峻。为应对这一挑战，市场上涌现出了一系列创新产品和技术。这些技术旨在通过高通量、模块化流体

1/5/2024 11:57:00 AM

ScienceAI

OpenAI发布新安全框架，董事会有权否决CEO发布新模型

机器之能报道编辑：吴昕人类正在进入生成式 AI 新时代。而 OpenAI 在引导新技术朝着符合人类价值观和安全标准的方向所做的努力，也被视为行业的路标。还记得 Sam Altman 回归 OpenAI 时提到的「三个当务之急」吗？首当其冲的就是险些将他踢出公司的安全问题。现在，OpenAI 正力图系统化他们的安全思维。「我们的准备团队正在开展开创性工作，将安全发展成为一门定量科学。」 OpenAI 总裁 Greg Brockman 在社交平台上表示。本周一，公司在其网站上公布的一项计划，制定了一个框架来解决其最先

12/19/2023 3:08:00 PM

机器之能

从“源头”保护数据安全：腾讯安全推出大模型隐私保护脱敏技术

大模型已经被广泛应用在各类场景，帮助人们进行报告摘要、文本翻译、数据分析、业务风控等各项工作，极大地提升了工作效率，但同时公众对于大模型带来的数据泄露的隐忧也从未停止。近日，腾讯安全玄武实验室披露了一项关于大模型隐私保护的安全脱敏与还原（Hide and Seek, HaS）技术，有望帮助大模型产品使用者从本地终端侧防范隐私数据泄露。HaS为业内首个支持信息还原的自由文本脱敏技术，通过对用户上传给大模型的prompt（提示词）进行隐私信息脱敏，并在大模型返回计算结果后进行恢复，该方案兼顾了隐私安全和计算资源消耗：脱

12/6/2023 9:41:00 AM

新闻助手

电信及互联网行业数据安全内控审计建设实践 | 盾见

一站式解决数据安全合规审计、使用过程安全监测、动态脱敏防护等问题，为电信及互联网企业数字化建设保驾护航。

6/2/2023 9:51:00 AM

极盾科技

为数据而生，为隐私而战：隐私计算产业加速崛起

在充分保护隐私的同时尽可能多地挖掘数据价值，不仅理论上可行，实践中也有越来越多的团队为之努力并取得进展。

5/15/2023 3:06:00 PM

机器之心

PPC Insights系列：洞见安全多方图联邦

知识图谱（Knowledge Graph）技术凭借其拓扑结构的信息关联关系和消息传递机制，能够对单体信息进行有益补充，因此正在被逐步应用于金融反欺诈、反洗钱和精准营销等场景。但是，因为现实社会中的数据孤岛问题，单一机构内的图数据往往只是一小部分，导致了更全面的关联关系和消息传递范式被阻断，这使得图数据的现实应用价值大打折扣。为此，洞见科技自主研发了“安全多方图联邦（Insight Federated Graph，InsightFG）”技术，并获得了国家发明专利。该技术从能力上涵盖了多方图数据的安全构建、安全查询、安

2/28/2023 11:33:00 AM

新闻助手

国内首届AI安全大赛圆满收官，上交大、北交大、北理工等夺得三项赛道冠军

从长远看，人工智能的安全问题，还需从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题。

9/16/2022 9:16:00 PM

机器之心

资讯热榜

智谱AI全新企业级超级助手Agent CoCo正式上线苹果发布全新Xcode 26开发者工具：内置ChatGPT先进AI功能豆包App“一句话P图”功能全新升级基于SeedEdit 3.0实现全面优化 DeepSeek前高管秘密创业，新AI Agent项目已获顶级VC押注 Google AI Studio 政策变动:Gemini2.5Pro 模型免费访问遭“限流” 那个男人回来了！Ilya现身多伦多大学毕业典礼：AI 像是用数字方式复制出来的大脑！不管你愿不愿意，AI都将深刻影响你的一生！苹果向开发者开放本地AI能力，推出全新Foundation Models框架支持MCP！开源智能体开发框架 Rowboat：打造你的智能助手只需几分钟

标签云

人工智能 AI OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌数据机器人大模型 Midjourney 用户智能开源微软 Meta GPT 学习图像技术 AI创作 Gemini 论文马斯克 Stable Diffusion 算法英伟达代码 Anthropic 芯片开发者生成式蛋白质腾讯神经网络训练 3D 研究生成智能体苹果计算机器学习 Sora AI设计 Claude AI for Science GPU AI视频人形机器人搜索华为百度场景大语言模型 xAI 预测伟达深度学习 Transformer LLM 字节跳动 Agent 模态具身智能神器推荐工具文本视觉 LLaMA 算力 Copilot 驾驶大型语言模型 API RAG 应用架构