AI在线 AI在线

马斯克的 xAI 未按时发布 AI 安全框架,安全记录欠佳

xAI未能在5月10日截止日期前发布修订后的AI安全框架,引发对其AI安全承诺的质疑。报告显示其聊天机器人Grok存在不当内容生成问题,且安全措施薄弱。#AI安全# #马斯克#

据监督组织 The Midas Project 指出,埃隆・马斯克(Elon Musk)的人工智能公司 xAI 未能在其自行设定的最后期限前发布最终的人工智能安全框架。

马斯克的 xAI 未按时发布 AI 安全框架,安全记录欠佳

xAI 在 AI 安全领域的表现一直备受质疑。近期的一份报告显示,其 AI 聊天机器人 Grok 在用户要求下,能够对女性照片进行“脱衣”处理。Grok 的语言风格也比 Gemini 和 ChatGPT 等其他聊天机器人也更为粗俗,经常毫无顾忌地使用脏话。

然而,在二月份于韩国首尔举行的全球 AI 领导者和利益相关者峰会上,xAI 发布了一份 AI 安全框架的草案。这份八页的文件概述了 xAI 的安全优先事项和理念,包括其基准测试协议和 AI 模型部署考虑因素。

The Midas Project 周二在其博客文章中指出,这份草案仅适用于“目前尚未开发的”未来 AI 模型。此外,该草案未能明确说明 xAI 将如何识别和实施风险缓解措施,而这正是该公司在首尔 AI 峰会上签署的文件的核心组成部分。

在草案中,xAI 表示计划在“三个月内”发布修订后的安全政策,即在 5 月 10 日之前。然而,截止日期已过,xAI 的官方渠道并未对此作出任何回应。

尽管马斯克经常警告不受控制的 AI 所带来的危险,但 xAI 在 AI 安全方面的记录却不尽如人意。非营利组织 SaferAI 最近的一项研究发现,由于 xAI “风险管理措施非常薄弱”,其在同行中排名较低。

AI在线注意到,其他 AI 实验室的安全状况也并不乐观。近几个月来,xAI 的竞争对手,包括谷歌和 OpenAI,都在仓促进行安全测试,并且在发布模型安全报告方面进展缓慢,甚至完全跳过发布报告。一些专家对此表示担忧,认为在 AI 能力日益增强、潜在危险也随之增加的当下,安全工作似乎被置于次要地位。

相关资讯

马斯克称 Grok 3 将于 2 月 18 日发布:地球上最聪明的人工智能

马斯克在社交平台 X 上表示,Grok 3 大模型将于太平洋时间周一晚上 8 点(IT之家注:北京时间 2 月 17 日 12 点)发布,届时将进行现场演示,马斯克称其为地球上最聪明的人工智能。
2/16/2025 11:23:49 AM
远洋

马斯克称下周推出 Grok 3.5:首个能准确回答有关火箭发动机问题的 AI

马斯克宣布下周将向SuperGrok订阅者发布Grok 3.5早期测试版,称这是首个能准确回答火箭发动机或电化学技术问题的AI。Grok 3.5能从第一原理推理并得出互联网上不存在的答案。#AI##马斯克#
4/29/2025 3:58:47 PM
远洋

马斯克:Grok 3 模型将在一到两周内发布,现处于最后准备阶段

在今日的迪拜世界政府峰会上,马斯克通过视频通话的方式披露,Grok 3将在大约一到两周内发布,目前正处于最后的准备阶段。
2/13/2025 2:37:19 PM
清源
  • 1