资讯列表
xAI 旗下 Grok 4 模型首度被越狱，安全公司利用“回音室攻击”方法成功迫使其生成不当内容
AI在线 7 月 18 日消息，网络安全公司 NeuralTrust 宣布，他们已成功“越狱”xAI 旗下 Grok 4 模型，主要利用了“Echo Chamber（回音室攻击）”方法进行攻击。 AI在线获悉，所谓“回音室攻击”，是指安全人员通过引导模型进行多轮推理，在推理过程中逐步注入带有风险的信息内容，但又不使用明显的危险提示词，从而规避常见的安全拦截机制。 这一方式不同于传统依赖对抗性输入或“角色扮演（让模型扮演祖母读激活码哄人入睡）”的越狱方式，其更多采用语义诱导、间接引用以及多步推理的方式，悄悄干扰模型的内部逻辑状态，最终诱导 AI 模型生成不当内容回答。
7/18/2025 8:52:18 PM
漾仔
新增“深度搜索”“语音输入模式”等功能，Mistral AI 旗下 Le Chat 聊天机器人获升级
AI在线 7 月 18 日消息，Mistral AI 现已为其聊天机器人 Le Chat 引入多项 AI 功能，涉及 Deep Research 深度搜索、Think Mode 推理模式、语音输入模式以及文生图二次编辑功能。 目前相应功能已上线至 Le Chat 网页版与移动平台 App，并开放用户免费试用。 据 Mistral AI 介绍，本次 Le Chat 更新最重点的功能便是 Deep Research 深度搜索，相应功能类似 ChatGPT、谷歌 Gemini、DeepSeek 等产品，可以对用户提出的问题进行分解，之后通过联网搜索可靠信息，最终生成具有条理、带有信息来源的深度搜索报告。
7/18/2025 8:27:32 PM
漾仔
欧盟为具有系统性风险的 AI 模型定规矩：若发生严重事故必须上报，网安工作要到位
AI在线 7 月 18 日消息，据路透社报道，欧盟委员会周五发布指导方针，帮助被认定具有系统性风险的 AI 模型落实《人工智能法案》的相关要求。 这类模型将面临更严格的合规义务，以降低潜在风险。 这一举措旨在回应部分企业对《人工智能法案》监管负担的质疑，同时也为相关企业提供更明确的操作指引。
7/18/2025 7:22:14 PM
清源
扎克伯格重组 Meta AI 团队，3400 人规模新架构浮出水面
在一系列组织调整之后，Meta 的全新 AI 架构正式曝光。 扎克伯格大手笔挖角，打造了一个以 “超级智能实验室” 为核心的新组织，现已整合了超过3400名员工。 这个新团队的负责人是亚历山大・王（Alexandr Wang），他担任首席人工智能官(CAIO)，副手为前 GitHub 首席执行官 Nat Friedman，主要负责 AI 产品和应用。
7/18/2025 6:22:31 PM
AI在线
Li Auto Receives the First Batch of Automotive Generative AI Security Evaluation Certifications
At the 2025 China Automotive Forum, Li Auto's in-vehicle large model has obtained the first domestic certificate for the safety evaluation of generative artificial intelligence in vehicles. This achievement is certified by the "Generative Content Security Evaluation Certificate" issued by the CCIA Automotive Cybersecurity Working Committee and the "Generated Synthetic Content Identification Report" issued by the Artificial Intelligence Generated Synthetic Content Identification Service Platform.
7/18/2025 6:21:57 PM
AI在线
Zuckerberg Reorganizes Meta AI Team, a New 3400-Person Structure Emerges
After a series of organizational adjustments, Meta's new AI architecture has been officially revealed. Zuckerberg has made a significant move by hiring top talent to create a new organization centered around the "Super Intelligence Lab," which now includes over 3,400 employees.
7/18/2025 6:21:52 PM
AI在线
横评五款开源多智能体框架，AI高手都在用哪个？下一款Manus、Cursor、Devin，谁能撑起来？
编辑 | 云昭出品 | 51CTO技术栈（微信号：blog51cto）Agent 成为共识的速度非常快。 但今年 Agent 的真正转折点在于：多智能体。 从科研自动化到任务编排，从自动开淘宝店到 Vibe 一切，从 AI 浏览器到今天的 ChatGPT Agent，一切都是多智能体的味道。
7/18/2025 6:03:25 PM
云昭
DeepSeek 丢了开源第一王座，但继任者“Kimi K2”依然来自中国
几千人盲投，Kimi K2 超越 DeepSeek 拿下全球开源第一！ 歪果网友们直接炸了，评论区秒变夸夸打卡现场：今天，竞技场终于更新了 Kimi K2 的排名情况 ——开源第一，总榜第五，而且紧追马斯克 Grok 4 这样的顶尖闭源模型。 并且各类单项能力也不差，能和一水儿闭源模型打得有来有回：连续多轮对话并列第一，o3 和 Grok 4 均为第四；编程能力第二，和 GPT 4.5、Grok 4 持平；应对复杂提示词能力第二，和 o3、4o 位于同一梯队；……甚至眼尖的朋友也发现了，唯二闯入总榜 TOP 10 的开源模型都来自中国。
7/18/2025 5:59:31 PM
Meta 全新 AI 组织架构曝光，这范儿有点字节
扎克伯格哐哐哐挖人，现在算是大概清楚了。 就在 Meta 内部一系列组织调整后，全新的架构正在初步浮出水面。 不过不看不知道，一看真是哪里见过……都知道小扎用人均上亿美元薪酬包组队“超级智能实验室”，不过最新消息是内部围绕这个实验室，已经整合出了 3400 多人的新组织。
7/18/2025 5:51:20 PM
Perplexity 进军印度：在AI赛道上直逼OpenAI的全新战略
在美国，OpenAI 已经占据了人工智能市场的领先地位，但 Perplexity 却选择了一条与众不同的道路，悄然向印度扩张，力图在 AI 技术普及的下一阶段抢占市场。 这个专注搜索的 AI 初创公司正在全球第二大互联网和智能手机市场 —— 印度，快速吸引数以百万计的用户，为未来的大规模应用铺平道路。 本周，Perplexity 与印度第二大电信运营商巴提电信（Bharti Airtel）达成了战略合作，向其所有3.6亿用户提供为期12个月的免费 Perplexity Pro 订阅服务，通常售价为200美元。
7/18/2025 5:12:02 PM
AI在线
理想汽车获首批汽车生成式人工智能安全测评认证
在2025中国汽车论坛上，理想汽车的车载大模型获得了国内首批汽车生成式人工智能安全测评证书。 这一成就由 CCIA 汽车网络安全工作委员会颁发的《生成内容安全测评证书》和人工智能生成合成内容标识服务平台颁发的《生成合成内容标识报告》共同认证。 理想汽车因此成为国内首家通过 GB/T45654和 GB45438-2025双国标认证的车企。
7/18/2025 5:11:50 PM
AI在线
马斯克的 Grok“AI 男友”有名字了：火星科幻小说《异乡异客》主人公瓦伦丁
AI在线 7 月 18 日消息，特斯拉、xAI、SpaceX 创始人马斯克 17 日在 X 平台宣布：Grok 平台上的“男性伙伴”将命名为瓦伦丁（Valentine），该名取自海因莱因的小说《异乡异客》主角，这本书同样也是“Grok”一名的来源 ——“To Grok something”意味着深刻而富有同理心地理解某事。 公开资料显示，《异乡异客》讲述被火星人抚养的地球孤儿瓦伦丁・迈克尔・史密斯重返地球后，因继承火星所有权卷入纷争。 以火星文明视角审视人类社会，揭示其冷漠与虚伪本质。
7/18/2025 5:08:37 PM
清源
庞若鸣交班陈智峰，苹果发布2025基础模型技术报告
Apple Intelligence 进入新的一章。 近日，苹果发布了 2025 年 Apple Intelligence 基础语言模型技术报告。 刚刚加入 Meta 的前苹果 AI 负责人庞若鸣（Ruoming Pang）发出多条推文进行了介绍。
7/18/2025 5:03:00 PM
机器之心
DeepSeek终于丢了开源第一王座，但继任者依然来自中国
几千人盲投，Kimi K2超越DeepSeek拿下全球开源第一！ 歪果网友们直接炸了，评论区秒变夸夸打卡现场：今天，竞技场终于更新了Kimi K2的排名情况——. 开源第一，总榜第五，而且紧追马斯克Grok 4这样的顶尖闭源模型。
7/18/2025 5:00:38 PM
一水
演讲生成黑科技，PresentAgent从文本到演讲视频
本项目为AI Geeks、澳洲人工智能研究所、利物浦大学、拉筹伯大学的联合工作。 我们提出了 PresentAgent，一个能够将长篇文档转化为带解说的演示视频、多模态智能体。 现有方法大多局限于生成静态幻灯片或文本摘要，而我们的方案突破了这些限制，能够生成高度同步的视觉内容和语音解说，逼真模拟人类风格的演示。
7/18/2025 5:00:00 PM
机器之心
8个月晋升独角兽，欧洲版Cursor估值18亿美元
时令 发自 凹非寺. 量子位 | 公众号 QbitAI成立仅8个月已成为最新独角兽，估值飙升至18亿美元。 目前已拥有超230万免费活跃用户、18万付费订阅者，付费用户首月留存率甚至已超ChatGPT。
7/18/2025 4:59:43 PM
时令
OpenAI 离职员工爆料：爆改Meta文化，爆肝、混乱、结果导向......
最近，一位在OpenAI工作了一年的工程师Calvin French-Owen，最近揭示了这家全球最受瞩目的公司内部的真实运作图景。 地址：，他从OpenAI辞职，原因并非外界猜测的内部纷争，而是他希望重新回归创业者的身份。 在他任职的一年时间里，他亲眼见证了这家人工智能巨头的诸多侧面，并将其观察记录在一篇博客文章中。
7/18/2025 4:35:17 PM
7B模型“情商”比肩GPT-4o，腾讯突破开放域RL难题，得分直翻5倍
在没有标准答案的开放式对话中，RL该怎么做？ 多轮对话是大模型最典型的开放任务：高频、多轮、强情境依赖，且“好回复”因人而异。 然而，当用RL去优化大模型在真实交互中的“情商”时，RLVR一度陷入“三大困境”：环境困境.
7/18/2025 4:32:19 PM
不圆