AI在线 AI在线

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

前段时间,谷歌搜索“AI 摘要”(AI Overviews)功能因其经常提供具有严重错误的搜索结果而备受诟病,导致官方亲自下场保证后续会进行修正。而如今,又有网友爆料称谷歌旗下的人工智能产品“抽了风”,这次问题出在 Gemini 聊天机器人。从北京时间昨夜至今日凌晨,有 Reddit 网友陆续发现,Gemini 生成的回复偶尔会充斥着杂乱无章的代码和外文字母 —— 这些结果对用户的查询毫无帮助。过去几天里,部分 Gemini 用户陆续发现自己遇到了这一奇怪问题:Gemini 会输出胡言乱语。这些回复可能是一连串的重

前段时间,谷歌搜索“AI 摘要”(AI Overviews)功能因其经常提供具有严重错误的搜索结果而备受诟病,导致官方亲自下场保证后续会进行修正。而如今,又有网友爆料称谷歌旗下的人工智能产品“抽了风”,这次问题出在 Gemini 聊天机器人。

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

从北京时间昨夜至今日凌晨,有 Reddit 网友陆续发现,Gemini 生成的回复偶尔会充斥着杂乱无章的代码和外文字母 —— 这些结果对用户的查询毫无帮助。

过去几天里,部分 Gemini 用户陆续发现自己遇到了这一奇怪问题:Gemini 会输出胡言乱语。这些回复可能是一连串的重复单词、短语,也可能是随机字符,回复的内容往往相当冗长,且与提示词毫无关联。

截至IT之家发文,谷歌暂未对上述问题进行回应。

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

据外媒 9to5Google 报道,这些奇怪的回复结果会在 Gemini 网页端、移动端出现,且往往都以“Full”或“Full bor”开头。不过,在大多数情况下,Gemini 仍然会正常回应用户提出的请求。

相关资讯

严防“胡说八道”,苹果 Apple Intelligence 智能回复功能加入“反幻觉”指令

近日有网友在 macOS 15.1 测试版中发现了苹果公司为 Apple Intelligence 的智能回复(Smart Reply)功能设置的一系列内部指令。这些指令以 JSON 文件的形式存在,详细规定了该功能的工作流程。其中最引人注目的是,苹果明确要求系统“不要编造事实,不要产生幻觉”。据AI在线了解,智能回复是苹果邮件应用的一项功能,旨在通过分析邮件内容自动生成可能的回复选项,这一功能的背后是苹果自研的智能技术。然而,与其他生成式 AI 一样,智能回复也面临着“幻觉”问题,即系统可能会生成虚假或误导性的信
8/7/2024 7:52:13 AM
远洋

什么样的偏好,才叫好的偏好?——揭秘偏好对齐数据的「三驾马车」

论文有两位共同一作。 何秉翔,清华大学博士一年级,研究方向为大语言模型对齐、强化学习。 张文斌,哈尔滨工业大学博士一年级,研究方向为自然语言处理。
4/15/2025 10:51:00 AM
机器之心

谷歌发布 3 款 Gemini 实验 AI 模型:1.5 Pro 冲榜第二、1.5 Flash 从第 23 蹿升至第 6

谷歌 AI Studio 产品总监洛根・基尔帕特里克(Logan Kilpatrick)今天(8 月 28 日)在 X 平台发布推文,宣布推出 3 款 Gemini 实验性模型。AI在线附上谷歌本次推出的 3 款实验性 Gemini AI 模型如下:Gemini 1.5 Flash-8BGemini 1.5 Flash-8B 是 Gemini 1.5 Flash 的更小尺寸模型,拥有 80 亿参数,专为多模态任务而设计,包括大容量任务和长文本摘要任务。Gemini 1.5 Pro Exp-0827主要增强编程、复杂
8/28/2024 11:02:41 AM
故渊
  • 1