AI在线 AI在线

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

前段时间,谷歌搜索“AI 摘要”(AI Overviews)功能因其经常提供具有严重错误的搜索结果而备受诟病,导致官方亲自下场保证后续会进行修正。而如今,又有网友爆料称谷歌旗下的人工智能产品“抽了风”,这次问题出在 Gemini 聊天机器人。从北京时间昨夜至今日凌晨,有 Reddit 网友陆续发现,Gemini 生成的回复偶尔会充斥着杂乱无章的代码和外文字母 —— 这些结果对用户的查询毫无帮助。过去几天里,部分 Gemini 用户陆续发现自己遇到了这一奇怪问题:Gemini 会输出胡言乱语。这些回复可能是一连串的重

前段时间,谷歌搜索“AI 摘要”(AI Overviews)功能因其经常提供具有严重错误的搜索结果而备受诟病,导致官方亲自下场保证后续会进行修正。而如今,又有网友爆料称谷歌旗下的人工智能产品“抽了风”,这次问题出在 Gemini 聊天机器人。

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

从北京时间昨夜至今日凌晨,有 Reddit 网友陆续发现,Gemini 生成的回复偶尔会充斥着杂乱无章的代码和外文字母 —— 这些结果对用户的查询毫无帮助。

过去几天里,部分 Gemini 用户陆续发现自己遇到了这一奇怪问题:Gemini 会输出胡言乱语。这些回复可能是一连串的重复单词、短语,也可能是随机字符,回复的内容往往相当冗长,且与提示词毫无关联。

截至IT之家发文,谷歌暂未对上述问题进行回应。

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

据外媒 9to5Google 报道,这些奇怪的回复结果会在 Gemini 网页端、移动端出现,且往往都以“Full”或“Full bor”开头。不过,在大多数情况下,Gemini 仍然会正常回应用户提出的请求。

相关资讯

MiniMax Launches New Full-Stack Development Features for MiniMax Agent, Create an E-commerce Website in One Sentence

Recently, MiniMax launched a full-stack development feature called MiniMax Agent, which is amazing! This innovative technology allows users to generate a complete e-commerce website application simply by describing their needs in natural language, covering all aspects such as front-end, back-end, database, payment interface, and scheduled tasks.The launch of this full-stack development feature marks a further reduction in the barriers to programming. Traditional development processes are no longer exclusive to small businesses and entrepreneurs.
7/17/2025 5:52:02 PM
AI在线

严防“胡说八道”,苹果 Apple Intelligence 智能回复功能加入“反幻觉”指令

近日有网友在 macOS 15.1 测试版中发现了苹果公司为 Apple Intelligence 的智能回复(Smart Reply)功能设置的一系列内部指令。这些指令以 JSON 文件的形式存在,详细规定了该功能的工作流程。其中最引人注目的是,苹果明确要求系统“不要编造事实,不要产生幻觉”。据AI在线了解,智能回复是苹果邮件应用的一项功能,旨在通过分析邮件内容自动生成可能的回复选项,这一功能的背后是苹果自研的智能技术。然而,与其他生成式 AI 一样,智能回复也面临着“幻觉”问题,即系统可能会生成虚假或误导性的信
8/7/2024 7:52:13 AM
远洋

什么样的偏好,才叫好的偏好?——揭秘偏好对齐数据的「三驾马车」

论文有两位共同一作。 何秉翔,清华大学博士一年级,研究方向为大语言模型对齐、强化学习。 张文斌,哈尔滨工业大学博士一年级,研究方向为自然语言处理。
4/15/2025 10:51:00 AM
机器之心
  • 1