AI在线 AI在线

谷歌招聘 AI 质量工程师,专门应对“AI 摘要”幻觉问题

AI在线 1 月 7 日消息,据科技媒体 Bleeping Computer 今天报道,谷歌搜索中的“AI 摘要”目前仍存在所谓“AI 幻觉”现象,经常会编造不实信息,并且还会就不同提问方法给出相互矛盾的答案。 不过这种现象在以后很有可能逐步减少,最新招聘信息显示,谷歌正在招募工程师来验证 AI 给出的答案,并提升回答质量,重塑搜索体验。 谷歌在招聘简介中表示:“我们正在重新定义‘搜索信息’意味着什么。

AI在线 1 月 7 日消息,据科技媒体 Bleeping Computer 今天报道,谷歌搜索中的“AI 摘要”目前仍存在所谓“AI 幻觉”现象,经常会编造不实信息并且还会就不同提问方法给出相互矛盾的答案

谷歌招聘 AI 质量工程师,专门应对“AI 摘要”幻觉问题

不过这种现象在以后很有可能逐步减少,最新招聘信息显示,谷歌正在招募工程师来验证 AI 给出的答案,并提升回答质量,重塑搜索体验。

谷歌在招聘简介中表示:“我们正在重新定义‘搜索信息’意味着什么。为此我们需要解决复杂的工程,并在扩展基础设施的同时,持续为全球用户提供实用的体验”。

其中一个职位名为“AI 回答质量工程师”,将加入谷歌搜索团队,负责提升 AI 回答的整体质量,并重点聚焦“AI 摘要”。

这也是谷歌首次公开承认“AI 摘要”仍有改进空间,而且这一招聘的发布时间点也耐人寻味。

谷歌最近正在为越来越多搜索引擎用户展示“AI 模式”和“AI 摘要”,并且还在 Discover 信息流中为新闻加入“AI 摘要”,甚至使用 AI 重写新闻标题

而《卫报》曾指出,谷歌的“AI 摘要”在健康相关问题上经常给出误导性甚至完全错误的答案,虽然谷歌在过去几个月一直有提升答案质量但用户往往会基于信任感完全认可谷歌展示的东西,因此这种出错率仍然有非常大的提升空间。

相关资讯

AI时代下,SEO何去何从?谷歌专家揭示搜索未来,传统规则仍是基石

AI时代下,SEO何去何从?谷歌专家揭示搜索未来,传统规则仍是基石

在最近举行的Search Central Live会议上,谷歌搜索专家Gary Illyes和Cherry Sireetorn Prommawin深入探讨了人工智能对谷歌搜索的影响,并明确指出AI并不会颠覆SEO的基本规则。 他们的观点经谷歌资深产品专家Kenichi Suzuki在LinkedIn上分享,为业界提供了关于AI时代SEO发展方向的权威解读。 AI功能根植于传统搜索,核心原则不变Illyes和Prommawin强调,包括AI概览和AI模式在内的新兴AI功能,都建立在与传统谷歌搜索相同的底层架构之上。
7/25/2025 10:41:16 AM AI在线
谷歌 CEO 承认 AI 摘要功能存在“幻觉”问题:尚无解决方案

谷歌 CEO 承认 AI 摘要功能存在“幻觉”问题:尚无解决方案

谷歌搜索新推出的“AI 摘要(AI Overviews)”功能近日备受诟病,原因是该功能经常提供严重错误的搜索结果信息,例如,该功能曾建议用户使用胶水来防止披萨上的奶酪滑落。图源 Pexels本周早些时候,据科技媒体 The Verge 报道,谷歌首席执行官桑达尔・皮查伊在接受采访时承认,这些“AI 摘要”功能产生的“幻觉”是大型语言模型(LLM)的“固有缺陷”,而大型语言模型正是“AI 摘要”功能的核心技术。皮查伊表示,这个问题目前尚无解决方案(is still an unsolved problem)。这意味着
5/26/2024 8:26:17 PM 远洋
有望不再建议往披萨里加胶水?数据显示谷歌已降低 Reddit 对 AI 搜索结果的影响

有望不再建议往披萨里加胶水?数据显示谷歌已降低 Reddit 对 AI 搜索结果的影响

今年的谷歌 I / O 大会上,谷歌推出了“重磅功能”—— 基于 AI 的搜索(AI 摘要 / AI Overviews)。然而在此功能上线后不久,不少用户反馈称 AI 会生成一些奇怪的结果,例如往披萨里加胶水防止配料掉落、每天吃几块小石头等等。据悉,部分奇怪回复是 AI 系统从 Reddit 帖子中提取信息而造成的,例如往披萨里加胶水就来自一个 11 年前的 Reddit 帖子。根据搜索引擎优化平台 SERanking 当地时间 20 日公布的数据显示,Reddit 已经不再是谷歌“AI 摘要”功能信息来源的前十
6/21/2024 8:31:22 AM 清源