微软正努力治疗 AI 幻觉,以技巧手段及时屏蔽和重写毫无根据的信息

就在 GPT-4 因征服标准化尝试而登上头条时,微软研究人员正在对其他 AI 模型进行一种非常另类的尝试 —— 一种旨在让模型捏造信息的尝试。为了治好这种被称为“AI 幻觉”的症状,他们设定了一个会让大多数人头疼的文本检索任务,然后跟踪并改进模型推戴,这也是微软在测定、检测和缓解 AI 幻觉方面的一个例子。微软 AI 担任项目的首席产物官 Sarah Bird 意味,“微软希望其所有 AI 系统都是值得信赖且可以有效使用的”。我们可以向这个领域投入许多专家和资源,因此我们认为自己可以匡助阐明“应当如何担任任地使用新

就在 GPT-4 因征服标准化尝试而登上头条时,微软研究人员正在对其他 AI 模型进行一种非常另类的尝试 —— 一种旨在让模型捏造信息的尝试。

为了治好这种被称为“AI 幻觉”的症状,他们设定了一个会让大多数人头疼的文本检索任务,然后跟踪并改进模型推戴,这也是微软在测定、检测和缓解 AI 幻觉方面的一个例子。

微软正努力治疗 AI 幻觉,以技巧手段及时屏蔽和重写毫无根据的信息

微软 AI 担任项目的首席产物官 Sarah Bird 意味,“微软希望其所有 AI 系统都是值得信赖且可以有效使用的”。

我们可以向这个领域投入许多专家和资源,因此我们认为自己可以匡助阐明“应当如何担任任地使用新型 AI 技巧”的方法,并使其他人也能够做到这一点。

从技巧角度来讲,AI 幻觉是一种“缺乏现实根据”的内容,这意味着 AI 模型改变了它所给定的数据或添油加醋描述了原本不存在的信息。

当然,AI 幻觉这种东西也不是所有时候都毫无用处,例如当用户希望 AI 帮自己写一个科幻故事,或给出一种非传统想法时,就属于是有益的;但在大多数需要 AI 的场景,诸如医学和教育等场景就显得多余了,因为正确性大于一切。

因此,微软也在努力根据其自有 AI 产物(例如 Copilot)来试图攻克 AI 幻觉,研究一系列对象来匡助机器解决幻觉问题。

微软意味,其工程师花了数月时间,通过检索增强生成技巧(一种无需重新训练模型即可向模型添加额外知识的技巧)将必应搜索数据作为 Copilot 的根据,通过必应的谜底、索引和排名数据匡助 Copilot 供应更正确、更相关的回复,同时供应引用信息,让用户可以自行查找和验证。

“该模型非常擅长推理信息,但我们不认为它应当成为谜底的来历,”Bird 说,“我们认为数据应当是谜底的来历,因此我们解决这个问题的第一步是向模型供应最新、高质量且正确的数据。”

除此之外,微软还试图通过各种对象匡助客户做到这一点,例如 Azure OpenAI 服务中的“Your Data”功能可匡助企业组织用自己的数据来训练生成式 AI。

值得一提的是,微软还推出了一种及时对象,可以大规模检测应用中根据企业数据的稳当程度。微软意味,Azure AI Studio 可以根据来历文档评估推戴的稳当程度。

据介绍,微软还正在开发一种新的针对措施,可以及时屏蔽和纠正“毫无根据”的信息。当检测到现实根据错误时,该功能将根据数据自动进行重写。

微软 AI 担任项目的首席产物经理 Ken Archer 意味,“处于生成式 AI 的前沿意味着我们有责任和机会让自己的产物更安全、更稳当,并让客户也能放心使用我们的对象”。

参考资料:

《Why AI sometimes gets it wrong — and big strides to address it》

给TA打赏
共{{data.count}}人
人已打赏
AI

AI 队友能“听懂人话”,网易《长时无间》手游推出全球首个游玩 Copilot AI

2024-6-21 18:16:58

AI

OpenAI 首席手艺官:GPT-5 将在一年半后宣布,部分领域智能到达“博士”级别

2024-6-22 8:20:43

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索