AI在线 AI在线

语义

聊天机器人胡说八道？牛津研究人员利用语义熵来识破 AI“幻觉”

聊天机器人胡说八道？牛津研究人员利用语义熵来识破 AI“幻觉”
近年来，人工智能蓬勃发展，聊天机器人等应用逐渐普及，人们可以通过简单的指令从这些聊天机器人（例如 ChatGPT）获取信息。然而，这些聊天机器人仍然容易出现“幻觉”问题，即提供错误的答案，有时甚至是危险的信息。图源 Pexels造成“幻觉”的原因之一是训练数据不准确、泛化能力不足以及数据采集过程中的副作用。不过，牛津大学的研究人员另辟蹊径，在最新出版的《自然》杂志上详细介绍了一种他们新开发的方法，用于检测大型语言模型 (LLMs) 的“捏造” (即任意生成的不正确信息) 问题。LLM 通过在训练数据中寻找特定模式来
6/24/2024 8:25:46 AM
远洋
有证据了，MIT表明：大型语言模型≠随机鹦鹉，确实能学到语义

有证据了，MIT表明：大型语言模型≠随机鹦鹉，确实能学到语义
大型语言模型能否捕捉到它们所处理和生成的文本中的语义信息？这一问题在计算机科学和自然语言处理领域一直存在争议。然而，MIT的一项新研究表明，仅基于文本形式训练、用于预测下一个token的语言模型确实能学习和表示文本的意义。
5/22/2023 2:33:00 PM
机器之心
技术博客丨动手实践系列：CV语义分割！

技术博客丨动手实践系列：CV语义分割！
作者：游璐颖，福州大学，Datawhale成员 图像分割是计算机视觉中除了分类和检测外的另一项基本任务，它意味着要将图片根据内容分割成不同的块。相比图像分类和检测，分割是一项更精细的工作，因为需要对每个像素点分类。如下图的街景分割，由于对每个像素点都分类，物体的轮廓是精准勾勒的，而不是像检测那样给出边界框。图像分割可以分为以下三个子领域：语义分割、实例分割、全景分割。 由对比图可发现，语义分割是从像素层次来识别图像，为图像中的每个像素制定类别标记，目前广泛应用于医学图像和无人驾驶等；实例分割相对更具有挑战性，不仅需
1/11/2022 9:39:00 AM
格物钛Graviti
刷新50多个NLP任务基准，并登顶SuperGLUE全球榜首，百度ERNIE 3.0知识增强大模型显威力

刷新50多个NLP任务基准，并登顶SuperGLUE全球榜首，百度ERNIE 3.0知识增强大模型显威力
百度 ERNIE 3.0 不仅一举刷新 54 个中文 NLP 任务基准，而且进一步挖掘大规模预训练模型的潜力，首次在百亿级预训练模型中引入大规模知识图谱。
7/6/2021 2:38:00 PM
机器之心
百分点认知智能实验室：智能对话技术应用和实践

百分点认知智能实验室：智能对话技术应用和实践
编者按智能对话系统因其巨大的潜力和商业价值受到越来越多研究者和从业者的关注，对话的主要种类包括闲聊型、知识型、任务型、阅读理解型等，目前已经广泛应用在智能客服、智能音箱、智能车载等众多场景。近年来，智能对话还出现了新的应用场景，例如可以将自然语言转换为各种程序性语言，如SQL，从数据库中找到相应的答案，让用户和数据库的交互变得更加直接和方便。为此，Datafun发布了百分点首席算法科学家苏海波署名文章，文中主要介绍了智能问答中的问题语义等价模型、知识图谱问答模型、NL2SQL模型，以及百分点在智能问答领域的实践案例
3/10/2021 5:05:00 PM
百分点科技
  • 1