AI在线 AI在线

MIT 新研究指出 AI 不懂“no”,逻辑推理缺陷导致否定词成“盲区”

研究表明,AI 已快速发展,具备诊断疾病、创作诗歌甚至驾驶汽车等多项实用技能,但对“no”和“not”等否定词,却束手无策。

麻省理工学院(MIT)最新研究表明,人工智能(AI)在理解“no”和“not”等否定词方面仍存在明显缺陷,在医疗等关键领域可能引发严重风险。

研究表明,AI 已快速发展,具备诊断疾病、创作诗歌甚至驾驶汽车等多项实用技能,但对“no”和“not”等否定词,却束手无策。

在博士生 Kumail Alhamoud 的带领下,MIT 团队联合 OpenAI 和牛津大学,发现包括 ChatGPT、Gemini 和 Llama 在内的当前主流模型,在处理否定语句时,常倾向于默认肯定关联,忽略否定语义。

研究报告认为,这种情况在医疗场景产生的潜在危害尤为明显。例如,AI 可能误解“no fracture”(无骨折)或“not enlarged”(未扩大),导致严重后果。

AI在线援引博文介绍,问题的根源并非数据不足,而是 AI 的训练方式。斯坦福大学深度学习兼职教授 Kian Katanforoosh 指出,大多数语言模型依赖模式预测,而非逻辑推理。

这导致 AI 在面对“not good”(不好)时,仍可能因“good”一词而误判为正面情绪。专家强调,若不赋予模型逻辑推理能力,类似细微却致命的错误将持续发生。

Lagrange Labs 首席研究工程师 Franklin Delehelle 也表示,AI 擅长模仿训练数据中的模式,但缺乏创新或处理训练数据之外情境的能力。

研究团队通过合成否定数据(synthetic negation data)尝试改进模型,取得初步成效,但细粒度的否定差异仍具挑战性。

MIT 新研究指出 AI 不懂“no”,逻辑推理缺陷导致否定词成“盲区”

Katanforoosh 警告,AI 对否定的误解不仅是一项技术缺陷,更可能在法律、医疗和人力资源等领域引发关键错误。他呼吁,解决之道不在于堆砌更多数据,而在于结合统计学习与结构化思维,提升模型的逻辑能力。

相关资讯

OpenAI开源客户服务代理框架 加速企业级AI应用落地

人工智能研究机构OpenAI于6月18日正式开源其客户服务代理框架,标志着该公司在企业级AI解决方案布局上迈出重要一步。 该框架通过提供透明工具链和清晰实施案例,旨在推动智能代理系统从实验室走向实际商业应用。 技术细节与核心优势.
6/19/2025 2:01:33 PM
AI在线

专家揭示构建稳健AI编排层的最佳实践

随着企业加速采用人工智能技术,如何有效管理复杂的AI工作流程成为关键挑战。 最新行业分析指出,建立稳健的AI编排层是解决"提示词混乱"问题的有效方案。 AI编排框架的选择困境.
6/19/2025 2:01:28 PM
AI在线

2025年VentureBeat女性AI大奖入围名单正式公布

2025年6月18日,科技媒体VentureBeat正式公布了2025年度女性AI大奖的最终入围名单。 该奖项旨在表彰人工智能领域做出杰出贡献的女性从业者,推动行业多元化发展。 奖项背景与意义VentureBeat女性AI大奖创立于2020年,已成为AI行业最具影响力的女性专项荣誉之一。
6/19/2025 2:01:33 PM
AI在线
  • 1