AI在线 AI在线

MIT 新研究指出 AI 不懂“no”,逻辑推理缺陷导致否定词成“盲区”

研究表明,AI 已快速发展,具备诊断疾病、创作诗歌甚至驾驶汽车等多项实用技能,但对“no”和“not”等否定词,却束手无策。

麻省理工学院(MIT)最新研究表明,人工智能(AI)在理解“no”和“not”等否定词方面仍存在明显缺陷,在医疗等关键领域可能引发严重风险。

研究表明,AI 已快速发展,具备诊断疾病、创作诗歌甚至驾驶汽车等多项实用技能,但对“no”和“not”等否定词,却束手无策。

在博士生 Kumail Alhamoud 的带领下,MIT 团队联合 OpenAI 和牛津大学,发现包括 ChatGPT、Gemini 和 Llama 在内的当前主流模型,在处理否定语句时,常倾向于默认肯定关联,忽略否定语义。

研究报告认为,这种情况在医疗场景产生的潜在危害尤为明显。例如,AI 可能误解“no fracture”(无骨折)或“not enlarged”(未扩大),导致严重后果。

AI在线援引博文介绍,问题的根源并非数据不足,而是 AI 的训练方式。斯坦福大学深度学习兼职教授 Kian Katanforoosh 指出,大多数语言模型依赖模式预测,而非逻辑推理。

这导致 AI 在面对“not good”(不好)时,仍可能因“good”一词而误判为正面情绪。专家强调,若不赋予模型逻辑推理能力,类似细微却致命的错误将持续发生。

Lagrange Labs 首席研究工程师 Franklin Delehelle 也表示,AI 擅长模仿训练数据中的模式,但缺乏创新或处理训练数据之外情境的能力。

研究团队通过合成否定数据(synthetic negation data)尝试改进模型,取得初步成效,但细粒度的否定差异仍具挑战性。

MIT 新研究指出 AI 不懂“no”,逻辑推理缺陷导致否定词成“盲区”

Katanforoosh 警告,AI 对否定的误解不仅是一项技术缺陷,更可能在法律、医疗和人力资源等领域引发关键错误。他呼吁,解决之道不在于堆砌更多数据,而在于结合统计学习与结构化思维,提升模型的逻辑能力。

相关资讯

简化芯片设计传统,AI训练的新型算法正改变芯片研发范式

编辑丨&自1971年第一个商用微处理器的草图面世以来,芯片设计已经取得了长足的进步。 但是,随着芯片变得越来越复杂,设计人员必须解决的问题也越来越复杂。 而我们目前的工具并不总是能胜任这项任务。
1/7/2025 2:51:00 PM
ScienceAI

光中介层可能在 2025 年开始加速 AI

编辑丨toileter光纤电缆正在逐渐靠近高性能计算机中的处理器,用玻璃取代铜连接。 科技公司希望通过将光学连接从服务器外部移动到主板上,然后让它们与处理器并排放置,从而加速 AI 并降低其能源成本。 现在,科技公司准备在寻求成倍增加处理器潜力的道路上走得更远——通过滑入处理器下面的连接。
2/5/2025 2:30:00 PM
ScienceAI

2024 年 AI 十大故事,透视技术变革与未来挑战

编辑 | 20492024 年,人工智能技术持续改变着我们的生活和工作方式。 IEEE Spectrum 精选了年度最具影响力的 10 个 AI 故事,从技术突破到社会影响,全方位展现了 AI 发展的现状与挑战。 这些故事不仅反映了生成式 AI 的革命性进展,也揭示了其存在的局限与争议。
2/6/2025 2:06:00 PM
ScienceAI
  • 1