随着人工智能技术的迅猛发展，各大 AI 创业公司不断宣称其产品将工作方式和知识获取的方式。然而，最近一项发表在《皇家学会》上的研究却揭示了新一代 AI 模型在总结文本时存在严重问题，令人担忧。研究显示，新款 AI 聊天机器人在提供信息时，有高达73% 的概率会遗漏关键信息。
图源备注:图片由AI生成，图片授权服务商Midjourney
这项研究对十款广泛使用的语言模型（LLM）进行分析，样本涵盖近5000个科学研究的总结，涉及的聊天机器人包括 ChatGPT-4o、ChatGPT-4.5、DeepSeek 和 LLaMA3.370B。研究结果显示，即使在特定要求下，AI 提供的回答仍然在遗漏关键细节方面的错误率是人类撰写科学摘要的五倍。
研究人员指出:“在总结科学文本时，LLM 可能会遗漏限制研究结论范围的细节，从而导致对原始研究的结果进行过度概括。” 更令人担忧的是，随着聊天机器人的不断更新，其错误率反而在上升，情况与 AI 行业领袖们的承诺完全相反。例如，在2023至2025年间，美国青少年对 ChatGPT 的使用率从13% 增加到26%。在研究中，旧版 ChatGPT-4Turbo 遗漏关键细节的可能性是原版的2.6倍，而新版 ChatGPT-4o 则高达9倍。类似地，Meta 的 LLaMA3.370B 相较于旧版本，其过度概括的概率更是高达36.4倍。
总结大量数据为简洁的几句话是一项复杂的任务。虽然人类可以直观地从具体经验中提取广泛的教训，但这对于编程给聊天机器人而言却极其复杂。研究人员指出，在临床医疗等领域，细节至关重要，哪怕是微小的遗漏也可能导致严重后果。因此，将 LLM 广泛应用于各行各业，尤其是医疗和工程领域，面临着巨大的风险。
尽管如此，研究也提到，提供给 LLM 的提示对其回答结果有显著影响，但这是否会影响其对科学论文的总结仍然未知，这为未来的研究提供了方向。总体来看，除非 AI 开发者能够有效解决新一代 LLM 的这些问题，否则人们可能还得依赖人类撰写的内容来准确总结科学报告。
划重点:
🧠 研究发现新一代 AI 聊天机器人在总结信息时，关键细节遗漏率高达73%。
📈 新版聊天机器人错误率上升，特别是在青少年使用率快速增加的背景下。
🔍 提供给 LLM 的提示会影响其回答，但对科学论文的总结效果仍需进一步研究。
