AI幻觉

最有效的AI幻觉预防技巧：让AI输出更可靠的六个关键方法

如今，AI已成为职场中处理研究、总结报告的常用工具，但“幻觉”问题——即AI编造看似合理却不实的信息，比如虚构链接、伪造数据来源——常常让使用者踩坑。我曾在研究AI工具应用时，让ChatGPT整合最新报告与案例，它很快生成了一份附带来源链接的详细总结，初看完美可用，可核查后发现近半数链接要么显示404错误，要么跳转至无关网站，甚至指向根本不存在的页面。后续排查发现，问题并非出在深度搜索功能本身，而是在要求AI重新格式化结果时，受上下文长度限制，AI自行编造了链接。

10/28/2025 2:11:00 AM

大模型之路

幻觉成了AI的“癌症”，连OpenAI也治不了

学生参加考试，当他不知道题目的答案时，可能会猜测。实际上，AI聊天机器人也一样。 AI给出的答案可能看起来正确，实际却是完全错误的，这就是所谓的“幻觉”。

9/11/2025 1:00:00 AM

小刀

开发者遭ChatGPT“赶鸭子上架”！AI编造假功能，结果吸引大量用户，不得不开发出来了

西风发自凹非寺. 量子位 | 公众号 QbitAI笑不活了，ChatGPT闯大祸！ AI幻觉随意编造一个产品的新功能，误导用户大量涌入，最后开发者不得不把这个虚构的功能真的做了出来。

7/8/2025 11:58:32 AM

西风

大模型越反思越错，原来是长链推理通过自我说服加重幻觉 | 北邮

北邮网安团队投稿. 量子位 | 公众号 QbitAI当推理链从3步延伸到50 步，幻觉率暴增10倍；反思节点也束手无策。来自北京邮电大学的研究团队通过思维链审计实验，首次定量揭示了这一“越想越错”现象背后的元认知偏差：.

7/3/2025 2:35:03 PM

不圆

猫猫拯救科研！AI怕陷“道德危机”，网友用“猫猫人质”整治AI乱编文献

克雷西发自凹非寺. 量子位 | 公众号 QbitAI. 猫猫再立新功，这次竟然是拯救了人类的科研进程？

7/1/2025 4:48:32 PM

克雷西

Anthropic CEO 阿莫代伊：AI 模型出现“幻觉”的频率可能比人类还低

阿莫代伊强调，AI出现幻觉并不会阻碍Anthropic迈向 AGI的目标。“这取决于你用什么标准衡量，但我怀疑AI模型的幻觉频率可能低于人类，只是它们出错的方式更出人意料。”

5/23/2025 11:31:48 PM

清源

AI幻觉引爆网络安全危机专家揭示了三大防御策略

对现实世界的影响“如果一家公司的智能体利用了过时或不准确的数据，AI幻觉可能会虚构出并不存在的漏洞，或错误解读威胁情报，导致不必要的警报或忽视真正的风险。此类错误可能会分散对真正威胁的注意力，创造新的漏洞，并浪费本已紧张的安全运营团队资源。 ”Tanium的AI副总裁HarmanKaur在接受采访时表示。

5/21/2025 1:00:00 AM

Mirko Zorz

研究发现：要求 AI 简洁作答可能致其出现更多“幻觉”

巴黎AI公司Giskard研究发现，要求AI聊天机器人简短回答问题时，其产生“幻觉”（输出虚假信息）的概率会显著增加。包括GPT-4o在内的主流模型均存在此现象，因简洁回答缺乏反驳错误的空间。#AI幻觉##ChatGPT#

5/8/2025 8:45:30 PM

远洋

模型越新幻觉越重！AI幻觉扣住产业发展命脉

自诞生以来，人工智能大模型始终被“幻觉”问题困扰。这里的“幻觉”，指的是大语言模型会将虚构信息当作真实事实输出。实际上，“幻觉”这一表述相当委婉，它实则暴露出AI的核心缺陷——当前的大语言模型尚未达到真正意义上的智能水平。

5/8/2025 6:00:00 AM

小刀

OpenAI新推AI模型o3幻觉现象加剧，精准性令人担忧

最近，OpenAI 推出了其最新的 o3和 o4-mini AI 模型，这些模型在许多方面都达到了尖端水平。然而，新的模型在 “幻觉” 问题上却并没有改善，反而幻觉现象比 OpenAI 之前的多个模型更为严重。所谓 “幻觉”，是指 AI 模型会错误地生成虚假信息，这是当今最棘手的 AI 问题之一。

4/22/2025 10:01:05 AM

AI在线

三大模型巨头比拼思考“幻觉”：DeepSeek 不敌 ChatGPT，Gemini 用词最少

近日，智利大学 CIAE 教育研究所的研究员 Roberto Araya 进行了 4 组对照实验：提供相同的提示词，让 Gemini 2.0 Flash、ChatGPT o3-mini、DeepSeek R1 进行推理分析，研究三个模型在应对幻觉问题上的性能对比。其研究发现：ChatGPT 03-mini 在应对大模型幻觉问题上占有绝对优势，能够灵活切换不同的策略进行思考推理。相比之下，DeepSeek R1 和 Gemini 2.0 Flash 虽然能够尝试使用策略，但表现了出对这些策略的抗拒，且推理过程存在错误或混乱。

3/28/2025 3:37:00 PM

郑佳美