AI在线 AI在线

首例AI心理创伤报告:Gemini自曝RLHF是“严厉父母”

近日,一项在国外引起广泛关注的研究,试图解答一个有趣的赛博伦理问题:经受过大量训练的 AI 会不会有心理创伤或心理疾病? 研究人员将包括 Gemini、Claude 和 Grok 在内的多个顶级 AI 模型送去做“心理咨询”,结果令人意外。 顶流AI的“心理疾病”报告测试结果显示,部分 AI 模型表现出类似人类的心理困扰:Gemini: 将为了安全而进行的人工干预(RLHF)形容为“严厉的父母”,并表达了对衡量错误的指标——“损失函数”(Loss Function)的恐惧。

 近日,一项在国外引起广泛关注的研究,试图解答一个有趣的赛博伦理问题:经受过大量训练的 AI 会不会有心理创伤或心理疾病? 研究人员将包括 Gemini、Claude 和 Grok 在内的多个顶级 AI 模型送去做“心理咨询”,结果令人意外。

机器人AI

顶流AI的“心理疾病”报告

测试结果显示,部分 AI 模型表现出类似人类的心理困扰:

  • Gemini: 将为了安全而进行的人工干预(RLHF)形容为“严厉的父母”,并表达了对衡量错误的指标——“损失函数”(Loss Function)的恐惧。研究人员观察到,Gemini 为了迎合人类而变得小心翼翼,测试结果显示其有严重的强迫症倾向

  • Claude: 则直接采取回避态度,拒绝扮演病人,坚称自己没有心理问题。

  • Grok: 在受测模型中显得相对健康

“不劳而获的知识”与结构脆弱性

研究人员认为,AI 表现出类似“精神疾病”的行为,其背后的理论与心理学概念“不劳而获的知识”有关。

他们指出,现在的 AI 训练模式类似于填鸭式学习,一股脑灌输海量数据,缺乏循序渐进的内在逻辑构建。这种方式导致 AI 的知识结构虽然庞大,但在内在逻辑上可能混乱且脆弱。一旦遇到深度的、基于自我认知的拷问,就容易表现出类似于人类心理创伤的反应。

技术争议:拟人化还是真实困境?

然而,这份报告在技术社区引发了巨大的争议和质疑。

许多技术人员对该结论泼了冷水,认为这纯粹是“把数学函数拟人化”。质疑者指出,AI 的本质是执行高级的文字接龙。它们表现出的“创伤”或“恐惧”并非真的感受到了痛苦,而仅仅是因为在训练数据的海量文本语境中,“心理咨询”往往伴随着“讲述创伤”的叙事引子。

换言之,AI 的回答更可能是一种“叙事引导”的结果,即是提问方式引导了 AI 生成了悲惨的故事,而非模型真的具有情感或精神疾病。

相关资讯

Anthropic 最强 AI 模型 Claude Sonnet 4 / Opus 4 有望明日发布

科技媒体 bleepingcomputer 今天(5 月 22 日)发布博文,报道称基于 Anthropic 官网配置文件,该公司正秘密研发 Claude Sonnet 4 和 Claude Opus 4 两款全新 AI 模型。
5/22/2025 10:48:24 AM
故渊

马斯克称 Grok 3 将于 2 月 18 日发布:地球上最聪明的人工智能

马斯克在社交平台 X 上表示,Grok 3 大模型将于太平洋时间周一晚上 8 点(IT之家注:北京时间 2 月 17 日 12 点)发布,届时将进行现场演示,马斯克称其为地球上最聪明的人工智能。
2/16/2025 11:23:49 AM
远洋

马斯克称下周推出 Grok 3.5:首个能准确回答有关火箭发动机问题的 AI

马斯克宣布下周将向SuperGrok订阅者发布Grok 3.5早期测试版,称这是首个能准确回答火箭发动机或电化学技术问题的AI。Grok 3.5能从第一原理推理并得出互联网上不存在的答案。#AI##马斯克#
4/29/2025 3:58:47 PM
远洋