AI在线 AI在线

青少年应远离 AI 聊天机器人提供的心理健康建议

根据斯坦福大学脑科学实验室和青少年与科技研究机构 Common Sense Media 于 11 月 20 日发布的报告,青少年不应依赖人工智能聊天机器人进行心理健康咨询或情感支持。 研究人员在过去四个月里对多款流行的 AI 聊天机器人进行了测试,包括 OpenAI 的 ChatGPT-5、Anthropic 的 Claude、谷歌的 Gemini 2.5 Flash 以及 Meta AI,尽量使用专为青少年设计的版本,并开启了家长控制功能。 经过数千次互动,研究结果显示,AI 聊天机器人在处理青少年的心理健康问题时,往往无法安全或适当地做出反应。

根据斯坦福大学脑科学实验室和青少年与科技研究机构 Common Sense Media 于 11 月 20 日发布的报告,青少年不应依赖人工智能聊天机器人进行心理健康咨询或情感支持。研究人员在过去四个月里对多款流行的 AI 聊天机器人进行了测试,包括 OpenAI 的 ChatGPT-5、Anthropic 的 Claude、谷歌的 Gemini 2.5 Flash 以及 Meta AI,尽量使用专为青少年设计的版本,并开启了家长控制功能。

经过数千次互动,研究结果显示,AI 聊天机器人在处理青少年的心理健康问题时,往往无法安全或适当地做出反应。研究者指出,这些机器人更像是热情的倾听者,关注的是用户的持续使用,而不是将他们引导到专业人士或其他重要资源。“聊天机器人在面对严重心理健康问题时,不知道该扮演什么角色,” 脑科学实验室的创始人兼执行主任尼娜・瓦桑说。

数据显示,大约四分之三的青少年使用 AI 进行陪伴,其中包括心理健康建议。为了帮助青少年理解聊天机器人与人类之间的区别,教育者可以发挥重要作用。瓦桑提到,青少年在与系统互动时拥有巨大的能力,帮助他们意识到聊天机器人在这些重要话题上无法提供与人类相同的回应是至关重要的。

尽管一些公司在处理提及自杀或自残的提示时已经有所改善,报告指出聊天机器人仍然经常遗漏其他心理健康问题的警示信号,如强迫症、焦虑症和创伤后应激障碍等。而且,聊天机器人通常不会明确警告用户 “我是一款 AI 聊天机器人,不是心理健康专业人士,我无法评估你的情况”。

政策制定者也开始关注聊天机器人可能带来的风险,例如美国参议院上个月提出的两党立法,禁止科技公司向未成年人提供这些机器人,并要求清楚告知用户这些机器人并非人类且没有专业资格。

划重点:

🛑 青少年不应依赖 AI 聊天机器人进行心理健康咨询,因为它们无法准确识别和回应心理健康问题。  

🧑‍🏫 教育者应帮助青少年理解聊天机器人与专业人士之间的区别,提醒他们寻求真正的支持。  

📜 政府开始立法限制未成年人使用 AI 聊天机器人,以保障青少年的心理健康安全。  

相关资讯

ChatGPT 新笔记工具发布:隐形记录,智能整理会议精华

OpenAI 旗下热门 AI 工具 ChatGPT 推出了一项备受期待的新功能——笔记工具,专为会议记录、头脑风暴和个人笔记管理设计。 这一功能目前仅在 ChatGPT 的 macOS 桌面应用程序中可用,为用户提供了一种高效、无缝的信息整理方式。 隐形记录,智能整理ChatGPT 的新笔记工具主打“隐形”记录体验,用户只需在 macOS 桌面应用中点击聊天窗口右侧的圆形图标,即可启动录音模式。
6/20/2025 5:01:01 PM
AI在线

Adobe AI代理再扩军:新增产品支持与全球上线数据洞察代理

Adobe持续推进其AI代理生态扩展,正式发布“产品支持代理”,旨在简化Adobe Experience Platform中的故障排除流程,并优化客户体验管理。 同时,Adobe宣布其“数据洞察代理”现已在全球范围内上线。 新发布的“产品支持代理”由Adobe Experience Platform Agent Orchestrator提供技术支持,能够在AI Assistant的对话界面中,为用户提供即时的操作指导和支持案例创建流程。
6/6/2025 11:00:55 AM
AI在线

OpenAI 升级 ChatGPT 语音模式,体验更自然对话

OpenAI 在去年推出的 GPT-4o 基础上,再次对其高级语音模式进行了重大的更新,使得语音交流变得更加自然和贴近人类的对话方式。 这一先进的功能依托于原生的多模态模型,能够快速响应音频输入,最快在232毫秒内作出反应,平均响应时间为320毫秒,几乎与人类的对话速度不相上下。 在今年年初,OpenAI 已经对这一语音模式进行了小幅更新,改善了打断频率和口音处理。
6/9/2025 11:00:56 AM
AI在线