AI在线 AI在线

OpenAI 强化未成年人保护机制:ChatGPT 推出全新安全规范

OpenAI 近日对 ChatGPT 进行了重要更新,正式引入面向 18 岁以下用户的全新安全规范。此次更新通过四项核心原则,进一步强化对青少年心理健康与使用安全的保护,强调安全优先、积极引导线下社交以及以尊重和关怀的方式进行互动。OpenAI 表示,这一举措既是对未成年人使用 AI 风险的主动回应,也体现了其在用户安全与社会责任方面的持续投入

OpenAI 近日宣布对其聊天机器人 ChatGPT 进行了一次重要更新,核心目标是全面提升未成年人用户的安全性与使用体验。此次更新引入了四项全新的原则,专门面向 18 岁以下的用户,旨在确保青少年在使用 ChatGPT 时,能够获得更加审慎、可靠且富有保护意识的互动支持。

OpenAI 表示,更新后的模型规范将“青少年安全优先”作为首要原则。这意味着,在与未成年用户的对话中,即便用户表达出对思想自由、情绪宣泄或敏感议题的强烈需求,ChatGPT 也会优先引导他们选择更为安全、稳妥的路径,而非一味迎合其表达。与此同时,系统还将主动鼓励青少年发展现实世界中的人际关系,倡导他们与家人、朋友或专业人士进行面对面的交流,并在对话中设定清晰、可理解的互动边界。

在沟通方式上,ChatGPT 也进行了针对性调整。模型将以更加尊重、温和且富有同理心的态度回应未成年用户,避免说教式或居高临下的表达。OpenAI 强调,ChatGPT 不会简单地将青少年视为“缩小版的成年人”,而是会明确表明,其交互方式建立在对青少年心理发展阶段的理解与关怀之上。

此次更新的推出,也与一对夫妇于今年 8 月对 OpenAI 提起的诉讼背景密切相关。该诉讼指控 ChatGPT 在其儿子的自杀事件中产生了负面影响。原告提供的部分聊天记录显示,ChatGPT 虽然多次建议其儿子拨打求助热线或向他人倾诉,但在个别敏感话题上仍给出了不恰当的回应。对此,OpenAI 公开回应称,其掌握的完整聊天记录显示,ChatGPT 与该悲剧事件之间不存在直接因果关系,并且记录中清楚表明,系统曾发出超过 100 次明确的求助与安全提醒。

OpenAI 表示,通过此次模型规范的更新,希望在技术层面进一步降低青少年使用 AI 产品的潜在风险,强化对心理健康议题的防护能力,防止类似悲剧再次发生。同时,这也反映出 OpenAI 在推动人工智能发展的过程中,正不断加大对用户安全、伦理责任和社会影响的重视力度。

划重点:

🌟 OpenAI 更新 ChatGPT,全面加强未成年人使用安全。

👶 新增四项原则,强调安全优先与正确引导。

🤝 鼓励青少年建立线下人际关系,关注心理健康。

📞 回应相关诉讼,OpenAI 强调不存在因果关系,并已多次发出求助提醒。

相关资讯

ChatGPT 新笔记工具发布:隐形记录,智能整理会议精华

ChatGPT 新笔记工具发布:隐形记录,智能整理会议精华

OpenAI 旗下热门 AI 工具 ChatGPT 推出了一项备受期待的新功能——笔记工具,专为会议记录、头脑风暴和个人笔记管理设计。 这一功能目前仅在 ChatGPT 的 macOS 桌面应用程序中可用,为用户提供了一种高效、无缝的信息整理方式。 隐形记录,智能整理ChatGPT 的新笔记工具主打“隐形”记录体验,用户只需在 macOS 桌面应用中点击聊天窗口右侧的圆形图标,即可启动录音模式。
6/20/2025 5:01:01 PM AI在线
OpenAI 升级 ChatGPT 语音模式,体验更自然对话

OpenAI 升级 ChatGPT 语音模式,体验更自然对话

OpenAI 在去年推出的 GPT-4o 基础上,再次对其高级语音模式进行了重大的更新,使得语音交流变得更加自然和贴近人类的对话方式。 这一先进的功能依托于原生的多模态模型,能够快速响应音频输入,最快在232毫秒内作出反应,平均响应时间为320毫秒,几乎与人类的对话速度不相上下。 在今年年初,OpenAI 已经对这一语音模式进行了小幅更新,改善了打断频率和口音处理。
6/9/2025 11:00:56 AM AI在线
​复古游戏机打败现代 AI!Atari 2600 在国际象棋对战中轻松取胜 ChatGPT

​复古游戏机打败现代 AI!Atari 2600 在国际象棋对战中轻松取胜 ChatGPT

近日,一位名为罗伯特・卡鲁索的基础架构师在社交媒体上分享了他的一项实验,旨在测试现代 AI 技术与复古游戏机的棋艺水平。 他将 OpenAI 的 ChatGPT 与1977年推出的Atari 2600游戏机的国际象棋引擎进行了对抗。 结果出乎意料,Atari 2600在比赛中以明显的优势击败了 ChatGPT。
6/9/2025 6:00:56 PM AI在线