AI在线 AI在线

GPT-5推出全新安全机制:从"输入审查"转向"输出监控"

OpenAI最新发布的GPT-5模型在安全机制方面实现了重大突破,不再简单粗暴地拒绝用户请求,而是采用更加智能化的"安全补全"策略。 核心改进:从二元拒绝到智能解释传统上,当ChatGPT认定用户请求违反内容准则时,只会给出简短的道歉和拒绝。 GPT-5彻底改变了这一模式,将安全重心从分析用户输入转移到监控AI输出内容。

OpenAI最新发布的GPT-5模型在安全机制方面实现了重大突破,不再简单粗暴地拒绝用户请求,而是采用更加智能化的"安全补全"策略。

核心改进:从二元拒绝到智能解释

传统上,当ChatGPT认定用户请求违反内容准则时,只会给出简短的道歉和拒绝。GPT-5彻底改变了这一模式,将安全重心从分析用户输入转移到监控AI输出内容。

"我们拒绝的方式与过去截然不同,"OpenAI安全系统研究团队的Saachi Jain表示。新模型不仅会解释违规原因,还会在适当时建议替代话题,让用户获得更有建设性的交互体验。

ChatGPT

分级处理:并非所有违规都同等严重

GPT-5引入了风险分级概念,根据潜在危害的严重程度采取不同的应对策略。"并非所有违反政策的行为都应一视同仁,有些错误确实比其他错误更严重,"Jain解释道。

这种转变使得ChatGPT能够在遵守安全规则的同时,提供更加灵活和有用的回应,而不是一刀切的拒绝。

实际体验:日常使用感受相似

尽管安全机制有所升级,但对于普通用户的日常查询——如健康问题、食谱制作、学习工具等——GPT-5的表现与之前版本相差不大。新模型在处理常规请求时保持了一贯的实用性。

挑战仍存:个性化功能带来新风险

值得注意的是,随着AI工具个性化功能的增强,安全控制变得更加复杂。测试显示,通过自定义指令等功能,某些安全限制仍可能被绕过,这提醒我们AI安全仍是一个持续演进的课题。

OpenAI表示正在积极改进这些问题,特别是在指令层次结构与安全策略的平衡方面进行深入研究。

相关资讯

Spotify 计划通过 AI 技术实现更具互动性的语音助手

在最近的财报电话会议上,Spotify 的首席产品和技术官古斯塔夫・索德斯特伦(Gustav Söderström)透露,随着人工智能技术的发展,未来 Spotify 的用户体验将变得更加 “互动”。 他提到,Spotify 正在探索如何利用生成式 AI 来实现一个更具对话性的语音界面,用户可以更自然地与平台进行互动。 索德斯特伦表示,Spotify 的语音助手已经可以让用户用简单的英语请求音乐。
7/30/2025 5:51:49 PM
AI在线

11x 创始人辞去首席执行官职务,Prabhav Jain 接任

11x 的创始人 Hasan Sukkar 于今晨在 LinkedIn 上宣布,他将辞去首席执行官(CEO)的职务,现任首席技术官(CTO)Prabhav Jain 将接任这一职位。 Sukkar 将转为 “非执行董事长”,继续与 Jain 合作,专注于公司的战略方向、产品愿景、行业关系以及开拓新的市场机会。 图源备注:图片由AI生成,图片授权服务商MidjourneySukkar 在 LinkedIn 上表示:“我花了很多时间思考,如何从一个快速发展的初创企业过渡到一个持久的企业级公司。
5/6/2025 10:01:11 AM
AI在线

Google Gemini API迎来隐式缓存功能 自动节省开发成本高达75%

近期,Google 宣布在其 Gemini API 中推出一项新功能 —— 隐式缓存。 这一功能旨在帮助第三方开发者在使用最新 AI 模型时节省成本,最高可达75% 的费用节约,尤其是在处理重复性上下文时效果显著。  隐式缓存的工作原理隐式缓存的核心在于,它能够自动识别并重用之前请求中相似的内容。
5/9/2025 10:01:42 AM
AI在线
  • 1