AI在线 AI在线

OpenAI 高管:AI 未来可自主生成知识,商业与科研迎来革命

Pachocki强调,AI通过无监督预训练和强化学习(RLHF)构建“世界模型”,并将其转化为实用助手。他还预测,到本世纪末,AI将在自主研究领域取得重大进展,甚至可能在今年内实现近乎自主的软件开发。

科技媒体 The Decoder 昨日(5 月 12 日)发布博文,报道称 OpenAI 高级模型开发负责人 Jakub Pachocki 指出,AI 推理模型正展现出自主生成知识的潜力。

他认为这种推理并非人类思维的翻版,而是基于数据和算法的独特过程。AI在线援引博文介绍,Pachocki 解释,AI 的学习分为两个阶段:首先是无监督预训练,模型吸收海量数据,构建一个无意识、无时间线的“世界模型”(world model),以此理解现实的基本框架。

第二阶段则是通过强化学习与人类反馈(RLHF)将基础模型转化为实用助手。Pachocki 强调,这一阶段在最新的推理模型中尤为关键。

OpenAI 同时结合传统强化学习,处理有明确对错的任务,而 RLHF 则更适合复杂问题,尽管其扩展性有限。他还质疑预训练与强化学习是否应视为独立阶段,认为推理模型的“思考”根植于预训练数据,二者需深度融合。

近期一篇论文指出,推理训练并未为模型增添全新能力,而是帮助它们更高效地应用已有知识。例如,模型能以更结构化的方式解决已知问题。Pachocki 对此表示认同,并补充,模型已展现出发现新见解的潜力,这为 AI 的未来应用奠定了基础。

对于通用人工智能(AGI),Pachocki 表示其观点不断演变。他回忆作为学生时,他认为 AI 掌握围棋是遥不可及的目标,但 2016 年 AlphaGo 的胜利彻底改变了他的认知。

如今,他将 AI 的经济价值视为下一个里程碑,强调 AI 需实现商业成果并开展自主研究。他预测,到本世纪末,AI 自主研究将取得“实质性进展”,甚至今年内可能出现近乎自主的软件开发系统。

OpenAI 高管:AI 未来可自主生成知识,商业与科研迎来革命

相关资讯

OpenAI o3 模型运行成本估算大幅上调:单次任务从 3000 美元涨至 3 万美元

Arc Prize Foundation 大幅上调 OpenAI o3 模型运行成本估算,从 3000 美元涨至 3 万美元。高昂成本凸显 AI 模型特定任务的高成本难题,控制成本成行业挑战。##AI模型成本##
4/3/2025 7:59:45 AM
远洋

o1 研发团队完整采访:Ilya早期曾参与,灵感源于AlphaGo

自从 OpenAI 的 o1 问世以来,它强大的推理能力就承包了 AI 圈近期的热搜。不需要专门训练,它就能直接拿下数学奥赛金牌,甚至可以在博士级别的科学问答环节上超越人类专家。展示 o1 实力的 demo,我们看了不少,评估 o1 表现的评测,全网比比皆是,关于 o1 技术路线的讨论也如火如荼,引发了广泛的关注和深入的思考。不过 o1 背后的故事,还鲜为人知,那些在幕后默默付出的团队成员们,他们的故事同样值得被讲述和铭记。刚刚,OpenAI 发布了 o1 研发团队的完整访谈,为我们揭秘了 o1 的「成长历程」。o
9/22/2024 1:27:00 PM
机器之心

LeCun批评o1根本不像研究,Noam Brown回怼:已发表的研究都是废话

图灵奖三巨头之一 Yann LeCun 又和别人吵起来了,这次是 Noam Brown。Noam Brown 为 OpenAI o1 模型的核心贡献者之一,此前他是 Meta FAIR 的一员,主导了曾火遍一时的 CICERO 项目,在 2023 年 6 月加入 OpenAI  。这次吵架的内容就是围绕 o1 展开的。众所周知,从 AI 步入新的阶段以来,OpenAI 一直选择了闭源,o1 的发布也不例外。这也引来了广大网友的吐槽,干脆叫 CloseAI 算了,反观 Meta,在开源领域就做的很好,o1 的发布,更
9/30/2024 2:12:00 PM
机器之心
  • 1