AI在线 AI在线

UIUC

彻底改写Transformer!「能量驱动架构」横空出世,通用推理时代要来了?

在Transformer统治AI世界十余年之后,Attention的时代正在退场,真正的思考刚刚开始——由UIUC、斯坦福、哈佛等顶尖机构联合提出的Energy-Based Transformer(EBT)震撼登场。 它首次将Transformer架构引入能量建模(Energy-Based Models, EBM)框架,彻底打破「前馈即推理」的旧范式。 图片论文链接:,也不是RNN的改进,而是一种彻底不同的推理机制:模型不再一次性「说完答案」,而是像人类一样从模糊猜测出发,逐步优化推理路径。
7/15/2025 2:00:00 AM
新智元

挥舞起代码语料的魔杖,大模型和智能体将召唤出更强大的能量

正如瑞斯福兹魔杖缔造了诸如邓布利多在内的历代非凡魔法师的传奇,具有巨大潜能的传统大型语言模型,在经过代码语料的预训练 / 精调后,掌握了更超出本源的执行力。具体来说,进阶版的大模型在编写代码、更强推理、自主援引执行接口、自主完善等方面都获得了提升,这将为它作为 AI 智能体、执行下游任务时方方面面带来增益。近日,伊利诺伊大学厄巴纳 - 香槟分校(UIUC)的研究团队发布了一项重要综述。论文链接: (Code)如何赋予大型语言模型(LLMs)及其基于此的智能体(Intelligent Agents)强大的能力。其中,
1/10/2024 5:07:00 PM
机器之心

UIUC信息学院汪浩瀚老师课题组招收全奖博士生及合作者,计算生物学和可信机器学习方向

新的一期博士招生正式启动!本期将为大家介绍 UIUC 信息学院汪浩瀚(Haohan Wang)老师课题组招收博士生及合作者的相关信息。学校简介UIUC,坐落于伊利诺伊州双子城厄巴纳–香槟市,是一所美国公立研究型大学。校友和教授中有 30 位获得诺贝尔奖,25 位获得普利策奖。工科专业在全球享有盛誉,几乎所有专业均位列全美前十,其中电气、土木、材料、环境、计算机均位列全美前五;会计学专业位列全美前三;信息科学专业常年位居全美第一。UIUC 校友创建或参与创建了特斯拉、甲骨文、Youtube、Paypal、AMD、Ye
11/18/2022 5:10:00 PM
机器之心
  • 1