Jürgen Schmidhuber

LSTM之父率队造出PoPE：终结RoPE泛化难题，实现Transformer的极坐标进化

LSTM之父率队造出PoPE：终结RoPE泛化难题，实现Transformer的极坐标进化

Transformer 架构中的注意力机制是根据内容（what）和序列中的位置（where）将键（key）与查询（query）进行匹配。而在近期 LSTM 之父 Jürgen Schmidhuber 的 USI & SUPSI 瑞士 AI 实验室团队的一项新研究中，分析表明，当前流行的旋转位置嵌入（RoPE）方法中的 what 与 where 是纠缠在一起的。这种纠缠会损害模型性能，特别是当决策需要对这两个因素进行独立匹配时。

1/3/2026 12:12:00 AM 机器之心

图灵奖遗忘的AI之父，GAI时代再发声：Jurgen重谈AI“创业”史

图灵奖遗忘的AI之父，GAI时代再发声：Jurgen重谈AI“创业”史

最近人工智能领域战火纷飞，各种观点打架。脾气火爆的人工智能之父Jürgen Schmidhuber也不断吐槽自己“被遗忘”了，不满之余还不忘四处宣讲自己全新的人工智能发展理念，誓要夺回大众视线。不久前，他就接受了Machine Learning Street（MLST）的一次独家专访，回忆了自己在深度学习和人工智能方面的开创性工作，分享他对智能机器未来的展望，还重点回顾了世界模型带来的人工智能创新和LSTM和Transformer的开发及演变。

9/6/2024 11:38:00 AM 刘洁

资讯热榜

免费！让图片放大不失真的位图转矢量图神器 Tmttool AI应用新纪元：2025中国AI应用排行榜榜单揭晓丨2025年1月 6秒视频10秒生成！全新AI视频神器 Grok Imagine 深度体验+元提示词分享最火、最全的Agent记忆综述，NUS、人大、复旦、北大等联合出品后悔没早发现！教你用谷歌Gemini生成精美PPT（附提示词） GGUF 是什么？一文看懂大模型里最火的模型格式 Sora、可灵、即梦哪家强？AI视频软件深度测评！ OmniParser V2 在 Windows 系统上的详细安装与运行指南

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT 谷歌 DeepSeek AI新词 AI绘画大模型机器人数据 Midjourney 开源 Meta 微软智能用户 GPT 学习英伟达 Gemini 智能体技术马斯克 Anthropic 图像 AI创作训练 LLM 论文 AI for Science 代码腾讯苹果算法 Agent Claude 芯片具身智能 Stable Diffusion xAI 蛋白质人形机器人开发者生成式神经网络机器学习 AI视频 3D 字节跳动大语言模型 RAG Sora 百度研究 GPU 生成华为工具 AGI 计算生成式AI AI设计大型语言模型搜索亚马逊 AI模型视频生成特斯拉 DeepMind 场景 Copilot 深度学习 Transformer 架构 MCP 编程视觉