Albert Gu

「Tokens是胡扯」，Mamba作者抛出颠覆性观点，揭露Transformer深层缺陷

「Tokenization（分词）是 Transformer 模型为弥补自身缺陷不得不戴上的枷锁。」近日，Mamba 作者、CMU 助理教授、Cartesia AI 首席科学家 Albert Gu 撰写了一篇新博客，探讨了状态空间模型（SSM）和 Transformer 之间的权衡，并提出了这样一种观点。这篇博客改编自 Albert Gu 过去一年来多次进行的一场演讲。

7/10/2025 10:48:00 AM

机器之心

资讯热榜

首个面向肽分子设计的大模型平台：直接「读序列」出结合子，无需结构输入即可生成奥特曼：我承认GPT-5发布搞砸了深度揭秘OpenAI如何让GPT-5「技术性」超越Claude：悄悄跳过最难的23道题阿里千问踢馆子了！Qwen3新作秒杀ChatGPT，侧脸杀切换第一人称视角，表情包绝绝子，小编：再也不用美图秀秀去水印了小红书发布DynamicFace人脸生成技术，实现高质量图像视频人脸融合摩根士丹利：AI 革命将为标准普尔 500 指数企业每年节省近 1 万亿美元网易有道发布子曰教育大模型多款AI新品，定义教育AI应用能力L1-L5分级即梦首页的大美人图风格，我今天包教包会（邪修版）！

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体论文 Anthropic 英伟达代码训练算法 Stable Diffusion 芯片 AI新词 LLM 蛋白质腾讯开发者生成式 Claude 苹果 Agent AI for Science 神经网络 3D 机器学习研究生成 xAI 人形机器人 AI视频计算 Sora 百度 GPU AI设计华为工具大语言模型搜索具身智能 RAG 字节跳动大型语言模型场景深度学习预测伟达视觉 Transformer 视频生成 AGI 架构神器推荐亚马逊 Copilot DeepMind 应用特斯拉