Falcon Mamba 7B

非Transformer架构站起来了！首个纯无注意力大模型，超越开源巨头Llama 3.1

Mamba 架构的大模型又一次向 Transformer 发起了挑战。Mamba 架构模型这次终于要「站」起来了？自 2023 年 12 月首次推出以来，Mamba 便成为了 Transformer 的强有力竞争对手。此后，采用 Mamba 架构的模型不断出现，比如 Mistral 发布的首个基于 Mamba 架构的开源大模型 Codestral 7B。今天，阿布扎比技术创新研究所（TII）发布了一个新的开源 Mamba 模型 ——Falcon Mamba 7B。先来总结一波 Falcon Mamba 7B 的亮点

8/13/2024 2:51:00 PM

机器之心

资讯热榜

Lovart震撼发布：全球首个设计Agent，一键从创意到成品全球首个设计Agent Lovart席卷全球，颠覆性功能与幕后团队揭秘全球首款设计Agent Lovart内测！一句话搞定Logo、视频、品牌全套 OpenMemory MCP发布！AI记忆本地共享，Claude、Cursor一键同步效率翻倍！超多案例！让 Lovart 作图更好看更高效的提示词在这里了！ “逆天”研究！Cursor 与 Windsurf 背后的核心算法机制曝光！网友惊呼：Cursor代码总出Bug的原因找到了 Unsloth 微调 Qwen3 实战教程来了！免费开放！通义千问Qwen上线「深入研究」Deep Research功能

标签云

人工智能 AI OpenAI AIGC ChatGPT DeepSeek 模型 AI绘画数据机器人谷歌大模型 Midjourney 用户智能开源微软学习 GPT Meta 图像 AI创作技术 Gemini 论文马斯克 Stable Diffusion 算法代码芯片生成式蛋白质英伟达腾讯神经网络开发者研究 Anthropic 3D 计算 Sora 机器学习 AI设计 AI for Science GPU 苹果 AI视频场景华为百度人形机器人预测搜索训练生成 Claude 伟达深度学习 xAI Transformer 大语言模型字节跳动模态具身智能文本驾驶智能体神器推荐 Copilot LLaMA 视觉算力应用安全 API 视频生成干货合集大型语言模型亚马逊 Agent