端侧 AI 崛起：Mistral 发布 Ministral 3B / 8B，“全球最好的边缘模型”

作者：故渊 2024-10-17 01:39

Mistral 公司最新推出了 Ministral 3B 和 Ministral 8B 两款 AI 模型，并不需要连接云服务器，重点提高笔记本电脑和智能手机等设备的本地化 AI 体验，官方声称是“世界上最好的边缘模型”。Mistral 公司表示越来越多的企业希望能够在个人设备上运行 AI 模型，一方面确保安全的数据处理，另一方面也提高响应速度。上述两个模型可在没有互联网接入的情况下，执行翻译服务、本地分析和机器人等多项服务。

Mistral 公司最新推出了 Ministral 3B 和 Ministral 8B 两款 AI 模型，并不需要连接云服务器，重点提高笔记本电脑和智能手机等设备的本地化 AI 体验，官方声称是“世界上最好的边缘模型”。

Mistral 公司表示越来越多的企业希望能够在个人设备上运行 AI 模型，一方面确保安全的数据处理，另一方面也提高响应速度。

上述两个模型可在没有互联网接入的情况下，执行翻译服务、本地分析和机器人等多项服务。

这两个 AI 模型的上下文窗口均为 128K，相当于一次可以处理 50 页文档。

Ministral 8B 的价格为每百万个 tokens 售价 0.1 美元，而 3B 版本则为 0.04 美元，适合小规模操作或初创开发者。Ministral 8B 采用了特殊的交错滑动窗口注意力机制，这种设计可以在推理时更快且节省内存。AI在线附上相关性能图表如下：

端侧 AI 崛起：Mistral 发布 Ministral 3B / 8B，“全球最好的边缘模型”

开源版 OpenAI 再出神作：小模型吊打 Meta Llama 3，Ministral 系列开启边缘 AI 革命

Mistral 7B 诞生一周年之际，法国 AI 初创公司 Mistral 再次连发两个轻量级模型 Ministral 3B 和 Ministral 8B，性能赶超 Llama 3 8B。 Mistral 7B 仅仅发布一周年，法国 AI 初创小模型「les Ministraux」就打败它了。它堪称是，世界上最好的边缘模型。

10/23/2024 10:54:59 PM

问舟

英伟达发布 80 亿参数新 AI 模型：精度、效率高，可在 RTX 工作站上部署

英伟达于 8 月 21 日发布博文，发布了 Mistral-NeMo-Minitron 8B 小语言 AI 模型，具备精度高、计算效率高等优点，可在 GPU 加速的数据中心、云和工作站上运行模型。英伟达携手 Mistral AI 上月发布开源 Mistral NeMo 12B 模型，在此基础上英伟达再次推出更小的 Mistral-NeMo-Minitron 8B 模型，共 80 亿个参数，可以在搭载英伟达 RTX 显卡的工作站上运行。英伟达表示通过宽度剪枝（width-pruning）Mistral NeMo 12

8/23/2024 7:32:00 AM

故渊

欧洲“DeepSeek”发布了全世界最好的 OCR，网友：蹲蹲中国的免费开源版

就在刚刚，那个曾经开源了首个 MoE 模型的欧洲初创公司 Mistral AI 在沉寂一段时间之后又出新活。 Mistral 团队发布了一个号称“全世界最好的 OCR”的产品 —— Mistral OCR，旨在将一些 AI 难以直接识别的粗糙且复杂的文件进行整理，便于 AI 操作识别。帖子一经发出，评论区瞬间充满了各种夸夸言论，但在一众赞美声中，也不乏一些真正用过产品的网友的理智发言。

3/14/2025 4:25:00 PM

郑佳美

端侧 AI 崛起：Mistral 发布 Ministral 3B / 8B，“全球最好的边缘模型”

相关资讯

开源版 OpenAI 再出神作：小模型吊打 Meta Llama 3，Ministral 系列开启边缘 AI 革命

英伟达发布 80 亿参数新 AI 模型：精度、效率高，可在 RTX 工作站上部署

欧洲“DeepSeek”发布了全世界最好的 OCR，网友：蹲蹲中国的免费开源版