AI在线 AI在线

4B

英伟达开源 Nemotron-Mini-4B-Instruct 小语言 AI 模型：专为角色扮演设计，9216 MLP、上下文长度 4096 词元

英伟达开源 Nemotron-Mini-4B-Instruct 小语言 AI 模型：专为角色扮演设计，9216 MLP、上下文长度 4096 词元
科技媒体 marktechpost 昨日（9 月 14 日）发布博文，报道称英伟达开源了 Nemotron-Mini-4B-Instruct AI 模型，标志着该公司在 AI 领域创新又一新篇章。小语言模型的大潜力Nemotron-Mini-4B-Instruct AI 模型专为角色扮演、检索增强生成（RAG）及函数调用等任务设计，是一个小语言模型（SLM），通过蒸馏（distilled）和优化更大的 Nemotron-4 15B 获得。英伟达使用剪枝（pruning）、量化（quantization）和蒸馏（di
9/15/2024 2:14:34 PM
故渊
“端侧 ChatGPT 时刻到来”，面壁智能推出小钢炮开源 MiniCPM3-4B AI 模型

“端侧 ChatGPT 时刻到来”，面壁智能推出小钢炮开源 MiniCPM3-4B AI 模型
面壁智能官方公众号昨日（9 月 5 日）发布博文，宣布推出开源 MiniCPM3-4B AI 模型，声称“端侧 ChatGPT 时刻到来”。AI在线附上 MiniCPM 3.0 开源地址： 是 MiniCPM 系列的第三代产品，整体性能超过了 Phi-3.5-mini-Instruct 和 GPT-3.5-Turbo-0125，媲美多款 70 亿~90 亿参数的 AI 模型。相比 MiniCPM1.0 / MiniCPM2.0，MiniCPM3-4B 拥有更强大、更多用途的技能集，可用于更广泛的用途。MiniCPM
9/6/2024 8:20:17 AM
故渊
小而强，英伟达剪枝、蒸馏出 Llama-3.1-Minitron 4B AI 模型

小而强，英伟达剪枝、蒸馏出 Llama-3.1-Minitron 4B AI 模型
英伟达公司联合 Meta 公司发布了最新的 Llama-3.1-Minitron 4B AI 模型，主要通过结构化权重剪枝、知识提炼等尖端技术，成功蒸馏（Distill）出 40 亿参数的“小而强”模型。图源：英伟达Llama-3.1-Minitron 4B 模型在 Llama-3.1-Minitron 8B 基础上蒸馏而来，英伟达在深度和宽度方向上使用了结构化剪枝技术。AI在线注：剪枝是一种删除网络中不那么重要的层或神经元的技术，保留其性能的情况下，目的是减小模型的大小和复杂度。英伟达通过从模型中删除 16 层来
8/17/2024 7:21:02 AM
故渊
  • 1