Orca 2

微软教小模型推理进阶版：Orca 2性能媲美10倍参数模型，已开源

站在巨人的肩膀上会让你看的更远，而通过让大规模语言模型来「教」较小规模的语言模型进行推理，也会是事半功倍的效果。如你我所见，像 GPT-4、PaLM 等前沿语言模型已经展现了出色的推理能力，例如回答复杂问题、生成解释，甚至解决需要多步推理的问题，这些能力曾被认为是 AI 无法达到的。这样的能力在较小的语言模型中并不明显，因此现在的挑战就是如何利用对大型语言模型不断增长的知识，进而提升较小模型的能力。之前微软研究院推出了 Orca，它是拥有 130 亿参数的语言模型，通过模仿更强大 LLM 的逐步推理过程，展现了强大

12/4/2023 10:47:00 AM

机器之心

资讯热榜

Lovart震撼发布：全球首个设计Agent，一键从创意到成品全球首个设计Agent Lovart席卷全球，颠覆性功能与幕后团队揭秘全球首款设计Agent Lovart内测！一句话搞定Logo、视频、品牌全套一文搞懂人工智能中的MCP原理：从概念到应用的全面解析苹果发布FastVLM模型，可在iPhone上运行的极速视觉语言模型 OpenMemory MCP发布！AI记忆本地共享，Claude、Cursor一键同步效率翻倍！国产大模型「五强争霸」，决战AGI！清华系创业团队“灵御智能”融资千万，聚焦人机混合智能

标签云

人工智能 AI OpenAI AIGC ChatGPT DeepSeek AI绘画模型数据机器人谷歌大模型 Midjourney 智能用户开源微软学习 GPT Meta 图像 AI创作技术 Gemini 论文马斯克 Stable Diffusion 算法芯片代码生成式蛋白质英伟达腾讯神经网络研究 Anthropic 开发者 3D 计算 Sora 机器学习 AI设计 AI for Science GPU AI视频苹果场景华为百度人形机器人预测搜索 Claude 伟达训练深度学习生成 xAI Transformer 大语言模型字节跳动模态具身智能文本驾驶智能体神器推荐 Copilot LLaMA 视觉算力安全应用视频生成干货合集 API 大型语言模型亚马逊科技