Self-play muTuAl Reasoning

两个小模型互相验证，直接比肩大模型？微软的rStar甚至没用CoT和微调

互相检查，让小模型也能解决大问题。众所周知，LLM 很强大，但执行复杂推理的能力还不够强。举个例子，在 GSM8K 数据集上，Mistral-7B 即使使用思维链（CoT）等技术，也只能达到 36.5% 的准确度。尽管微调确实也能有效地提升推理能力，但大多数 LLM 依靠的微调数据都是经过 GPT-4 等更强大模型蒸馏过的，甚至可能原本就是这些强大模型合成的。同时，研究者们也在积极开发一种能提供辅助但也更困难的方法：使用一个更优的教师 LLM 来提升推理能力。为了在没有更优模型的前提下提升推理能力，一种颇有希望的范

8/16/2024 2:16:00 PM

机器之心

资讯热榜

Microsoft Releases 700 Real AI Cases to Explore New Intelligent Work Models 微软发布 700 个真实 AI 案例，探索智能化工作新模式 Li Hang, head of ByteDance AI Lab, resigns; Seed team enters adjustment period 豆包App“一句话P图”功能全新升级基于SeedEdit 3.0实现全面优化 Former DeepSeek executive secretly starts new AI Agent project, already backed by top VC Grok接管推特算法！小号也能爆红，新人起号迎来黄金时代？消息称 OpenAI 已同谷歌敲定一份云 AI 算力交易，减少对微软依赖 OpenAI年化收入突破100亿美元过去一年亏损约50亿美元

标签云

人工智能 AI OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌数据机器人大模型 Midjourney 用户智能开源微软 GPT Meta 学习图像技术 AI创作 Gemini 论文马斯克 Stable Diffusion 算法英伟达代码 Anthropic 芯片开发者生成式蛋白质腾讯神经网络训练 3D 研究生成智能体苹果计算机器学习 Sora Claude AI设计 AI for Science GPU AI视频人形机器人搜索华为百度场景大语言模型 xAI 预测伟达深度学习 LLM 字节跳动 Transformer Agent 工具模态神器推荐具身智能文本视觉 LLaMA 算力 Copilot 驾驶大型语言模型 API RAG 应用架构