信息论

揭开大模型的秘密！那些 “思考词” 背后藏着惊人的信息量

揭开大模型的秘密！那些 “思考词” 背后藏着惊人的信息量

近日，来自中国人民大学、上海人工智能实验室、伦敦大学学院和大连理工大学的研究团队揭示了大模型推理过程中的一个重要发现:当模型在思考时，所使用的 “思考词” 实际上反映了其内部信息量的显著提升。这一研究成果通过信息论的方法，为我们更好地理解人工智能的推理机制提供了新的视角。论文地址：，会输出一些看似人类化的语言，比如 “嗯……”、“让我想想……” 或 “因此……”。

7/5/2025 7:46:41 AM

AI在线

1

资讯热榜

首个面向肽分子设计的大模型平台：直接「读序列」出结合子，无需结构输入即可生成深度揭秘OpenAI如何让GPT-5「技术性」超越Claude：悄悄跳过最难的23道题 OpenAI豪赌5000亿美元估值神话：60亿股权大甩卖背后，GPT-5却遭用户冷遇蚂蚁集团携手北医三院成立AI医疗联合实验室打造专属AI就医助理国产AI路由系统开源逆袭！仅用19%成本达到Gemini-2.5-Pro同等性能网易有道发布子曰教育大模型多款AI新品，定义教育AI应用能力L1-L5分级摩根士丹利：AI 革命将为标准普尔 500 指数企业每年节省近 1 万亿美元 OpenAI加速推进GPT-6开发，奥尔特曼承诺打造"有记忆"的个性化AI助手

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体英伟达论文 Anthropic 代码训练算法 Stable Diffusion AI新词芯片 LLM 蛋白质腾讯开发者苹果生成式 Claude Agent AI for Science 神经网络 3D 机器学习研究生成 xAI 人形机器人 AI视频计算 Sora 百度 GPU AI设计华为工具大语言模型搜索 RAG 具身智能字节跳动大型语言模型场景深度学习预测伟达视频生成视觉 Transformer AGI 架构亚马逊神器推荐 Copilot DeepMind 特斯拉应用