大模型
大模型前缀缓存技术，有望将服务成本降低90%
译者 | 核子可乐审校 | 重楼是不是总感觉ChatGPT响应缓慢？ 大家可能没有留意，大模型应用程序的提示词重复率高达70%，问天气、问翻译和问节日安排的内容大量出现，且每次都要消耗算力进行处理。 这样的情况在分布式集群的各节点上被无数次放大，白白烧掉宝贵的能源和金钱。
移远通信边缘计算模组成功运行DeepSeek模型，以领先的工程能力加速端侧AI落地
近日，国产大模型DeepSeek凭借其“开源开放、高效推理、端侧友好”的核心优势，迅速风靡全球。 移远通信基于边缘计算模组SG885G，已成功实现DeepSeek模型的稳定运行，并完成了针对性微调。 目前，该模型正在多款智能终端上进行深入测试与优化。
仅需3步，稳定快速！火山引擎边缘大模型网关全面支持DeepSeek系列模型
DeepSeek 作为大模型新锐，凭借其在算法、架构及系统等核心领域的创新突破，迅速获得业界瞩目。 在巨大的热度下，面对海量请求，越来越多用户遇到了请求失败、调用超时、结果无法返回等稳定性问题。 火山引擎边缘大模型网关通过一个 API 接入多家模型服务，利用全球边缘节点就近调用，提升响应速度；支持故障自动切换、重试和超时控制，确保服务可靠性；兼容 OpenAI 接口标准，可快速集成 DeepSeek 等模型，降低接入成本。
DeepSeek-R1技术解码：如何实现大模型推理能力的提升？
1月20日，幻方量化旗下AI公司深度求索(DeepSeek)发布了新一代开源大模型DeepSeek-R1。 作为一款专注于推理能力的AI大模型，DeepSeek-R1凭借着成本低、推理能力强等优势，在人工智能领域掀起了千层巨浪，引起了人们的广泛关注与讨论。 DeepSeek-R1的成功，让我们更加清晰地认识到推理能力在当下人工智能发展中的重要地位。
NLLB 与 ChatGPT 双向优化：探索翻译模型与语言模型在小语种应用的融合策略
本文探讨了 NLLB 翻译模型与 ChatGPT 在小语种应用中的双向优化策略。 首先介绍了 NLLB-200 的背景、数据、分词器和模型，以及其与 LLM（Large Language Model）的异同和协同关系。 接着列举了实战与应用的案例，包括使用 ChatGPT 生成的样本微调 NLLB-200 和使用 NLLB-200 的翻译结果作为 LLM 的 prompt 等。
字节跳动豆包UltraMem架构将大模型推理成本降低83%
字节跳动豆包大模型团队今日宣布，成功研发出全新稀疏模型架构UltraMem，该架构有效解决了MoE（混合专家）模型推理时的高额访存问题，推理速度较MoE提升2-6倍，推理成本最高可降低83%。 这一突破性进展为大模型的高效推理开辟了新路径。 UltraMem架构在保证模型效果的前提下，成功解决了MoE架构推理时的访存瓶颈。
豆包提出全新稀疏模型架构 UltraMem，推理成本较 MoE 最高可降 83%
实验结果表明，训练规模达 2000 万 value 的 UltraMem 模型，在同等计算资源下，可同时实现业界领先的推理速度和模型性能，为构建数十亿规模 value 或 expert 开辟了新路径。
4090单卡跑满血版DeepSeek-R1，清华团队开源项目再破大模型推理门槛
DeepSeek-R1火遍海内外，但推理服务器频频宕机，专享版按GPU小时计费的天价成本更让中小团队望而却步。 而市面上所谓“本地部署”方案，多为参数量缩水90%的蒸馏版，背后原因是671B参数的MoE架构对显存要求极高——即便用8卡A100也难以负荷。 因此，想在本地小规模硬件上跑真正的DeepSeek-R1，被认为基本不可能。
全球开源大模型榜单揭晓，阿里通义千问独占鳌头
近日，全球最大人工智能开源社区 Huggingface 发布了最新的开源大模型排行榜（Open LLM Leaderboard），结果显示，排名前十的开源大模型全都是基于阿里通义千问(Qwen)开源模型进行二次训练的衍生模型。 这一成就标志着 Qwen 在开源 AI 领域的主导地位，进一步推动了其在全球的影响力。 Open LLM Leaderboard 被广泛认为是当前最权威的开源大模型榜单，测试维度涵盖了多个领域，包括阅读理解、逻辑推理、数学计算及事实问答等。
从 DeepSeek 看25年前端的一个小趋势
从 DeepSeek 看25年前端的一个小趋势大家好，我卡颂。 最近DeepSeek R1爆火。 有多火呢？
DeepSeek R1 震撼登场：从介绍到使用
春节期间，DeepSeek 掀起了一股热潮，成为了科技领域的热门话题。 身边很多非圈内人士茶余饭后也在讨论 DeepSeek，足以见得其火爆程度。 介绍DeepSeek 全称：杭州深度求索人工智能基础技术研究有限公司，成立于 2023 年 7 月 17 日。
1分钟学会DeepSeek本地部署，小白也能搞定！
DeepSeek 是国内顶尖 AI 团队「深度求索」开发的多模态大模型，具备数学推理、代码生成等深度能力，堪称"AI界的六边形战士"。 DeepSeek 身上的标签有很多，其中最具代表性的标签有以下两个：低成本（不挑硬件、开源）高性能（推理能力极强、回答准确）一、为什么要部署本地DeepSeek？ 相信大家在使用 DeepSeek 时都会遇到这样的问题：图片这是由于 DeepSeek 大火之后访问量比较大，再加上漂亮国大规模、持续的恶意攻击，导致 DeepSeek 的服务器很不稳定。
为什么中国只有一个 DeepSeek？
DeepSeek 风暴后，中国的大模型创业圈会发生什么样的变化？ 近日来，笔者也与多位业内人士进行了探讨，发现国产大模型圈目前出现了两个极端：一个是极端的热血沸腾，另一个则是极端的霜打茄子。 前者以积极拥抱 DeepSeek 生态的算力厂商与模型服务厂商、以及原先没有能力参与大模型“军备竞赛”的开源受益者为代表，后者则以其他中国大模型创业公司（俗称“大模型六小虎”）与过去两年投资了这些公司的 VC 们为主，形成了一个“冰火两重天”的局面。
OpenAI公开了大模型o3-mini的推理思维链
2月8日消息，据外媒报道，OpenAI更新了o3-mini AI模型的“思维链”功能，让用户可以看到模型的思考过程。 这是在DeepSeek-R1发布之后发生的，DeepSeek-R1是一个竞争对手的推理模型，也显示了其反应背后的思维过程。 推理模型旨在逐步分解其决策过程，因此需要更长的时间来生成响应。
腾讯云上线DeepSeek全系API接口并打通联网搜索
腾讯云宣布完成对深度求索（DeepSeek）大模型的深度整合——正式上线DeepSeek-R1和V3原版模型的API接口，并创新性接入自研大模型知识引擎，同步开放联网搜索能力。 凭借腾讯云在推理并发和生成速率等方面的优化，用户可以获得更加稳定、安全、低门槛的使用体验。 开发者只需在云上简单三步即可实现API接口调用，并通过大模型知识引擎提供的文档解析、拆分、embedding、多轮改写等能力，灵活构建专属的AI服务。
o3-mini数学推理暴打DeepSeek-R1？AIME 2025初赛曝数据集污染大瓜
大语言模型，到底是学会了解决数学问题，还是只是背下了答案？ LLM的「Generalize VS Memorize」之争，迎来最新进展。 苏黎世联邦理工的研究员Mislav Balunović，在X上公布了一众顶级AI推理模型在AIME 2025 I比赛中的结果。
从 DeepSeek 火热，到李飞飞团队新成果，“幕后高手”竟是它
最近 AI 大模型领域可以说是热点话题不断，DeepSeek 的热潮还未消退，国内李飞飞团队提出的一种模型训练新方法又在行业里引发热议
国产大模型DeepSeek爆火，崛起背后大模型专利申请激增
近日，国产大模型DeepSeek爆火全网，凭借“低成本、高性能”的技术优势，其成为全球科技市场关注的焦点。 创始人梁文锋介绍，团队主要由国内高校毕业生和没毕业的博士生组成。 过硬的创新成果表明，今天的中国，正在成为顶尖人才成长的沃土、原创性创新的策源地。
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
谷歌
DeepSeek
AI新词
AI绘画
大模型
机器人
数据
Midjourney
开源
Meta
微软
智能
用户
GPT
学习
英伟达
Gemini
智能体
技术
马斯克
Anthropic
图像
AI创作
训练
LLM
论文
AI for Science
代码
腾讯
苹果
算法
Agent
Claude
芯片
具身智能
Stable Diffusion
xAI
蛋白质
人形机器人
开发者
生成式
神经网络
机器学习
AI视频
3D
字节跳动
大语言模型
RAG
Sora
百度
研究
GPU
生成
华为
工具
AGI
计算
生成式AI
AI设计
大型语言模型
搜索
亚马逊
AI模型
视频生成
特斯拉
DeepMind
场景
Copilot
深度学习
Transformer
架构
MCP
编程
视觉