AI在线 AI在线

DeepSeek揭秘:AI推理系统背后的545%惊人利润率

DeepSeek在知乎开设官方账号,发布了《DeepSeek-V3/R1推理系统概览》技术文章,首次详细披露其模型推理系统的优化细节和成本利润率信息,标志着备受关注的"DeepSeek开源周"正式结束。 文章介绍了DeepSeek-V3/R1推理系统的两大优化目标:"更大的吞吐,更低的延迟"。 为实现这些目标,DeepSeek采用了大规模跨节点专家并行(EP)技术,尽管这增加了系统复杂性。

DeepSeek在知乎开设官方账号,发布了《DeepSeek-V3/R1推理系统概览》技术文章,首次详细披露其模型推理系统的优化细节和成本利润率信息,标志着备受关注的"DeepSeek开源周"正式结束。

DeepSeek

文章介绍了DeepSeek-V3/R1推理系统的两大优化目标:"更大的吞吐,更低的延迟"。为实现这些目标,DeepSeek采用了大规模跨节点专家并行(EP)技术,尽管这增加了系统复杂性。文章重点阐述了如何利用EP技术增加批量大小、隐藏传输耗时以及实现负载均衡。

特别值得注意的是,DeepSeek罕见地公开了其成本和利润率数据。文章披露:"假定GPU租赁成本为2美金/小时,总成本为$87,072/天。如果所有tokens全部按照DeepSeek R1的定价计算,理论上一天的总收入为$562,027,成本利润率545%。"

相关资讯

OpenAI首席研究官:DeepSeek独立发现了o1的一些核心思路,奥特曼、LeCun纷纷置评

成本打下来了,需求更多才对? 春节这几天,国内外 AI 圈都被 DeepSeek 刷了屏。 英伟达的股市震荡更是让全世界看得目瞪口呆(参见《英伟达市值蒸发近 6000 亿美元,而 DeepSeek 刚刚又开源新模型》)。
1/29/2025 6:43:00 PM
机器之心

警方将公布卖淫嫖娼人员名单?AI 编的

据公安部网安局消息,安徽蚌埠李某于今年 3 月底偶然在网上发现一条“生财之道”,即在某 App 上发布文章,动动手指,就可赚取金额可观的“零花钱”,遂利用已经熟识的各类 AI 软件,输入所需信息主题自动生成文章,依托该渠道,李某仅用一周时间便发布了 300 多篇。然而,AI 生成文章的真实性是个大问题,几乎所有信息李某均未对其甄别就直接发布,导致其中掺杂的谣言内容开始在网上传播。李某发布的一篇题为“蚌埠警方严打卖淫嫖娼,公布逮捕名单彰显法制决心”的文章惹了事。文章称蚌埠警方将公布大量所谓卖淫嫖娼违法人员资料,误导读
4/18/2024 1:26:39 PM
汪淼

根据词语使用模式进行判断,日立开发可识别文章是否由 AI 创作的技术

据《日经》今天报道,日立制作所开发出了能够判断文章是否由生成式 AI 创作的技术。该技术根据文章中的词语使用模式进行“是否由 AI 创作”的判断,未来不仅可以防止传播由生成式 AI 制造的错误信息,还可以帮助企业和行政机关在撰写重要文件时规避侵犯著作权等风险。这项新开发的技术将嵌入 AI 开发企业的基于大语言模型的文章创作技术,文章创作模式会被定为“规则”—— 即使有多个同义词,仍使用特定词语。如果文章中大量使用基于规则的词语,则会判断文章是由 AI 创作。报道称,日立还开发出了结合多种词语选择规则的技术,从而能够
8/1/2024 8:07:18 AM
清源
  • 1