AI在线 AI在线

KTransformers

趋境开源框架 KTransformers 成主流大模型首选，Qwen、Kimi、智谱 AI 推荐，单卡跑万亿模型

趋境开源框架 KTransformers 成主流大模型首选，Qwen、Kimi、智谱 AI 推荐，单卡跑万亿模型
全球头部开源模型方的共同选择，印证了一款底层框架的硬实力。 趋境科技与清华共同开源的KTransformers，已成为Qwen、Kimi、智谱AI等多个主流大模型发布首日的推荐推理引擎，其工程实践与兼容性也被多家一体机产品线采纳，成为被开发者、厂商与开源社区广泛复用的共建式底层框架。 技术与生态双认可：成功入选 “计算机系统领域奥斯卡” SOSP 2025KTransformers 是一个高性能异构推理框架，专注于高效利用底层 GPU、CPU、内存等多样化算力，让大模型在更低算力、更灵活的硬件架构上高效运行。
11/20/2025 10:24:00 PM
郑佳美
清华大学开源项目突破大模型算力瓶颈：RTX 4090 单卡实现 DeepSeek-R1 满血运行

清华大学开源项目突破大模型算力瓶颈：RTX 4090 单卡实现 DeepSeek-R1 满血运行
一般用户要想在普通硬件上运行起真正的 DeepSeek-R1 满血版可以说很难很难，而租赁服务器的成本就算是开发者也倍感压力。
2/15/2025 6:03:59 PM
问舟