代码

从模型原理到代码实践，深入浅出上手 Transformer，叩开大模型世界的大门

作者 | Plus一、序言作为非算法同学，最近被Cursor、DeepSeek搞的有点焦虑，同时也非常好奇这里的原理，所以花了大量业余时间自学了Transformer并做了完整的工程实践。希望自己心得和理解可以帮到大家~如有错漏，欢迎指出~本文都会以用Transformer做中英翻译的具体实例进行阐述。二、从宏观逻辑看Transformer让我们先从宏观角度解释一下这个架构。

4/25/2025 9:00:00 AM

腾讯技术工程

几行代码，一窥上帝造物！帝国理工开源CAX，引爆人工生命新纪元

人工生命研究的新纪元！「人工生命」(artificial life，或简写为ALife)，旨在模拟生命的行为、特性和演化过程，理解生命的本质，涉及涌现现象、自组织系统或形态发生机制。人工生命（ALife）的研究中，蕴含着能够推动和加速AI进步的重要启发和灵感。

4/24/2025 9:03:00 AM

新智元

业内首次! 全面复现DeepSeek-R1-Zero数学代码能力，训练步数仅需其1/10

OpenAI 的 o1 系列和 DeepSeek-R1 的成功充分证明，大规模强化学习已成为一种极为有效的方法，能够激发大型语言模型（LLM) 的复杂推理行为并显著提升其能力。然而，这些推理模型的核心训练方法在其技术报告中仍然鲜有披露。近期社区的主要工作也仅局限于数学推理领域，使得跨领域泛化这一挑战依然未得到充分探索。

4/23/2025 3:23:25 PM

机器之心

清华特奖得主团队视频生成AI一夜刷屏！100%开源+61页技术报告，还能无限扩展生成，网友：游戏规则改变者

整整61页的技术报告中还详细介绍了创新的注意力改进和推理基础设施设计，给人一种视频版DeepSeek的感觉。图片Magi-1将视频生成卷到了新高度，大片级品质直接锁住大家的眼球，请看VCR：其主打能力，一是无限长度扩展，实现跨时间的无缝连贯叙事：图片二是能将生成时长控制精确到每一“秒”：图片另外，Magi-1对物理规律也有更深度的理解，Physics-IQ基准测试56.02%，大幅领先一众顶流。现在看这张图，Sora的时代是真的过去了。

4/22/2025 3:29:05 PM

实测o3/o4-mini：3分钟解决欧拉问题，OpenAI最强模型名副其实！

号称“OpenAI迄今为止最强模型”，o3/o4-mini真实能力究竟如何？就在发布后的几小时内，网友们的第一波实测已新鲜出炉。最强推理模型o3，即使遇上首位全职提示词工程师Riley Goodside的“刻意刁难”，也顺利过关：图片可以看到，面对藏在一堆玩具里的手绘图表，它也能通过图像识别和推理能力正确解答。

4/18/2025 11:18:51 AM

量子位

从思考到行动：大模型自主工具调用能力的深度实现

本项目由复旦大学知识工场实验室肖仰华教授、梁家卿青年副研究员领导，博士生韩槿一，硕士生李廷云、熊程元、姜子上、王昕奕等同学共同参与完成。 GPT - 4o、Deepseek - R1 等高级模型已展现出令人惊叹的「深度思考」能力：理解上下文关联、拆解多步骤问题、甚至通过思维链（Chain - of - Thought）进行自我验证、自我反思等推理过程。但是，多数主流模型仍在基础问题上犯错，复杂四则运算计算失误，简单「两个小数比大小」出错、甚至连数清楚 strawberry 里有几个「r」都能翻车……即使提示像 R1 这样具备深度思考能力的大模型也要消耗大量的 token 才能勉强答对。

4/17/2025 10:43:00 AM

机器之心

OpenAI开源超火Agent，五小时破5000颗星，霸榜Github

在今天凌晨1点的产品发布中，OpenAI还开源了一个终端轻量级代码Agent智能体——Codex CLI。从凌晨到现在只用了5小时左右，Codex CLI直接破5000星霸榜Github，估计今天能破1万颗星，将成为一款明星级Agent。 OpenAI联合创始人兼总裁Greg Brockman表示，Codex CLI只是第一款代码工具，未来还将继续开源Agent产品。

4/17/2025 9:58:32 AM

AIGC开放社区

官方回应！微软旗下GitHub“崩了”系配置变更导致的意外，并非屏蔽中国IP！现已恢复

上周末，一些网友发现微软旗下的代码托管平台 GitHub无法访问，疑似屏蔽了中国IP！这一消息立即在多个平台被热议，有人联想到最近微软旗下的微创公司刚刚停止了中国区运营，表示“微软最近动作不断”。还好，官方已经进行回应，表示暂时的封锁访问是由一项配置更改带来的意外。

4/14/2025 12:06:48 PM

AI席卷校园：百万条对话揭秘，Claude是代码救星还是作弊工具？

如今，AI不再只是专业的研究工具，它已成为大学生日常学习的好帮手。随着AI越来越深入地融入教育环境，需要思考一系列关于学习、评估和技能培养的重要问题。目前，大多数相关讨论都基于调查和对照实验，却缺乏学生在真实学习场景中自然融入AI的直接证据。

4/14/2025 9:22:00 AM

新智元

首个AI科学家发论文进ICLR！得分6/7/6，从选题到实验全程零人工，连GitHub代码库都是AI写的

嚯！完全由AI生成的论文，通过顶会ICLR评审？！

4/9/2025 9:12:28 AM

量子位

Llama 4发布36小时差评如潮！匿名员工爆料拒绝署名技术报告

Meta最新基础模型Llama 4发布36小时后，评论区居然是这个画风：失望，非常失望不知道他们后训练怎么搞的，总之不太行在[各种测试]2中失败……还被做成表情包调侃，总结起来就是一个“差评如潮”。具体来看，大家的抱怨主要集中在代码能力。最直观的要数经典“氛围编程”小球反弹测试，小球直接穿过墙壁掉下去了。

4/8/2025 3:44:00 AM

LIama 4发布重夺开源第一！DeepSeek同等代码能力但参数减一半，一张H100就能跑，还有两万亿参数超大杯

AI不过周末，硅谷也是如此。大周日的，Llama家族上新，一群LIama 4就这么突然发布了。这是Meta首个基于MoE架构模型系列，目前共有三个款：Llama 4 Scout、Llama 4 Maverick、Llama 4 Behemoth。

4/7/2025 9:05:00 AM

量子位

DeepSeek再度升级，厉害了！

当代的程序员，避免不了各种AI工具打交道，可以说，这些AI工具早已成为我们生活和工作的一部分。从之前的ChatGpt，到今年年初开源的DeepSeek爆火，国产新锐 DeepSeek 犹如一匹黑马，将中国的 AI 技术从“追赶者”转变为“引领者”。现在各个大厂也都纷纷部署了DeepSeek，我也把重心从国外的产品转向了国内 AI。

4/3/2025 1:25:00 AM

刘欣