henry 发自 凹非寺
量子位 | 公众号 QbitAI
逆天，太逆天。
一老哥在《我的世界》上手搓了一个ChatGPT！
这你敢信？
这款手搓GPT不仅经过英语对话训练，有500万个参数，还能在像素世界里的小电脑上跟你对话。
而且手搓这么一个GPT竟然没用指令集，完全是用红石电路（0/1）和存储单元手搓出来的。
怎么说呢，这难度不亚于你在60年代用IBM的超级计算机打《王者荣耀》。
这一出整的，在《我的世界》上跑GPT居然比在本地跑还靠谱。
也难怪网友说宇宙是红石模拟出来的。
这是怎么一回事？
这一切的开始源自《我的世界》大神sammyuri与GPT的一次对话：
我能在《我的世界》造一个你吗？ 绝对可……
（GPT可能也没想到，这顺嘴一说，直接把自己送进了《我的世界》。）
总的来说，这500万参数的GPT虽小，但五脏俱全。
词嵌入、位置编码、归一化、矩阵乘法、多头注意力、KV cache、激活函数（ReLU）、层数x6、输出单元应有尽有。
在具体的数据上，模型一共有5087280（约500万）个参数，在Python中用TinyChat数据集进行训练。
嵌入维度为240，词汇量为1920个token，包含6层和5个注意力头。
上下文窗口大小为64个token，足够应对（非常）简短的对话。
当使用MCHPRS（Minecraft高性能红石服务器）将tick速率提升到约40000倍时，它大约可以在2小时内生成一个回复。
（就是不怎么快）
模型的大部分权重被量化到8位，不过嵌入层和LayerNorm的权重分别以18位和24位存储。
整个建造占据了1020×260×1656方块的体积，所以视频里有些地方会有些变形。
那，这是怎么做到呢？
据一位网友分享，大概的流程可能是这样的：
首先，在自己的电脑上训练一个小型GPT，把权重压缩到低精度（int8、int4，或者 0–15 的模拟值），并导出权重和网络结构（NumPy数组等）。
接下来，把这些计算方法翻译成像素积木语言，选择合适的红石编码方式。
然后，定义可复用的电路模块，比如MAC Tile（乘加模块）：输入激活值加权重→输出部分和。
之后，写一个“编译器”脚本，把训练好的模型映射到红石模块，安排好线路和时序。
最后，借助WorldEdit、Litematica、Amulet/MCEdit批量铺设，迅速完成整个搭建。
这样一来，聊天信息就能变成红石信号，时钟脉冲推动信号穿过电路，最后通过命令块、告示牌或灯光生成输出。
不过，也有网友表示，建造模型固然很难，但要是能在《我的世界》里训练模型可就真太牛了。
说到这，这就不得不提《我的世界》中最大的天才之举——红石电路了。
红石电路的基础，其实就是数字逻辑。
在游戏里，每个红石信号只有两种状态：通电（1）和不通电（0），对应现实中的二进制。
玩家可以利用这些信号构建各种逻辑门——如与门（AND）、或门（OR）、非门（NOT）——实现信号的组合和控制。
而逻辑门的组合，就能构成更复杂的电路：加法器、计数器，甚至可以搭建简单的CPU，实现二进制加减运算，甚至是自动化装置和小游戏。
这意味着，《我的世界》的玩家不仅在搭积木，更在进行一场微型的数字计算实验，从0/1的基础信号，一步步搭建出完整的运算系统。
而有了这些基础，什么手搓GPU、CPU、神经网络就只是时间问题了。
除了这次的手搓GPT以外，sammyuri以及其他网友其实还在《我的世界》里倒腾了不少东西——
堪称一整个《我的世界》计算机宇宙，比如：
在《我的世界》里造CNN，识别数字，重走LeCun的LeNet之路。
在《我的世界》中手搓能玩俄罗斯方块、贪吃蛇、四子棋、图形渲染……以及更多游戏的CPU。
在《我的世界》里套娃《我的世界》。
在《我的世界》里的搭建神经网络。
在《我的世界》造互联网。
甚至还专门有教程教你怎么用《我的世界》搓电脑。
就说还有啥不能造吧！
2025年，当GPT还不能玩《我的世界》时，《我的世界》已经能玩GPT了。
那么，《我的世界》的玩家们会在OpenAI前发明AGI吗？
参考链接 [1]https://x.com/tokenbender/status/1972381941933674596?s=46 [2]https://www.youtube.com/watch?v=FDiapbD0Xfg [3]https://www.youtube.com/@sammyuri
