PhD

字节Seed 团队推出 PHD-Transformer，成功扩展预训练长度，解决 KV 缓存问题！

字节Seed 团队推出 PHD-Transformer，成功扩展预训练长度，解决 KV 缓存问题！

近日，字节跳动的 Seed 团队在人工智能领域再传佳音，推出了一种新型的 PHD-Transformer（Parallel Hidden Decoding Transformer），这项创新突破了预训练长度的限制，有效解决了推理过程中的 KV 缓存膨胀问题。随着大型推理模型的迅速发展，研究人员在后训练阶段尝试通过强化学习方法来生成更长的推理链，并在复杂的推理任务上取得了显著成果。受到启发，字节 Seed 团队决定探索在预训练阶段进行长度扩展的可能性。

4/28/2025 5:00:40 PM

AI在线

Seed校招博士自述：我为什么选择来字节做大模型

Seed校招博士自述：我为什么选择来字节做大模型

原文来自知乎博主张逸霄对“大家能分享一下当前博士就业的情况吗”的回答。人在英国，刚过答辩。今年拿了腾讯 AI Lab（青云计划）、字节跳动（Seed），国外有之前实习的 Sony Research 和 Yamaha 的 return offer，国外也有正在面试的 Adobe 和 Meta。

11/8/2024 10:55:00 AM

机器之心

新加坡国立大学金玥明组全奖博士生、博士后、科研助理招募

新加坡国立大学金玥明组全奖博士生、博士后、科研助理招募

新一年博士招生正式启动！本期我们将为大家介绍新加坡国立大学金玥明课题组招募博士生 / 博士后 / 科研助理的相关信息。

8/11/2022 8:28:00 AM

机器之心

论机器学习领域的内卷：不读PhD，我配不配找工作？

论机器学习领域的内卷：不读PhD，我配不配找工作？

机器学习内卷了吗？

3/31/2021 4:40:00 PM

机器之心

1

资讯热榜

全新开源的DeepSeek-OCR，可能是最近最惊喜的模型！ AI 模型“炒股”比拼!DeepSeek 收益超14%，Gemini2.5Pro 惨亏四成具身智能学界业界思想「惊人的统一」？美团在IROS开了个学术年会刚刚，ChatGPT终于可以走遍整个互联网了！OpenAI深夜炸街：原生ChatGPT集成、即时理解、主动执行，浏览器赛道鲨疯了告别抽卡！Vidu Q2多图参考生视频功能重磅上线最强OCR竟然不是DeepSeek、Paddle！HuggingFace新作：六大顶尖开源OCR模型横评！继DS后又杀出匹黑马！ OpenAI首款ChatGPT浏览器发布！现在就能免费下载使用通义千问再放大招！Qwen3-VL 家族新增 2B 与 32B 模型，开源矩阵全面升级

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek 谷歌 AI绘画机器人数据大模型 Midjourney 开源 Meta 智能微软用户 AI新词 GPT 学习技术智能体马斯克 Gemini 图像 Anthropic 英伟达 AI创作训练 LLM 论文代码算法芯片腾讯 AI for Science Stable Diffusion 苹果 Agent Claude 蛋白质开发者生成式神经网络 xAI 机器学习 3D 人形机器人研究 AI视频生成 RAG 大语言模型百度具身智能 Sora 工具 GPU 华为计算字节跳动 AI设计搜索大型语言模型 AGI 视频生成场景深度学习 DeepMind 架构视觉编程生成式AI 预测 Transformer AI模型伟达特斯拉 Copilot