机器学习处理器

10倍英伟达GPU：大模型专用芯片一夜成名，来自谷歌TPU创业团队

能带来完全不同的大模型体验。我们知道，大模型到 GPT-3.5 这种千亿体量以后，训练和推理的算力就不是普通创业公司所能承担的了，人们用起来速度也会很慢。但自本周起，这种观念已成为历史。有名为 Groq 的初创公司开发出一种机器学习处理器，据称在大语言模型任务上彻底击败了 GPU—— 比英伟达的 GPU 快 10 倍，而成本仅为 GPU 的 10%，只需要十分之一的电力。这是在 Groq 上运行 Llama 2 的速度：来源： Groq（Llama 2）和

2/20/2024 2:54:00 PM

机器之心

资讯热榜

早鸟票倒计时3天｜第四届全国大模型智能生成大会（LMG 2025）全新开源的DeepSeek-OCR，可能是最近最惊喜的模型！美国女子使用ChatGPT生成号码购彩中奖10万美元：概率事件而非AI预测能力 AI 模型“炒股”比拼!DeepSeek 收益超14%，Gemini2.5Pro 惨亏四成 OpenAI 紧急暂停 Sora生成马丁・路德・金形象，AI 视频生成引发热议！ LLM的“记忆”与“推理”该分家了吗？一种全新的训练范式，彻底厘清思考流程 OpenAI首款ChatGPT浏览器发布！现在就能免费下载使用 AI智能体的未来要等十年？Karpathy直言目前的技术还很 “菜”！

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek 谷歌 AI绘画机器人数据大模型 Midjourney 开源 Meta 智能微软用户 AI新词 GPT 学习技术智能体马斯克 Gemini 图像 Anthropic 英伟达 AI创作训练 LLM 论文代码算法芯片腾讯 AI for Science Stable Diffusion 苹果 Agent Claude 蛋白质开发者生成式神经网络 xAI 机器学习 3D 人形机器人研究 AI视频生成大语言模型百度 RAG Sora 具身智能工具 GPU 华为计算字节跳动 AI设计搜索大型语言模型 AGI 视频生成场景深度学习 DeepMind 架构视觉预测 Transformer 编程生成式AI 伟达 AI模型特斯拉 Copilot