AI在线 AI在线

PyTorch

为什么要纯C语言手搓GPT-2，Karpathy回应网友质疑

为什么要纯C语言手搓GPT-2，Karpathy回应网友质疑
Karpathy：for fun.几天前，前特斯拉 Autopilot 负责人、OpenAI 科学家 Andrej Karpathy 发布了一个仅用 1000 行代码即可在 CPU/fp32 上实现 GPT-2 训练的项目「llm.c」。llm.c 旨在让大模型（LM）训练变得简单 —— 使用纯 C 语言 / CUDA，不需要 245MB 的 PyTorch 或 107MB 的 cPython。例如，训练 GPT-2（CPU、fp32）仅需要单个文件中的大约 1000 行干净代码（clean code），可以立即编
4/11/2024 3:18:00 PM
机器之心
不到1000行代码，PyTorch团队让Llama 7B提速10倍

不到1000行代码，PyTorch团队让Llama 7B提速10倍
PyTorch 团队亲自教你如何加速大模型推理。在过去的一年里，生成式 AI 发展迅猛，在这当中，文本生成一直是一个特别受欢迎的领域，很多开源项目如 llama.cpp、vLLM 、 MLC-LLM 等，为了取得更好的效果，都在进行不停的优化。作为机器学习社区中最受欢迎框架之一的 PyTorch，自然也是抓住了这一新的机遇，不断优化。为此让大家更好的了解这些创新，PyTorch 团队专门设置了系列博客，重点介绍如何使用纯原生 PyTorch 加速生成式 AI 模型。代码地址：，PyTorch 团队展示了仅使用纯原生
12/5/2023 2:35:00 PM
机器之心
PyTorch团队重写「分割一切」模型，比原始实现快8倍

PyTorch团队重写「分割一切」模型，比原始实现快8倍
我们该如何优化 Meta 的「分割一切」模型，PyTorch 团队撰写的这篇博客由浅入深的帮你解答。从年初到现在，生成式 AI 发展迅猛。但很多时候，我们又不得不面临一个难题：如何加快生成式 AI 的训练、推理等，尤其是在使用 PyTorch 的情况下。本文 PyTorch 团队的研究者为我们提供了一个解决方案。文章重点介绍了如何使用纯原生 PyTorch 加速生成式 AI 模型，此外，文章还介绍了 PyTorch 新功能，以及如何组合这些功能的实际示例。结果如何呢？PyTorch 团队表示，他们重写了 Meta
11/22/2023 2:52:00 PM
机器之心
Keras 3.0预览版迎来重大更新：适用于TensorFlow、JAX和PyTorch

Keras 3.0预览版迎来重大更新：适用于TensorFlow、JAX和PyTorch
Keras 出新库了，这次是 Keras Core，我们可以将其理解为 Keras 3.0 预览版，预计今年秋天正式发布。
7/12/2023 6:54:00 PM
机器之心
7nm制程，比GPU效率高，Meta发布第一代AI推理加速器

7nm制程，比GPU效率高，Meta发布第一代AI推理加速器
近日，Meta 透露了其在人工智能方面取得的最新进展。
5/22/2023 2:52:00 PM
机器之心
从零开始学好深度学习，短视频免费课程上线

从零开始学好深度学习，短视频免费课程上线
PyTorch Lightning 背后的初创公司推出了一套熟练掌握 PyTorch 的免费系列课程。
3/3/2023 2:22:00 PM
机器之心
和TensorFlow一样，英伟达CUDA的垄断格局将被打破？

和TensorFlow一样，英伟达CUDA的垄断格局将被打破？
CUDA 闭源库将和 TensorFlow 一样逐渐式微。
1/18/2023 9:24:00 PM
机器之心
PyTorch正式加入Linux基金会，Linux基金会多了一把「瑞士军刀」？

PyTorch正式加入Linux基金会，Linux基金会多了一把「瑞士军刀」？
加入 Linux 基金会后，PyTorch 不会有大的改变。
9/13/2022 2:31:00 PM
机器之心
用什么tricks能让模型训练得更快？先了解下这个问题的第一性原理

用什么tricks能让模型训练得更快？先了解下这个问题的第一性原理
深度学习是门玄学？也不完全是。
3/22/2022 2:26:00 PM
机器之心
终于可用可组合函数转换库！PyTorch 1.11发布，弥补JAX短板，支持Python 3.10

终于可用可组合函数转换库！PyTorch 1.11发布，弥补JAX短板，支持Python 3.10
PyTorch 1.11、TorchData 和 functorch 现已推出。
3/13/2022 12:56:00 PM
机器之心
免费、开源的PyTorch IDE来了！跨三大操作系统，还带视频教程

免费、开源的PyTorch IDE来了！跨三大操作系统，还带视频教程
经过数月的封闭测试后，TorchStudio 现在终于来了。
3/1/2022 3:19:00 PM
机器之心
有bug！PyTorch在AMD CPU的计算机上卡死了

有bug！PyTorch在AMD CPU的计算机上卡死了
AMD，No？PyTorch在AMD CPU的机器上出现死锁了。
3/30/2021 2:43:00 PM
机器之心
纯PyTorch语音工具包SpeechBrain开源，Kaldi：我压力有点大

纯PyTorch语音工具包SpeechBrain开源，Kaldi：我压力有点大
距离 Mirco Ravanelli 宣布打造新的语音工具包过去了一年多，SpeechBrain 真的如期而至。
3/16/2021 2:36:00 PM
机器之心