AI在线 AI在线

MLX-LM与Hugging Face实现无缝集成,助力Apple Silicon设备高效运行大语言模型

近日,MLX-LM现已直接集成到Hugging Face平台。 这一里程碑式的更新为Apple Silicon设备(包括M1、M2、M3和M4芯片)用户提供了前所未有的便利,使其能够以最高速度在本地运行超过4400种大型语言模型(LLM),无需依赖云服务或等待模型转换。 这一集成进一步推动了本地化AI开发的普及,为开发者和研究人员提供了更高效、灵活的工具。

近日,MLX-LM现已直接集成到Hugging Face平台。这一里程碑式的更新为Apple Silicon设备(包括M1、M2、M3和M4芯片)用户提供了前所未有的便利,使其能够以最高速度在本地运行超过4400种大型语言模型(LLM),无需依赖云服务或等待模型转换。

QQ20250520-092128.png

这一集成进一步推动了本地化AI开发的普及,为开发者和研究人员提供了更高效、灵活的工具。

MLX-LM与Hugging Face的深度融合MLX是Apple机器学习研究团队开发的一个专为Apple Silicon优化的机器学习框架,旨在充分利用M系列芯片的神经引擎(ANE)和Metal GPU的强大性能。

MLX-LM作为其子包,专注于大语言模型的训练与推理,近年来因其高效性和易用性受到广泛关注。通过与Hugging Face的集成,MLX-LM现可直接从Hugging Face Hub加载模型,无需额外的转换步骤,极大地简化了工作流程。

地址:https://huggingface.co/models?library=mlx

相关资讯

苹果为自家芯片打造开源框架MLX,实现Llama 7B并在M2 Ultra上运行

苹果的这个新框架 MLX 不仅拥有 PyTorch 风格的 API,还为开发者提供了很多经典示例(比如 Llama、LoRa、Stable Diffusion 和 Whisper)。2020 年 11 月,苹果推出 M1 芯片,其速度之快、功能之强大一时令人惊艳。2022 年苹果又推出了 M2,今年 10 月,M3 芯片正式登场。苹果在发布芯片的同时,也非常注重在其芯片上训练和部署 AI 模型的能力。苹果推出的 ML Compute 可用于在 Mac 上进行 TensorFlow 模型的训练。PyTorch 则支持
12/7/2023 12:02:00 PM
机器之心

Hugging Face 推出号称“世界上最小的视觉语言模型”SmolVLM-256M

Hugging Face 上周发布了两款全新多模态模型 SmolVLM-256M 和 SmolVLM-500M,其中 SmolVLM-256M 号称是世界上最小的视觉语言模型(Video Language Model)。
1/26/2025 8:15:50 PM
漾仔

开源22万条DeepSeek R1的高质量数据!你也能复现DeepSeek了

DeepSeek 在海内外搅起的惊涛巨浪,余波仍在汹涌。 当中国大模型撕开硅谷的防线之后,在预设中总是落后半拍的中国 AI 军团,这次竟完成了一次反向技术输出,引发了全球范围内复现 DeepSeek 的热潮。 DeepSeek-R1 虽然开源,但也没有完全开源,训练数据、训练脚本等关键信息并未完全公布。
2/11/2025 2:38:00 PM
机器之心
  • 1