AI在线 AI在线

LazyLLM

几乎零代码！像搭乐高一样做AI应用，LazyLLM真的有点东西啊！

几乎零代码！像搭乐高一样做AI应用，LazyLLM真的有点东西啊！

每次写完一段得意的 Python 代码，你是不是也幻想着在客户或老板面前来一场完美的产品 demo？ 但现实往往是，要么在 Jupyter Notebook 里翻来覆去地展示 cell，要么在命令行里敲一堆指令，显得有点……不够高级，对吧？ 我最开始也这么想，于是脑子里冒出了一堆计划：要不学学 Streamlit 或 Gradio，搭个漂亮的前端页面？
5/8/2025 4:44:54 PM 南七无名式
商汤科技推出LazyLLM平台：10行代码打造复杂AI应用

商汤科技推出LazyLLM平台：10行代码打造复杂AI应用

在2025全球开发者先锋大会上，商汤科技宣布推出开源低代码平台 LazyLLM，旨在降低 AI 应用开发的门槛。 开发者们现在只需约10行代码，就能轻松构建复杂的多 Agent 大模型应用。 LazyLLM 不仅能帮助用户快速开发 AI 应用，还能通过简单的操作让开发过程变得轻松愉快，犹如搭积木一般。
2/26/2025 5:47:00 PM AI在线
苹果让大模型学会偷懒：更快吐出第一个token，准确度还保住了

苹果让大模型学会偷懒：更快吐出第一个token，准确度还保住了

偷懒才能更好地工作。Llama 3.1 刚刚发布，你是否已经尝试了呢？就算你的个人计算机是最近的顶尖配置，运行其中最小的 8B 版本可能也依然会有明显延迟。为了提升模型的推理效率，研究者想出了多种多样的方法，但其中很多都会让模型牺牲一些准确度。近日，苹果和 Meta AI 的一个研究团队提出了一种新方法，可在保证准确度不明显下降的同时，将 Llama 2 预填充阶段的推理速度提升到原来的 2 倍以上，这或许能为 Llama 3.1 的加速提供一些启发。他们把这种方法称为 LazyLLM，即懒惰大型语言模型。论文标题
8/2/2024 2:40:00 PM 机器之心