AI在线 AI在线

LazyLLM

几乎零代码!像搭乐高一样做AI应用,LazyLLM真的有点东西啊!

每次写完一段得意的 Python 代码,你是不是也幻想着在客户或老板面前来一场完美的产品 demo? 但现实往往是,要么在 Jupyter Notebook 里翻来覆去地展示 cell,要么在命令行里敲一堆指令,显得有点……不够高级,对吧? 我最开始也这么想,于是脑子里冒出了一堆计划:要不学学 Streamlit 或 Gradio,搭个漂亮的前端页面?
5/8/2025 4:44:54 PM
南七无名式

商汤科技推出LazyLLM平台:10行代码打造复杂AI应用

在2025全球开发者先锋大会上,商汤科技宣布推出开源低代码平台 LazyLLM,旨在降低 AI 应用开发的门槛。 开发者们现在只需约10行代码,就能轻松构建复杂的多 Agent 大模型应用。 LazyLLM 不仅能帮助用户快速开发 AI 应用,还能通过简单的操作让开发过程变得轻松愉快,犹如搭积木一般。
2/26/2025 5:47:00 PM
AI在线

苹果让大模型学会偷懒:更快吐出第一个token,准确度还保住了

偷懒才能更好地工作。Llama 3.1 刚刚发布,你是否已经尝试了呢?就算你的个人计算机是最近的顶尖配置,运行其中最小的 8B 版本可能也依然会有明显延迟。为了提升模型的推理效率,研究者想出了多种多样的方法,但其中很多都会让模型牺牲一些准确度。近日,苹果和 Meta AI 的一个研究团队提出了一种新方法,可在保证准确度不明显下降的同时,将 Llama 2 预填充阶段的推理速度提升到原来的 2 倍以上,这或许能为 Llama 3.1 的加速提供一些启发。他们把这种方法称为 LazyLLM,即懒惰大型语言模型。论文标题
8/2/2024 2:40:00 PM
机器之心
  • 1