陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

IPhone、iPad 均可体会。

前段时间,TVM、MXNET、XGBoost 作者,CMU 助理教授,OctoML CTO 陈天奇等多位研究者共同开发的一个项目引爆了 AI 界。

这个项目名叫 MLC-LLM,能让你「在任何设备上编译运转大言语模型」,包括移动端(例如 iPhone)、消费级电脑端(例如 Mac)和 Web 浏览器。运转效果如下:

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

MLC-LLM 推出不到两天,GitHub 的 Star 量就接近了一千。在社交网络上,人们纷纷点赞,表示 MLC-LLM「让我领教了低精度跑 AI 的可怕程度。」截至目前,该项目已经在 Github 上收获了 7.5k 的 star 量(具体信息参见:《陈天奇等人新作引爆 AI 界:手机原生跑大模型,算力不是问题了 》)。

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

刚刚,陈天奇又公布了一个好消息:MLC Chat app 已经在苹果的 App Store 上线了。

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

MLC Chat 是一款让你能够在 iPad 和 iPhone 上与绽放言语模型进行内陆谈天的利用,是 MLC LLM 项目的一部分。

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

MLC Chat 在将模型下载到利用程序后,一切都在内陆运转,无需服务器支持,并且不需要互联网连接,不会记录任何信息。

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

在得知这一消息后,机器之心下载了该利用进行体会。

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

关上 APP,可以看到,该利用已经预装了一个模型 ——RedPajama。

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

关上这个模型,我们就直接进入了谈天窗口,可以和 RedPajama 直接对话。

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

如果你对这个模型不满意,可以在首页通过输入 URL 添加新的模型。不过,这个下载新模型的过程可能会有点慢。

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

陈天奇官宣新APP,让手机原生跑大模型,利用商店直接下载使用

由于该利用刚刚上架,目前我们还没有看到来自其他用户的反馈。

不过,可以肯定的是,随着这类利用的出现和普及,大型言语模型的使用门槛将不断降低。过去,只有专业领域的研究人员和技术专家才能够有效地利用这些模型进行各种任务。然而,现在随着绽放源代码项目和开发工具的发展,越来越多的人可以轻松地使用这些模型。

如果你也对 MLC Chat 感兴趣,可以前往苹果的 APP Store 下载体会。

给TA打赏
共{{data.count}}人
人已打赏
AI

2022年ACM博士论文奖公布了

2023-6-5 14:51:00

AI

全球首创 :份子之心开源新AI算法,攻克卵白质侧链展望与序列计划难题

2023-6-5 15:13:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索