AI模型
一文看懂推理并行的定义及其工作原理
译者 | 布加迪审校 | 重楼近年来,我们见证了两个反复出现的趋势:发布的GPU功能越来越强大,以及拥有数十亿、乃至数万亿个参数和加长型上下文窗口的大语言模型(LLM)层出不穷。 许多企业正在利用这些LLM,或进行微调,或使用RAG构建具有特定领域知识的应用程序,并将其部署在专用GPU服务器上。 现在说到在GPU上部署这些模型,需要注意的一点是模型大小,即相比GPU上的可用内存,将模型加载到GPU内存中所需的空间(用于存储参数和上下文token)实在太大了。
1/9/2025 11:14:14 AM
布加迪
微软发布2025年六大AI预测:AI模型将变得更加强大和有用
微软在2025年对人工智能(AI)的未来做出了六项重要预测,包括AI模型将变得更加强大和有用、AI . Agents将彻底改变工作方式、AI伴侣将支持日常生活、AI资源的利用将更高效、测试与定制是开发AI的关键、AI将加速科学研究突破。 以下是微软的预测及其潜在影响的详细解读:一、AI模型将变得更加强大和有用推理效率和功能提升:过去一年中,AI模型在推理效率和功能方面取得了显著进步。
1/6/2025 12:59:52 PM
极客AI
如何在安卓手机上本地安装和运行LLM?
译者 | 布加迪审校 | 重楼了解如何将AI的力量径直带入到你的安卓手机上:没有云,没有互联网,只有纯粹的设备端智能! 在安卓手机上本地运行大语言模型(LLM)意味着你可以在不依赖云服务器或互联网连接的情况下访问人工智能(AI)模型。 这种本地环境通过确保数据安全、并在设备端来确保隐私。
12/12/2024 8:26:50 AM
布加迪
你永远不应该外包给AI模型的一件事
在这个效率至上、颠覆性创新能一夜之间创造出亿万美元市场的世界里,企业不可避免地将GenAI视为强大的盟友。 从OpenAI的ChatGPT生成类似人类的文本,到DALL-E根据提示创作艺术,我们已经窥见了一个未来:机器将与人类并肩创造,甚至引领潮流。 为何不将这种趋势延伸到研发(R&D)领域呢?毕竟,AI可以加速创意生成,迭代速度超过人类研究人员,并且可能以惊人的轻松发现“下一个大事件”,对吗?且慢,理论上这一切听起来都很美好,但让我们面对现实:押注GenAI接管你的研发工作,很可能会以重大、甚至灾难性的方式适得其反。
12/10/2024 8:34:28 AM
Ashish Pawar
AWS宣布新应用市场Amazon Bedrock上线100多个AI模型
AWS正在通过Amazon Bedrock服务向AI应用开发人员提供更多的大型语言模型,同时增强该平台的优化推理工作负载和为他们提供所需数据的能力。 AWS在年度盛会AWS re:Invent上发布的最新公告中包括了推出新的Amazon Bedrock Marketplace,这个主要门户将让开发人员可以访问100多个最强大的大型语言模型,其中包括一些只能在那里找到的大型语言模型。 Amazon .
12/5/2024 11:01:05 AM
微软或窃取你的Word、Excel文件以训练人工智能模型?
微软在其生产力套件中的Connected Experiences选项已经引起了人们的恐慌,有人指责默认设置可能会允许微软使用客户的Word和Excel文档及其他数据来训练AI模型。 微软否认窃取个人文件的相关说法Windows相关方面强烈否认这些说法。 一位发言人告诉The Register 杂志:“在 Microsoft 365的消费者和商业应用程序中,微软不会在未经用户许可的情况下使用用户数据来训练大型语言模型。
11/28/2024 3:05:02 PM
bug胤
神级模型 In-Context LoRA 爆火!10种场景精准出图!
大家好,我是花生~. 阿里通义实验室在月初推出的一个新开源项目 In-Context(上下文) LoRA 最近越来越火了,因为大家发现它实在太好用了,无论是保持人物/场景一致性,还是进行服装、风格、Logo、字体样式、页面版式的学习迁移,效果都非常不错,一下就解决了很多大家之前头疼的问题。 目前 In-Context LoRA 已经在摄影、电商设计、样机制作、头像生成等方面有了落地应用,极大满足了大家对精准控制出图的需求,那今天我们就一起来看看 In-Context LoRA (以下简称 IC LoRA)究竟有哪些神奇之处。
11/21/2024 1:39:32 AM
夏花生
Niantic 宣布将根据《宝可梦 Go》玩家数据构建“大型地理空间模型”
该公司表示,空间智能是人工智能模型的下一个前沿领域。这种 AI 模型可以使计算机和机器人以新的方式理解和与世界互动。
11/20/2024 9:36:02 AM
问舟
AI一键生成3D模型!这 5 款免费神器不容错过!
大家好我是花生~
之前为大家推荐过的 AI 3D 模型生成工具 Genie 在前几天推出了新的 1.0 版本, 今天为大家介绍一下此次更新的特点,再为大家推荐另外 4 款同类的 AI 3D 工具,可以帮助我们通过文本或图像快速生成完整的 3D 模型。
相关推荐:一、Genie
网址直达:
Genie 是 Luma AI 推出的一个文本到 3D 的生成模型,可以在 10 秒生成 4 款 3D 模型,自动精修后质感非常逼真,目前支持免费使用。
此次的 1.0 版本更新后将生成功能由 Discord 转到了单独的网页,
1/12/2024 1:41:56 AM
夏花生
全面超越GPT-4?一文详解Google新模型Gemini
大家好我是花生~
最近 Google 发布了一个新的多模态大模型 Gemini,在 AI 模型领域掀起了一轮新的讨论热潮,风头一时间甚至盖过了 GPT-4。那么 Gemini 的具体功能有哪些,相比其他大模型又有何特点呢?今天我们就一起来看看。
了解 GPT-4:一、 Gemini 的功能
Google 称 Gemini 是其历史上最强大、最通用的模型,在许多基准测试中都具有最先进的性能。Google DeepMind 的 CEO Demis Hassabis 称 Gemini 可以像人类一样理解我们周围的世界,并
12/12/2023 7:00:22 AM
夏花生
资讯热榜
标签云
人工智能
OpenAI
AIGC
AI
ChatGPT
AI绘画
DeepSeek
模型
数据
机器人
谷歌
大模型
Midjourney
智能
用户
开源
学习
GPT
微软
Meta
图像
AI创作
技术
论文
Gemini
Stable Diffusion
马斯克
算法
蛋白质
芯片
代码
生成式
英伟达
腾讯
神经网络
研究
计算
Anthropic
3D
Sora
AI for Science
AI设计
机器学习
开发者
GPU
AI视频
华为
场景
人形机器人
预测
百度
苹果
伟达
Transformer
深度学习
xAI
Claude
模态
字节跳动
大语言模型
搜索
驾驶
具身智能
神器推荐
文本
Copilot
LLaMA
算力
安全
视觉
视频生成
训练
干货合集
应用
大型语言模型
亚马逊
科技
智能体
AGI
DeepMind