AI在线 AI在线

AI模型

一文看懂推理并行的定义及其工作原理

一文看懂推理并行的定义及其工作原理

译者 | 布加迪审校 | 重楼近年来，我们见证了两个反复出现的趋势：发布的GPU功能越来越强大，以及拥有数十亿、乃至数万亿个参数和加长型上下文窗口的大语言模型（LLM）层出不穷。 许多企业正在利用这些LLM，或进行微调，或使用RAG构建具有特定领域知识的应用程序，并将其部署在专用GPU服务器上。 现在说到在GPU上部署这些模型，需要注意的一点是模型大小，即相比GPU上的可用内存，将模型加载到GPU内存中所需的空间（用于存储参数和上下文token）实在太大了。
1/9/2025 11:14:14 AM 布加迪
微软发布2025年六大AI预测：AI模型将变得更加强大和有用

微软发布2025年六大AI预测：AI模型将变得更加强大和有用

微软在2025年对人工智能(AI)的未来做出了六项重要预测，包括AI模型将变得更加强大和有用、AI . Agents将彻底改变工作方式、AI伴侣将支持日常生活、AI资源的利用将更高效、测试与定制是开发AI的关键、AI将加速科学研究突破。 以下是微软的预测及其潜在影响的详细解读：一、AI模型将变得更加强大和有用推理效率和功能提升：过去一年中，AI模型在推理效率和功能方面取得了显著进步。
1/6/2025 12:59:52 PM 极客AI
如何在安卓手机上本地安装和运行LLM?

如何在安卓手机上本地安装和运行LLM?

译者 | 布加迪审校 | 重楼了解如何将AI的力量径直带入到你的安卓手机上：没有云，没有互联网，只有纯粹的设备端智能！ 在安卓手机上本地运行大语言模型（LLM）意味着你可以在不依赖云服务器或互联网连接的情况下访问人工智能（AI）模型。 这种本地环境通过确保数据安全、并在设备端来确保隐私。
12/12/2024 8:26:50 AM 布加迪
你永远不应该外包给AI模型的一件事

你永远不应该外包给AI模型的一件事

在这个效率至上、颠覆性创新能一夜之间创造出亿万美元市场的世界里，企业不可避免地将GenAI视为强大的盟友。 从OpenAI的ChatGPT生成类似人类的文本，到DALL-E根据提示创作艺术，我们已经窥见了一个未来：机器将与人类并肩创造，甚至引领潮流。 为何不将这种趋势延伸到研发(R&D)领域呢?毕竟，AI可以加速创意生成，迭代速度超过人类研究人员，并且可能以惊人的轻松发现“下一个大事件”，对吗?且慢，理论上这一切听起来都很美好，但让我们面对现实：押注GenAI接管你的研发工作，很可能会以重大、甚至灾难性的方式适得其反。
12/10/2024 8:34:28 AM Ashish Pawar
AWS宣布新应用市场Amazon Bedrock上线100多个AI模型

AWS宣布新应用市场Amazon Bedrock上线100多个AI模型

AWS正在通过Amazon Bedrock服务向AI应用开发人员提供更多的大型语言模型，同时增强该平台的优化推理工作负载和为他们提供所需数据的能力。 AWS在年度盛会AWS re:Invent上发布的最新公告中包括了推出新的Amazon Bedrock Marketplace，这个主要门户将让开发人员可以访问100多个最强大的大型语言模型，其中包括一些只能在那里找到的大型语言模型。 Amazon .
12/5/2024 11:01:05 AM
微软或窃取你的Word、Excel文件以训练人工智能模型？

微软或窃取你的Word、Excel文件以训练人工智能模型？

微软在其生产力套件中的Connected Experiences选项已经引起了人们的恐慌，有人指责默认设置可能会允许微软使用客户的Word和Excel文档及其他数据来训练AI模型。 微软否认窃取个人文件的相关说法Windows相关方面强烈否认这些说法。 一位发言人告诉The Register 杂志：“在 Microsoft 365的消费者和商业应用程序中，微软不会在未经用户许可的情况下使用用户数据来训练大型语言模型。
11/28/2024 3:05:02 PM bug胤
神级模型 In-Context LoRA 爆火！10种场景精准出图！

神级模型 In-Context LoRA 爆火！10种场景精准出图！

大家好，我是花生~. 阿里通义实验室在月初推出的一个新开源项目 In-Context(上下文) LoRA 最近越来越火了，因为大家发现它实在太好用了，无论是保持人物/场景一致性，还是进行服装、风格、Logo、字体样式、页面版式的学习迁移，效果都非常不错，一下就解决了很多大家之前头疼的问题。 目前 In-Context LoRA 已经在摄影、电商设计、样机制作、头像生成等方面有了落地应用，极大满足了大家对精准控制出图的需求，那今天我们就一起来看看 In-Context LoRA （以下简称 IC LoRA）究竟有哪些神奇之处。
11/21/2024 1:39:32 AM 夏花生
Niantic 宣布将根据《宝可梦 Go》玩家数据构建“大型地理空间模型”

Niantic 宣布将根据《宝可梦 Go》玩家数据构建“大型地理空间模型”

该公司表示，空间智能是人工智能模型的下一个前沿领域。这种 AI 模型可以使计算机和机器人以新的方式理解和与世界互动。
11/20/2024 9:36:02 AM 问舟
月薪10K+的AI训练师，工作内容是什么？

月薪10K+的AI训练师，工作内容是什么？

爆肝2W字！ 用奶奶都能看懂的文字带你了解AIGC的前世今生大家好，我是言川。 阅读文章 .
11/15/2024 12:02:53 AM 小普
优设专访忠忠：从设计师到SD模型训练师的跨界之路

优设专访忠忠：从设计师到SD模型训练师的跨界之路

7/4/2024 7:53:12 AM 优设专栏主编
万字干货！Stable Diffusion基础入门+案例实操+参数讲解+工具模型

万字干货！Stable Diffusion基础入门+案例实操+参数讲解+工具模型

相关阅读推荐：
3/29/2024 8:16:01 AM 大摸鱼家_Xr
AI一键生成3D模型！这 5 款免费神器不容错过！

AI一键生成3D模型！这 5 款免费神器不容错过！

大家好我是花生~ 之前为大家推荐过的 AI 3D 模型生成工具 Genie 在前几天推出了新的 1.0 版本， 今天为大家介绍一下此次更新的特点，再为大家推荐另外 4 款同类的 AI 3D 工具，可以帮助我们通过文本或图像快速生成完整的 3D 模型。 相关推荐：一、Genie 网址直达： Genie 是 Luma AI 推出的一个文本到 3D 的生成模型，可以在 10 秒生成 4 款 3D 模型，自动精修后质感非常逼真，目前支持免费使用。 此次的 1.0 版本更新后将生成功能由 Discord 转到了单独的网页，
1/12/2024 1:41:56 AM 夏花生
全面超越GPT-4？一文详解Google新模型Gemini

全面超越GPT-4？一文详解Google新模型Gemini

大家好我是花生~ 最近 Google 发布了一个新的多模态大模型 Gemini，在 AI 模型领域掀起了一轮新的讨论热潮，风头一时间甚至盖过了 GPT-4。那么 Gemini 的具体功能有哪些，相比其他大模型又有何特点呢？今天我们就一起来看看。 了解 GPT-4：一、 Gemini 的功能 Google 称 Gemini 是其历史上最强大、最通用的模型，在许多基准测试中都具有最先进的性能。Google DeepMind 的 CEO Demis Hassabis 称 Gemini 可以像人类一样理解我们周围的世界，并
12/12/2023 7:00:22 AM 夏花生