AI在线 AI在线

IBM Granite 3.0 企业 AI 模型宣布适配亚马逊最新 Trainium 2 芯片,同步上架 AWS 平台

作为下周举行的亚马逊 AWS re:Invent 技术大会预热,亚马逊 AWS 现宣布与 IBM 进一步深化 AI 领域合作,IBM 的大语言模型系列 Granite 3.0 将登陆 Amazon 云平台,同时还将支持亚马逊最新的 Trainium 2 芯片。

作为下周举行的亚马逊 AWS re:Invent 技术大会预热,亚马逊 AWS 现宣布与 IBM 进一步深化 AI 领域合作,IBM 的 Granite 3.0 企业 AI 模型将登陆 Amazon 云平台,同时还将进一步适配亚马逊最新的 Trainium 2 芯片。

IBM Granite 3.0 企业 AI 模型宣布适配亚马逊最新 Trainium 2 芯片,同步上架 AWS 平台

据介绍,亚马逊 Trainium 2 芯片专为训练 AI 模型而构建,拥有 65 exaflops 的计算能力,号称可以在极短的时间内训练基础模型和大语言模型。

而在云平台的整合协作方面,IBM 的 AI 模型生命周期管理工具 watsonx.governance 从 12 月开始将进一步整合亚马逊 SageMaker,届时用户可直接通过 watsonx.governance 管理界面操作 SageMaker,同时 SageMaker 模型注册库的信息也可共享至 watsonx,从而实现 AI 运作管理的透明化。

此外,IBM 的 Guardium AI Security 工具现已在亚马逊 AWS Marketplace 上架。这一工具专注于管理敏感 AI 数据和 AI 模型的安全风险,能够检测“影子 AI”(员工私自创建的 AI 模型),并可与 watsonx.governance 集成,确保 AI 安全性。

相关资讯

IBM 宣布开源其“最先进”Granite 代码模型:116 种编程语言训练,号称优于其他竞品

感谢IBM 在年度 THINK 大会上宣布,IBM 现已开源其“最先进”和高性能的 Granite(花岗岩)代码模型。IT之家附开源链接如下:GitHub:点此进入Hugging Face:点此进入Granite 代码模型的参数范围从 3B 到 34B,并且有基础模型和指令跟随模型两种变体,适用于复杂应用现代化、代码生成、修复错误、解释和记录代码、维护数据库等任务。这些代码模型在 116 种编程语言上进行训练,在各种代码相关任务中始终达到开源代码大模型 的“最先进”性能。▲ Granite-8B-Code 与其他类
5/21/2024 5:46:53 PM
沛霖(实习)

​IBM 推出小型AI模型 Granite 3.2 ,强调高效推理与实用性

IBM 最近发布了其最新的 Granite3.2大型语言模型,旨在为企业和开源社区提供 “小巧、高效、实用” 的企业人工智能解决方案。 该模型不仅具备多模态和推理能力,还提升了灵活性和成本效益,使得用户更容易采用。 Granite3.2引入了视觉语言模型(VLM),用于处理文档,进行数据分类和提取。
3/6/2025 10:52:00 AM
AI在线

小巧却强大!IBM发布新语言模型Granite 4.0 Tiny Preview:长上下文处理

IBM 发布了 Granite4.0Tiny Preview,这是即将推出的 Granite4.0系列语言模型中最小的一款的预览版本。 该模型不仅具备高效的计算能力,还为开源社区提供了一个值得关注的实验平台。 高效的性能与极小的内存需求 Granite4.0Tiny 在 FP8精度下,能够在消费级硬件上运行多个长上下文(128K)的并发任务,适用于市面上价格低于350美元的 GPU。
5/7/2025 6:00:54 PM
AI在线
  • 1