AI在线 AI在线

Meta 推出 CATransformers 框架,AI 减排新利器

Meta的FAIR团队与佐治亚理工学院研发的CATransformers框架,将碳排放作为核心设计考量,通过联合优化模型架构与硬件性能,显著降低总碳足迹,为可持续AI发展迈出重要一步。

科技媒体 marktechpost 昨日(5 月 14 日)发布博文,报道称 Meta AI 旗下 FAIR 团队携手佐治亚理工学院,合作开发 CATransformers 框架,将碳排放作为核心设计考量,通过联合优化模型架构与硬件性能,显著降低总碳足迹,为可持续 AI 发展迈出重要一步。

机器学习技术的普及推动了从推荐系统到自动驾驶的革新,但其环境代价不容小觑。这些系统需要强大计算资源,常依赖定制硬件加速器运行,训练和推理阶段的高能耗直接导致运营碳排放攀升。

此外,硬件从制造到报废的全生命周期也产生“隐含碳”,加剧生态负担。随着全球各行业加速采用 AI 技术,解决运营与隐含碳的双重来源成为迫切需求。

当前减排方法主要集中于提升运营效率,例如优化训练和推理的能耗,或提高硬件利用率。但这些方法往往忽略硬件设计和制造阶段的碳排放,未能整合模型设计与硬件效率的相互影响。

Meta 的 FAIR 团队与佐治亚理工学院联合推出的 CATransformers 框架,将碳排放纳入核心设计考量。该框架通过多目标贝叶斯优化引擎,联合评估模型架构与硬件加速器的性能,平衡延迟、能耗、精度和总碳足迹。

Meta 推出 CATransformers 框架,AI 减排新利器

特别针对边缘推理设备,CATransformers 通过剪枝大型 CLIP 模型生成变体,并结合硬件估算工具分析碳排放与性能。其成果 CarbonCLIP-S 与 TinyCLIP-39M 精度相当,但碳排放降低 17%,延迟控制在 15 毫秒内;CarbonCLIP-XS 则比 TinyCLIP-8M 精度提升 8%,碳排放减少 3%,延迟低于 10 毫秒。

Meta 推出 CATransformers 框架,AI 减排新利器

研究显示,单纯优化延迟的设计可能导致隐含碳增加高达 2.4 倍,而综合优化碳排放与延迟的策略可实现 19-20% 的总排放削减,且延迟损失极小。

Meta 推出 CATransformers 框架,AI 减排新利器

Meta 推出 CATransformers 框架,AI 减排新利器

CATransformers 通过嵌入环境指标,为可持续机器学习系统设计奠定基础。这表明,AI 开发若从一开始就结合硬件能力与碳影响考量,可实现性能与可持续性的双赢。随着 AI 规模持续扩大,该框架为行业提供了切实可行的减排路径。

AI在线附上参考地址

  • CATransformers

  • Carbon Aware Transformers Through Joint Model-Hardware Optimization

相关资讯

Meta Ray-Ban 智能眼镜隐私政策调整:AI 随时“看”,语音云端存

Meta更新Ray-Ban智能眼镜隐私政策,AI摄像头功能默认开启,语音录音强制云端存储一年。用户需手动关闭“Hey Meta”功能以禁用AI分析,物理按键仍可作普通相机使用。#智能眼镜隐私# #MetaAI升级#
4/30/2025 11:24:30 PM
远洋

Meta AI 全球市场扩张,并上线网页版 meta.ai

Meta 公司近日宣布 Llama 3 大语言模型之外,扩展 Meta AI 服务到美国之外的 13 个国家和地区,还宣布上线专门的聊天网站:meta.ai。Meta 公司在新闻稿中表示开始在全球市场扩展 Meta AI,在澳大利亚、加拿大、南非和新加坡等国家和地区推出英语版本。IT之家附上 Meta AI 扩展的国家和地区如下澳大利亚加拿大加纳牙买加马拉维新西兰尼日利亚巴基斯坦新加坡南非乌干达赞比亚津巴布韦Meta AI 整合了 Llama 3 大语言模型,速度更快、智能性更高、功能更强,是执行各种任务的理想选择
4/19/2024 9:15:51 AM
故渊

Meta AI 应用新增隐私警告:避免分享个人或敏感信息

Meta更新AI应用,为“发布到信息流”按钮新增免责声明,提醒避免分享敏感信息。此前该应用信息流存在过度分享隐私问题遭批评。更新后分享有警告,信息流仅展示AI生成内容,变化情况未知。#MetaAI#
6/17/2025 9:08:13 AM
远洋
  • 1