AI在线 AI在线

Meta

Meta宣布全新训推一体加速器：完全集成PyTorch 2，性能3倍提升

Meta宣布全新训推一体加速器：完全集成PyTorch 2，性能3倍提升
Meta 疯狂砸入数十亿美元，一部分招揽人才，一部分造芯片。Meta 正在不遗余力地想要在生成式 AI 领域赶上竞争对手，目标是投入数十亿美元用于 AI 研究。这些巨资一部分用于招募 AI 研究员。但更大的一部分用于开发硬件，特别是用于运行和训练 Meta AI 模型的芯片。在英特尔宣布其最新人工智能加速器硬件的第二天，Meta 便迅速公布了关于芯片研发的最新成果：下一代 MTIA（Meta Training and Inference Accelerator），其中 MTIA 是专为 Meta AI 工作负载而设
4/11/2024 3:10:00 PM
机器之心
Meta 发布新一代 AI 训练与推理芯片，性能为初代芯片三倍

Meta 发布新一代 AI 训练与推理芯片，性能为初代芯片三倍
Meta Platforms 当地时间 10 日发布了其训练与推理加速器项目（MTIA）的最新版本，MTIA 是 Meta 专门为 AI 工作负载设计的定制芯片系列。据介绍，此次发布的新一代 MTIA 与第一代 MTIA 相比，显著改进了性能，并有助于强化内容排名和推荐广告模型。其架构从根本上侧重于提供计算、内存带宽和内存容量的适当平衡。该芯片还可帮助提高训练效率，使推理（即实际推理任务）变得更容易。Meta 在其官方博客文章中表示，“实现我们对定制芯片的雄心壮志，意味着我们不仅要投资于计算芯片，还要投资于内存带宽
4/10/2024 11:30:30 PM
清源
对标 GPT-4，消息称 Meta 最快下周发布两款 Llama 3 模型

对标 GPT-4，消息称 Meta 最快下周发布两款 Llama 3 模型
感谢科技媒体 theinformation 近日发布博文，表示 Meta 公司将于下周预告两款 Llama 3 AI 模型，为今年夏季推出“完整形态” Llama 3 铺垫。Meta 公司本周二在伦敦举办的一场活动中，确认会在下个月之前发布 Llama 3 相关模型。IT之家翻译 Meta 公司全球事务总裁尼克・克莱格（Nick Clegg）采访内容如下：我希望下个月或者更短时间内，能够推出下一代 Llama 3。我们计划今年推出一系列具有不同功能、不同通用性的模型。Meta 首席产品官 Chris Cox 补充说
4/10/2024 10:20:29 AM
故渊
Instagram 短视频板块 Reels 测试 AI 同传功能，用户可用自己声音“说外语”

Instagram 短视频板块 Reels 测试 AI 同传功能，用户可用自己声音“说外语”
开发者 Alessandro Paluzzi 今日在 X（推特）上公布了自己的最新发现：Instagram 的短视频板块 Reels 正在测试“AI 语音配音”功能，带来类似“同声传译”的体验。其放出的截图显示，Instagram 的 Reel 页面上出现了“Instagram 将通过 AI 来使你的声音听起来就在说另一门语言一样”的字样。下方的详情内容大意如下：观众将听到您的音频以您选择的语言配音。对于您现在或将来发布的 Reels，您可以为部分或所有语言关闭此功能。翻译和配音准备就绪后，您将收到通知。人们可以看
4/9/2024 9:01:39 PM
清源
你的自拍和聊天记录，正被硅谷大厂砸数十亿美元疯抢

你的自拍和聊天记录，正被硅谷大厂砸数十亿美元疯抢
新智元报道  编辑：Aeneas 好困【新智元导读】2026 年的数据荒越来越近，硅谷大厂们已经为 AI 训练数据抢疯了！它们纷纷豪掷十数亿美元，希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过，如果有一天 AI 忽然吐出了我们的自拍照或者隐私聊天，该怎么办？谁能想到，我们多年前的聊天记录、社交媒体上的陈年照片，忽然变得价值连城，被大科技公司争相疯抢。现在，硅谷大厂们已经纷纷出动，买下所有能购买版权的互联网数据，这架势简直要抢破头了！图像托管网站 Photobucket 的陈年旧数据，本来已经多年无人问津，但
4/7/2024 1:36:43 PM
远洋
拒绝白人与亚洲人同框，Meta图像生成器的「歧视」，被人挖出来了

拒绝白人与亚洲人同框，Meta图像生成器的「歧视」，被人挖出来了
AI 生成工具的偏见何时休？在人工智能构筑的世界中，AI 有时会像人一样存在着某种偏见或倾向性。比如对于大语言模型而言，由于训练数据的影响会不可避免地存在性别偏见、种族刻板印象，等等。当然，这种偏见或倾向性在图像生成工具中同样存在。今年 2 月，谷歌 Gemini 被曝出拒绝在图像中描绘白人，生成大量违背基本事实（性别、种族、宗教等）的图片。                               马斯克也被系统过分矫正了。近日，外媒 The Verge 的一篇文章指出，Meta 的 AI 图像生成器无法准确生
4/7/2024 12:23:00 AM
机器之心
应对隐私 / 版权问题，5 月起 Meta Threads / Instagram 等平台将标记“疑似由 AI 生成的内容”

应对隐私 / 版权问题，5 月起 Meta Threads / Instagram 等平台将标记“疑似由 AI 生成的内容”
感谢AI 兴起产生的各种隐私 / 版权问题如今已成为科技行业许多人越来越关注的重点，而 Meta 公司今日发布新闻稿，宣布将在 5 月起在自家 Instagram、Threads 及 Facebook 平台为 AI 内容添加“水印标记”。Meta 在新闻稿中声称，这些变化来自公司内部监督委员会的建议、公共调查的结果和“学术界、民间社会组织和其他方面”的建议。IT之家注意到，Meta 公司将使用算法及真人检测“可能由 AI 生成的内容“，而用户也可以自行在图片中注释”相关图片由 AI 生成”，此类消息将作为水印添加至
4/6/2024 7:38:56 AM
漾仔
Meta 下月将为 Ray-Ban 智能眼镜带来一系列 AI 功能：物体识别、翻译等

Meta 下月将为 Ray-Ban 智能眼镜带来一系列 AI 功能：物体识别、翻译等
据《纽约时报》报道，下个月开始，Meta 将为其 Ray-Ban 智能眼镜带来一系列多模态 AI 功能，这些功能包括翻译、物体识别、动物及景物识别等等，已于去年 12 月进入早期测试阶段。用户只需说出“Hey Meta”并说出提示词或提出问题，便可激活该眼镜内置的 AI 助手，随后再通过镜框内置的扬声器进行回应。《纽约时报》经测试发现，在杂货店中、开车时或博物馆、动物园等多种场景之下，该眼镜可以正确识别宠物及艺术品，但并非“百分百”正确，例如难以识别远处或笼子里的动物。翻译功能方面，该眼镜支持英语、西班牙语、意大利
3/28/2024 10:00:15 PM
清源
科技巨头争夺 AI 人才战况白热化，谷歌创始人亲自出马

科技巨头争夺 AI 人才战况白热化，谷歌创始人亲自出马
感谢科技巨头们为了争夺顶尖人工智能 (AI) 人才，战况日益激烈，甚至使得一些大佬亲自出马。图源 Pexels据 The Information 报道，谷歌联合创始人谢尔盖・布林（Sergey Brin）曾亲自给一位考虑跳槽到 OpenAI 的谷歌员工打去电话，试图劝说他留下来，布林的电话攻势以及额外的薪酬承诺最终让这名员工决定留在谷歌。报道指出，人才争夺战是科技巨头间愈演愈烈的趋势之一。目前顶尖 AI 人才储备有限，而对这类人才的需求却达到了历史最高水平。各大科技公司纷纷出手，挖角彼此的顶尖人才，并提供令人咋舌的
3/28/2024 5:11:38 PM
远洋
消息称 Meta 正积极开展 AI 人才战：候选人无需面试，小扎亲自“摇人”

消息称 Meta 正积极开展 AI 人才战：候选人无需面试，小扎亲自“摇人”
据 The Information 北京时间今晚报道，为了在争夺人工智能研究人员方面取得更大优势，Meta 正在采取一系列“非常规举措”，进一步加大了这场 AI 人才战的火药味。图源 Pexels报道称，这一系列的举措包括在不面试候选人的情况下向他们提供工作机会等，更为此前威胁离职的员工增加薪资 —— 在此之前，Meta 的“长期做法”是不加薪。另据两位查看过 Meta 相关邮件的人士透露，公司首席执行官马克・扎克伯格亲自写信给谷歌 DeepMind 部门的研究人员，想要将其纳入麾下，表明这家社交媒体公司“非常重视
3/25/2024 10:27:52 PM
清源
Meta 推出 SceneScript AI 视觉模型，利用可编程语言实时预测建立 3D 场景

Meta 推出 SceneScript AI 视觉模型，利用可编程语言实时预测建立 3D 场景
据 Meta 公司官方新闻稿，该公司开发了一款名为“SceneScript”的视觉模型，该模型号称能够使用可编程语言来快速“建立”场景，实时推断房间几何形状，并将相关数据转换为建筑学层面的近似值。▲ 图源 Meta 公司官方新闻稿（下同）Meta 声称，相关方法能够高效且轻量地建立室内 3D 模型，号称“只需要数 KB 的内存即可生成清晰且完整的几何形状”，并且相关形状数据具有“可解释性”，用户可以轻松阅读和编辑这些数据表示。IT之家注意到，开发人员借鉴了大语言模型“预测单词”的方法来开发 SceneScript，
3/25/2024 10:08:44 PM
漾仔
Meta 新建两座数据中心集群：内含超 4.9 万块英伟达 H100 GPU，专门训练 Llama3

Meta 新建两座数据中心集群：内含超 4.9 万块英伟达 H100 GPU，专门训练 Llama3
感谢Meta 公司当地时间 12 日通过官方新闻稿公布了两座新的数据中心集群，该公司正希望通过英伟达的 GPU，在以 AI 为重点的开发中脱颖而出。据悉，这两座数据中心的唯一目的，是在消费者特定应用领域（IT之家注：包含声音或图像识别）中进行 AI 研究和大语言模型的开发，每个集群都包含了 24576 块英伟达 H100 AI GPU，将用于自家大语言模型 Llama 3 的训练。两座新建的数据中心集群都具有 400Gbps 互联功能，其中一个集群采用了 Meta 基于 Arista 7800 自主开发的 Fabr
3/13/2024 5:51:30 PM
清源
专为训练Llama 3，Meta 4.9万张H100集群细节公布

专为训练Llama 3，Meta 4.9万张H100集群细节公布
只想知道 Llama 3 何时能来？生成式大模型给人工智能领域带来了重大变革，人们在看到实现通用人工智能（AGI）希望的同时，训练、部署大模型的算力需求也越来越高。刚刚，Meta 宣布推出两个 24k GPU 集群（共 49152 个 H100），标志着 Meta 为人工智能的未来做出了一笔重大的投资。这是 Meta 雄心勃勃的基础设施路线图中的一步。Meta 会持续扩大基础设施建设，到 2024 年底将包括 350000 个 NVIDIA H100 GPU，其计算能力将相当于近 600000 个 H100。Met
3/13/2024 2:33:00 PM
机器之心
田渊栋等人新作：突破内存瓶颈，让一块4090预训练7B大模型

田渊栋等人新作：突破内存瓶颈，让一块4090预训练7B大模型
只用 24G 显存，消费级 GPU 就能搞定大模型了。上个月，Meta FAIR 田渊栋参与的一项研究广受好评，他们在论文《 MobileLLM: Optimizing Sub-billion Parameter Language Models for On-Device Use Cases》中开始卷 10 亿以下参数小模型，主打在移动设备上运行 LLM。3 月 6 日，田渊栋又一项研究出炉，这次，他们主攻 LLM 内存效率。除了田渊栋本人，还有来自加州理工学院、德克萨斯大学奥斯汀分校以及 CMU 的研究者。他们合
3/8/2024 2:56:00 PM
机器之心
全面超越ViT，美团、浙大等提出视觉任务统一架构VisionLLAMA

全面超越ViT，美团、浙大等提出视觉任务统一架构VisionLLAMA
半年多来，Meta 开源的 LLaMA 架构在 LLM 中经受了考验并大获成功（训练稳定、容易做 scaling）。沿袭 ViT 的研究思路，我们能否借助创新性的 LLaMA 架构，真正实现语言和图像的架构统一？在这一命题上，最近的一项研究 VisionLLaMA 取得了进展。VisionLLaMA 在图像生成（包含 Sora 依赖的底层的 DIT）和理解（分类、分割、检测、自监督）等多个主流任务上相较于原 ViT 类方法提升显著。论文标题：VisionLLaMA: A Unified LLaMA Interfac
3/7/2024 2:53:00 PM
机器之心
LLaMa 3或将推迟到7月发布，剑指GPT-4，从Gemini吸取教训

LLaMa 3或将推迟到7月发布，剑指GPT-4，从Gemini吸取教训
LLaMa 3 正寻找安全与可用性的新平衡点。过去的图像生成模型常被人们诟病人物主要以「白人」为主，而谷歌 Gemini 正在因为它的矫枉过正而深陷翻车风波。它「过度谨慎」的文生图结果会与历史事实出现极大偏差，让用户们瞠目结舌。谷歌表示，该模型变得比开发者预期的更加谨慎。这不仅体现在生成图片的问题上，还体现在常常将一些提示认作敏感提示，从而拒绝回答。在此事不断发酵时，这项安全与可用性如何平衡的难题也给 Meta 提出了巨大挑战。LLaMA 2 是开源领域的「强中手」，更是 Meta 的招牌模型，一经发布即改变了大模
2/29/2024 3:12:00 PM
机器之心
端侧最强，Meta田渊栋等人卷10亿以下参数小模型，LeCun：小技巧启动

端侧最强，Meta田渊栋等人卷10亿以下参数小模型，LeCun：小技巧启动
Meta 推出 MobileLLM 系列，一款适用于移动设备上的「小」模型。「在移动设备上运行 LLM？可能需要 Meta 的一些技巧。」刚刚，图灵奖得主 Yann LeCun 在个人社交平台表示。他所宣传的这项研究来自 Meta 最新论文《 MobileLLM: Optimizing Sub-billion Parameter Language Models for On-Device Use Cases 》，在众多作者中也有我们熟悉的来自 Meta FAIR 田渊栋。田渊栋表示：「我们的 MobileLLM 预
2/27/2024 3:02:00 PM
机器之心
后Sora时代，CV从业者如何选择模型？卷积还是ViT，监督学习还是CLIP范式

后Sora时代，CV从业者如何选择模型？卷积还是ViT，监督学习还是CLIP范式
如何衡量一个视觉模型？又如何选择适合自己需求的视觉模型？MBZUAI和Meta的研究者给出了答案。一直以来，ImageNet 准确率是评估模型性能的主要指标，也是它最初点燃了深度学习革命的火种。但对于今天的计算视觉领域来说，这一指标正变得越来越不「够用」。因为计算机视觉模型已变得越来越复杂，从早期的 ConvNets 到 Vision Transformers，可用模型的种类已大幅增加。同样，训练范式也从 ImageNet 上的监督训练发展到自监督学习和像 CLIP 这样的图像 - 文本对训练。ImageNet 并
2/19/2024 2:39:00 PM
机器之心