红帽（Red Hat）近期宣布收购了一家名为 Chatterbox Labs 的人工智能公司，此次收购是为了进一步增强其在企业级 AI 领域的布局。Chatterbox Labs 成立于2011年，专注于 AI 模型测试和生成式 AI 的安全防护。此次收购是继去年收购 Neural Magic 后，红帽再次加大在 AI 领域的投资。
Chatterbox Labs 开发了一个名为 AIMI 的平台，该平台能够量化 AI 风险，并提供多种与模型行为和风险管理相关的功能。这些工具帮助企业评估和控制 AI 模型在实际应用中可能产生的不当输出和潜在风险。红帽表示，随着越来越多企业将 AI 项目从实验阶段推向生产环境，对模型偏见、有害内容（toxicity）和各种漏洞的持续监测已经成为必要条件。因此，AI 安全测试及 “护栏” 能力正在成为现代机器学习操作(MLOps)和大语言模型操作(LLMOps)平台的基本要求。
红帽在声明中指出，此次收购旨在满足迅速上升的 “AI 安全” 需求。通过整合 Chatterbox Labs 的技术，红帽希望为客户提供一个更完整的企业级开源 AI 平台，使其能够在生产环境中更有信心地运行 AI 工作负载。此外，Chatterbox Labs 的技术将与近期发布的 Red Hat AI3平台互补，增加更全面的安全测试和风险管理能力。
红帽重申其开源发展理念，未来计划逐步将此次收购所获得的 AI 技术开源，以促进社区的使用和技术创新。红帽表示，其一贯的做法是收购专有技术后，通过开源推动技术的进步和生态的繁荣。随着 Chatterbox Labs 技术的分阶段开源，这些关键的 AI 安全工具将逐步向更广泛的社区开放，使更多组织能够受益于偏见控制、安全审查和风险量化的能力。
划重点:
🌟 红帽收购 Chatterbox Labs，进一步加强企业级 AI 安全能力。
🔧 Chatterbox Labs 的 AIMI 平台提供 AI 风险量化和模型行为管理功能。
📈 红帽计划将收购的 AI 技术逐步开源，促进社区创新与使用。
