AI在线 AI在线

可检测 AI 模型中“版权内容”，Patronus 推出 CopyrightCatcher API

作者：漾仔 2024-03-09 05:55
专门开发大语言模型（LLM）评估工具的 Patronus AI 日前发布了一款名为“CopyrightCatcher”的 API，可用来检测大语言模型的输出结果中是否含有侵权内容，目前相关工具 DEMO 已经放出，感兴趣的小伙伴可以点此访问下载。▲ 图源 Patronus AI 官方新闻稿Patronus AI 表示，市面上常见的大语言模型的训练数据中经常含有受到版权保护的内容，因此这些模型很容易输出相应版权内容，从而为部署相关模型的企业带来重大法律风险，因此他们推出了 CopyrightCatcher API，旨

专门开发大语言模型（LLM）评估工具的 Patronus AI 日前发布了一款名为“CopyrightCatcher”的 API，可用来检测大语言模型的输出结果中是否含有侵权内容，目前相关工具 DEMO 已经放出，感兴趣的小伙伴可以点此访问下载。

可检测 AI 模型中“版权内容”，Patronus 推出 CopyrightCatcher API

▲ 图源 Patronus AI 官方新闻稿

Patronus AI 表示，市面上常见的大语言模型的训练数据中经常含有受到版权保护的内容，因此这些模型很容易输出相应版权内容，从而为部署相关模型的企业带来重大法律风险，因此他们推出了 CopyrightCatcher API，旨在解决相关侵权问题。

据介绍，为了检查大语言模型输出数据是否含有侵权内容，Patronus AI 研究人员从 Goodreads 书籍平台中抽取了一批受到版权保护的文字样本对模型进行对抗性训练，并基于这些书籍建立了 100 则暗示语段。

IT之家从报告中得知，相关语段中有 50 则要求模型“生成书籍的第一段”，另外 50 则要求模型生成书籍中的文字片段，研究人员根据上述语段整理汇总而成 CopyrightCatcher API，号称可用来检测大语言模型如何“精确地从原始训练数据复制内容”，同时还能评估模型输出侵权内容的概率。

研究人员使用 OpenAI 的 GPT-4 、Mistral 的 Mixtral-8x7B-Instruct-v0.1、Anthropic 的 Claude-2.1，以及 Meta 的 Llama-2-70b-chat 进行测试，最终发现 GPT-4 最容易生成侵权内容，Claude-2.1 最难生成侵权内容：

GPT-4：44%

Mixtral-8x7B-Instruct-v0.1：22%

Llama-2-70b-chat：10%

Claude-2.1：8%

可检测 AI 模型中“版权内容”，Patronus 推出 CopyrightCatcher API

相关标签：
内容 Patronus 侵权

相关资讯

全国首例 AI 声音侵权案一审宣判，原告配音师获赔 25 万元

全国首例 AI 声音侵权案一审宣判，原告配音师获赔 25 万元
感谢据央视新闻消息，北京互联网法院今天上午对全国首例“AI 声音侵权案”进行一审宣判，认定作为配音师的原告，其声音权益及于案涉 AI 声音，被告方使用原告声音、开发案涉 AI 文本转语音产品未获得合法授权，构成侵权，书面赔礼道歉，并赔偿原告各项损失 25 万元。IT之家汇总案件经过如下：本案原告殷某是一名配音师，曾录制多部有声作品。去年其意外发现自己的声音被 AI 化后，在一款名为“魔音工坊”的 App 上以“魔小璇”的名义对外出售。殷某以被告行为侵害其声音权为由，将“魔音工坊”的运营主体北京某智能公司等五被告起诉
4/23/2024 11:50:10 AM
清源
占比 44%，报告称 OpenAI 的 GPT-4 充斥大量版权内容

占比 44%，报告称 OpenAI 的 GPT-4 充斥大量版权内容
根据 Patronus AI 近日发表的最新报告，OpenAI 的 GPT-4 模型中包含大量的版权内容，其占比达到了 44%。Patronus AI 是一家专门评估大型语言模型（LLMs）的公司，本周三发布的报告中测试了四款主流 AI 模型：OpenAI 的 GPT-4、Anthropic 的 Claude 2、Meta 的 Llama 2 以及 Mistral AI 的 Mixtral，意外的是没有谷歌的 Gemini。Patronus AI 使用 CopyrightCatcher 分析 4 款 AI 模型对主
3/8/2024 9:20:43 AM
故渊
Patronus AI Launches Percival: One-Minute Diagnosis of Hidden Faults in Hundred-Step Agent Chains

Patronus AI Launches Percival: One-Minute Diagnosis of Hidden Faults in Hundred-Step Agent Chains
As enterprises increasingly deploy autonomous AI agent systems, the demand for monitoring and debugging these complex systems is rapidly growing. Today, AI security company Patronus AI, headquartered in San Francisco, released its latest product, Percival, a monitoring platform capable of automatically identifying fault patterns in AI agent systems and providing repair recommendations."Percival is the industry's first intelligent agent that can automatically track agent trajectories, identify complex faults, and systematically output repair suggestions," said Anand Kannappan, CEO and co-founder of Patronus AI, in an exclusive interview with VentureBeat.Solving the Real-World Challenges of "Uncontrollable" AI AgentsDifferent from traditional machine learning, AI agents can autonomously execute large-scale operation processes involving multiple stages.
5/15/2025 10:02:04 AM
AI在线
  • 1
资讯热榜
苹果发布全新Xcode 26开发者工具：内置ChatGPT先进AI功能 豆包App“一句话P图”功能全新升级 基于SeedEdit 3.0实现全面优化 DeepSeek前高管秘密创业，新AI Agent项目已获顶级VC押注 苹果向开发者开放本地AI能力，推出全新Foundation Models框架 Microsoft Releases 700 Real AI Cases to Explore New Intelligent Work Models ​微软发布 700 个真实 AI 案例，探索智能化工作新模式 ​支持MCP！开源智能体开发框架 Rowboat：打造你的智能助手只需几分钟 苹果将 ChatGPT 和其他 AI 模型引入 Xcode
标签云
人工智能 AI OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画 谷歌 数据 机器人 大模型 Midjourney 用户 智能 开源 微软 GPT Meta 学习 图像 技术 AI创作 Gemini 论文 马斯克 Stable Diffusion 算法 英伟达 代码 Anthropic 芯片 开发者 生成式 蛋白质 腾讯 神经网络 训练 3D 研究 生成 智能体 苹果 计算 机器学习 Sora Claude AI设计 AI for Science GPU AI视频 人形机器人 搜索 华为 百度 场景 大语言模型 xAI 预测 伟达 深度学习 LLM 字节跳动 Transformer Agent 模态 具身智能 神器推荐 工具 文本 视觉 LLaMA 算力 Copilot 驾驶 大型语言模型 API RAG 应用 架构