AI在线 AI在线

Patronus

Patronus AI 推出 Percival:一分钟诊断百步代理链中的隐藏故障

Patronus AI 推出 Percival:一分钟诊断百步代理链中的隐藏故障
随着企业越来越多地部署自主运行的 AI 代理系统，对这些复杂系统的监控与调试需求也迅速增长。 总部位于旧金山的 AI 安全公司 Patronus AI 今日发布了其最新产品 Percival，一个能够自动识别 AI 代理系统中故障模式并提出修复建议的监控平台。 “Percival 是业界首个可以自动追踪代理轨迹、识别复杂故障，并系统化输出修复建议的智能代理。
5/15/2025 11:01:55 AM
AI在线
Patronus AI Launches Percival: One-Minute Diagnosis of Hidden Faults in Hundred-Step Agent Chains

Patronus AI Launches Percival: One-Minute Diagnosis of Hidden Faults in Hundred-Step Agent Chains
As enterprises increasingly deploy autonomous AI agent systems, the demand for monitoring and debugging these complex systems is rapidly growing. Today, AI security company Patronus AI, headquartered in San Francisco, released its latest product, Percival, a monitoring platform capable of automatically identifying fault patterns in AI agent systems and providing repair recommendations."Percival is the industry's first intelligent agent that can automatically track agent trajectories, identify complex faults, and systematically output repair suggestions," said Anand Kannappan, CEO and co-founder of Patronus AI, in an exclusive interview with VentureBeat.Solving the Real-World Challenges of "Uncontrollable" AI AgentsDifferent from traditional machine learning, AI agents can autonomously execute large-scale operation processes involving multiple stages.
5/15/2025 10:02:04 AM
AI在线
可检测 AI 模型中“版权内容”，Patronus 推出 CopyrightCatcher API

可检测 AI 模型中“版权内容”，Patronus 推出 CopyrightCatcher API
专门开发大语言模型（LLM）评估工具的 Patronus AI 日前发布了一款名为“CopyrightCatcher”的 API，可用来检测大语言模型的输出结果中是否含有侵权内容，目前相关工具 DEMO 已经放出，感兴趣的小伙伴可以点此访问下载。▲ 图源 Patronus AI 官方新闻稿Patronus AI 表示，市面上常见的大语言模型的训练数据中经常含有受到版权保护的内容，因此这些模型很容易输出相应版权内容，从而为部署相关模型的企业带来重大法律风险，因此他们推出了 CopyrightCatcher API，旨
3/9/2024 5:55:39 PM
漾仔
占比 44%，报告称 OpenAI 的 GPT-4 充斥大量版权内容

占比 44%，报告称 OpenAI 的 GPT-4 充斥大量版权内容
根据 Patronus AI 近日发表的最新报告，OpenAI 的 GPT-4 模型中包含大量的版权内容，其占比达到了 44%。Patronus AI 是一家专门评估大型语言模型（LLMs）的公司，本周三发布的报告中测试了四款主流 AI 模型：OpenAI 的 GPT-4、Anthropic 的 Claude 2、Meta 的 Llama 2 以及 Mistral AI 的 Mixtral，意外的是没有谷歌的 Gemini。Patronus AI 使用 CopyrightCatcher 分析 4 款 AI 模型对主
3/8/2024 9:20:43 AM
故渊
  • 1