近日，人工智能公司 Anth 宣布推出一款名为 Claude for Chrome 的新功能，目前仅向1，000名 Max 计划用户提供测试。该功能作为浏览器扩展，允许 Claude 在 Google Chrome 浏览器中查看网页、点击按钮及填写表单，旨在提升用户的在线操作体验。然而，Anthropic 提醒用户，这项功能在正式发布之前，仍存在一些安全漏洞需要修复。
图源备注：图片由AI生成，图片授权服务商Midjourney
在安全性方面，Anthropic 指出，该功能面临来自 “提示注入攻击” 的重大风险。这种攻击方式可以让恶意用户在网页中嵌入隐藏指令，进而诱使 AI 模型执行有害操作。为此，Anthropic 进行了全面的测试，覆盖了123个测试案例，涉及29种不同的攻击场景。测试结果显示，在缺乏安全防护的情况下，Claude for Chrome 遭受攻击的成功率高达23.6%。这一结果令 Anthropic 颇感担忧，因此公司正在加紧修复相关漏洞。
为应对这些安全风险，Anthropic 承诺将在 Claude for Chrome 正式推出之前，采取更多的安全措施，确保用户能够安全地使用这项功能。随着人工智能技术的发展，确保用户在享受便捷服务的同时，能够避免潜在的安全隐患，已成为该行业的共同责任。
Claude for Chrome 的推出标志着人工智能技术在浏览器应用方面的重要进展，同时也提醒我们，在快速发展的科技背景下，安全性问题亟需得到重视。Anthropic 期望通过进一步的安全增强，为用户提供一个安全、高效的使用环境。
划重点:
🔍 Anthropic 推出 Claude for Chrome 扩展，提升在线操作体验。
⚠️ 存在 “提示注入攻击” 的安全隐患，成功率达到23.6%。
🔧 Anthropic 承诺修复漏洞，确保用户使用安全。
