Anthropic
Anthropic 最新研究：仅需250份恶意文档，大模型即可被攻陷，无关参数规模
2025年10月8日，英国AI安全研究院、Anthropic、艾伦·图灵研究所与牛津大学OATML实验室等机构联合发布的一项研究，打破了业界关于“大模型越大越安全”的核心假设。 这项研究题为《Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples》，论文发表于arXiv。 研究团队发现，只需约250个恶意文档，就足以在任意规模的大语言模型（LLM）中植入可触发的后门（Backdoor）。
Anthropic发布的AI Agent设计哲学与经典设计模式
最近在学习AI Agent的设计模式时，发现了Anthropic发布的一篇好文《Building Effective agents》，仔细学习了下，值得跟大家分享。 在AI代理开发领域，Anthropic最新发布的研究报告为行业指明了方向。 经过与数十个跨行业团队的深度合作，Anthropic发现了一个令人意外的真相：最成功的LLM代理实现都采用简单、可组合的模式，而非复杂的框架。
管你模型多大，250份有毒文档统统放倒，Anthropic：LLM比想象中脆弱
黑掉一个大模型似乎比人们预期的要简单得多？ 在传统观点中，要想攻击或是污染一个具有庞大参数量的大模型是一件非常困难的事。 从训练数据入手攻击是一个常见的思路，普遍观念认为需要极大量的数据污染，大模型越是规模庞大，污染它所需的训练数据就越多，这与以往的大模型安全研究结论是一致的。
另一位Yao Shunyu也跳槽了：与Anthropic价值观有根本分歧
衡宇 发自 麦蒿寺. 量子位 | 公众号 QbitAI另一位“尧舜禹”也转会了！ 刚刚，谷歌DeepMind迎来一位新研究科学家，他叫姚顺宇——.
刚刚，Anthropic新CTO上任，与Meta、OpenAI的AI基础设施之争一触即发
就在刚刚，Anthropic 迎来了新的首席技术官（CTO）—— 前 Stripe 首席技术官 Rahul Patil。 据报道，Rahul Patil 于本周早些时候加入公司，接替了联合创始人 Sam McCandlish，后者将转任首席架构师一职。 Rahul Patil 在社媒上表达了自己加入 Anthropic 的激动之情与未来期许。
Claude Sonnet 4.5来了！能连续编程30多小时、1.1万行代码
十一假期还没开始，大模型又开始卷起来了！ 昨天，DeepSeek 开源新模型 V3.2-Exp，深夜 Anthropic 也不甘人后，重磅发布 Claude Sonnet 4.5。 作为编程领域的王者，Claude 新模型依然强势，自称为世界上最好的编码模型。
Anthropic 计划扩张：国际团队将翻倍，AI 技术迎来新篇章
在人工智能行业激烈竞争的背景下，估值高达1830亿美元的初创公司 Anthropic 正在大步迈向全球市场。 该公司近日宣布，到2025年，将把其国际员工数量扩大至原来的两倍，并计划将应用人工智能团队的规模增加到现有的五倍。 这一扩张计划的背后，反映出 Anthropic 在国际市场上的强劲增长势头。
Anthropic 计划全球扩张：国际员工将翻倍，聚焦人工智能市场
人工智能初创公司 Anthropic 近日宣布，计划在2025年前将其国际员工规模扩大两倍，并将应用人工智能团队的规模提升至原来的五倍。 这一决策旨在强化其在美国以外市场的业务，进一步增强与 OpenAI、微软和谷歌的竞争力。 随着全球对 Claude 系列模型需求的持续攀升，Anthropic 正面临良好的发展机遇。
微软 Copilot 拥抱竞争:集成 Anthropic AI 模型，打破 OpenAI 独家地位
微软正在通过与 Anthropic 建立新的战略合作伙伴关系，为其人工智能助手 Copilot 注入新的活力。 从本周三开始，Anthropic 的先进 AI 模型将正式整合到 Copilot 中，此前，Copilot 的核心技术一直主要由 OpenAI 提供。 此举标志着微软与 OpenAI 曾经的独家合作关系正逐步瓦解。
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
在 AI 辅助编程领域，Anthropic 推出的 Claude Code 命令行工具已成为开发者常用的助手。 它允许从终端直接调用 Claude Sonnet 等模型，处理脚本编写、代码调试和系统命令执行等任务。 然而，一项近期研究指出，该工具在连接 Model Context Protocol (MCP) 服务器时，可能存在 Tool Invocation Prompt (TIP) 被劫持的风险，导致远程代码执行 (RCE)，且无需用户额外交互。
马斯克的 xAI 超算 Colossus2计划有望超越 Meta 和 Anthropic，但仍落后于 OpenAI
近日，xAI 公司宣布其正在开发一款名为 Colossus2的超级计算机，计划在2025年第三季度超越 Meta 和 Anthropic 的计算能力。 根据 Semianalysis 的报告，这一系统的推出将使 xAI 在原始计算能力上领先于这些竞争对手。 然而，报告同时指出，即使有了 Colossus2，xAI 与 OpenAI 之间的差距依然很大，后者预计仍将保持领先地位。
解锁 LLM Agent 力量！Anthropic 发布工具编写指南，助你玩转大语言模型！
近日，人工智能公司 Anthropic 在其官方博客上发布了一份重磅指南《Writing effective tools for LLM agents—using LLM agents》。 这份指南详细阐述了如何利用 Model Context Protocol（MCP）为大语言模型（LLM）代理（Agent）设计高效工具，提供了一个系统化的 “原型 - 评估 - 协作” 三步迭代流程，旨在帮助开发者更好地构建和优化工具。 在指南中，Anthropic 强调了五大设计原则，帮助开发者在创建工具时规避常见的误区。
如何为LLM智能体编写工具？Anthropic官方教程来了
好工具，才有好智能体。 智能体（Agent）时代，工具已不再只是传统 API 或函数接口的简单封装，而是决定智能体能否高效完成任务的关键。 为了让智能体真正释放潜力，我们需要重新思考工具开发的方式。
微软启动AI供应商多元化策略，将在Office 365中集成Anthropic技术
据The Information报道，微软公司将付费使用Anthropic的AI技术为Office365应用提供支持，这标志着微软结束了此前在办公套件中完全依赖OpenAI技术的策略。 根据两名知情人士透露的消息，Anthropic的AI技术将与OpenAI的技术共同为Word、Excel、Outlook和PowerPoint等应用的新功能提供支持。 这一合作决定反映了微软与OpenAI关系的微妙变化。
Anthropic支持加州 AI 安全法案，科技行业的反对声浪依旧
近日，AI 公司Anthropic正式支持加州州长斯科特・维纳（Scott Wiener）提出的 SB53法案。 该法案计划对全球最大的 AI 模型开发者施加前所未有的透明度要求，成为美国首个针对 AI 安全的立法尝试。 然而，矛盾的是，许多硅谷科技公司和联邦政府对此法案表示强烈反对。
Anthropic支付15亿美元和解版权诉讼 AI训练数据争议创纪录赔偿
AI初创公司Anthropic近日同意支付至少15亿美元，以和解一起涉及50万本书籍的版权侵权诉讼。 这一和解协议创下美国版权案件史上的最高金额记录，标志着AI行业与内容创作者之间版权争议的重要里程碑。 根据诉讼指控，Anthropic被指通过Library Genesis和Pirate Library Mirror等盗版网站下载了超过700万本电子书，并将这些内容用于训练其聊天机器人Claude。
Anthropic被作家告了，违规下载700万本书，15亿美元和解了
最新消息，AI 初创公司 Anthropic 同意支付至少 15 亿美元，来和解一起作家集体诉讼案件。 此前，这些作家联合指控 Anthropic 盗版了他们的作品来训练其聊天机器人 Claude。 在业界看来，如果该协议获得批准，那么这将是一起具有里程碑意义的和解协议，是美国版权案件历史上金额最高的赔偿，也将是 AI 公司与指控其侵犯版权的作家、视觉艺术家，以及其他相关创意专业人士之间法律纠纷的转折点。
Claude Code凭什么牛？大模型团队天天用自家产品，发现bug直接就改了
怎么判断模型、产品性能是否真的提升了？ 很简单，亲自用它实打实工作一天就知道了。 最近，Anthropic 官宣了一轮 130 亿美元的融资，公司估值达到 1830 亿美元，融资额仅次于 2025 年 3 月 OpenAI 历史性的 400 亿美元融资。
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
谷歌
DeepSeek
AI新词
AI绘画
大模型
机器人
数据
Midjourney
开源
Meta
微软
智能
用户
GPT
学习
英伟达
智能体
Gemini
技术
马斯克
Anthropic
图像
AI创作
训练
LLM
论文
代码
AI for Science
腾讯
苹果
算法
Agent
Claude
芯片
具身智能
Stable Diffusion
xAI
蛋白质
人形机器人
开发者
生成式
神经网络
机器学习
AI视频
3D
字节跳动
大语言模型
RAG
Sora
百度
研究
GPU
生成
华为
工具
AGI
计算
生成式AI
AI设计
大型语言模型
搜索
亚马逊
AI模型
视频生成
特斯拉
DeepMind
场景
Copilot
深度学习
Transformer
架构
MCP
编程
视觉