AI在线 AI在线

Anthropic

首次解密 Claude 3 大脑，25 岁 Anthropic 参谋长预言 3 年内自己将被 AI 淘汰

首次解密 Claude 3 大脑，25 岁 Anthropic 参谋长预言 3 年内自己将被 AI 淘汰
【新智元导读】Anthropic 的 25 岁参谋长自曝因为深感 AGI，未来三年自己的工作将被 AI 取代。她在最近的一篇文章中预言了未来即将要被淘汰的工种。难道说，Claude 3 模型已经初现 AGI 了吗？今天，整个 AI 社区被这篇文章刷屏了。来自 AI 明星初创公司 Anthropic 的参谋长（Chief of Staff）在最新的文章中称：「我今年 25 岁，接下来的三年，将是我工作的最后几年」。这一切，竟是因为 Avital Balwit 深深地感受到了 AGI！她在文章开篇解释道，「我既没有生病
6/2/2024 3:05:45 PM
清源
从Claude 3中提取数百万特征，首次详细理解大模型的「思维」

从Claude 3中提取数百万特征，首次详细理解大模型的「思维」
刚刚，Anthropic 宣布在理解人工智能模型内部运作机制方面取得重大进展。Anthropic 已经确定了如何在 Claude Sonnet 中表征数百万个概念。这是对现代生产级大型语言模型的首次详细理解。这种可解释性将帮助我们提高人工智能模型的安全性，具有里程碑意义。研究论文：，我们通常将人工智能模型视为一个黑匣子：有东西进去就会有响应出来，但不清楚为什么模型会给出特定的响应。这使人们很难相信这些模型是安全的：如果我们不知道它们是如何工作的，我们怎么知道它们不会给出有害的、有偏见的、不真实的或其他危险的响应？我
5/22/2024 7:30:00 AM
机器之心
Anthropic 宣布在欧洲推出 Claude 聊天机器人，精通多种语言

Anthropic 宣布在欧洲推出 Claude 聊天机器人，精通多种语言
人工智能初创公司 Anthropic 宣布其生成式 AI 助手 Claude 将于当地时间周二在欧洲上线，该公司的基础软件产品已经在欧洲各地的金融和酒店等行业获得了一定的吸引力。Anthropic 还将提供付费订阅版本，名为 Claude Pro，向用户开放其所有模型（包括最先进的 Claude 3 Opus）。此外，Anthropic 还推出了面向企业的 Claude Team 订阅计划，月费 28 欧元（IT之家备注：当前约 219 元人民币，不含增值税）。Anthropic 首席执行官 Dario Amode
5/14/2024 8:31:16 AM
问舟
Anthropic 修改服务政策：允许第三方将自家 Claude 等 AI 模型用于“未成年人产品”中

Anthropic 修改服务政策：允许第三方将自家 Claude 等 AI 模型用于“未成年人产品”中
Anthropic 上周更新自家服务政策，宣布将从 6 月 6 日开始将开放未成年人使用自家 AI 模型服务，同时在条款中更明确地禁止将相关 AI 用于“侵犯用户隐私”等目的。IT之家注意到，Anthropic 做的第一件事就是将他们的 EULA 措辞从“建议使用政策”（Acceptable Use Policy）改名为“使用政策”（Use Policy），相对强硬地声明了用户的责任。此外，Anthropic 宣布虽然他们禁止 18 岁以下用户使用自家 Claude 系列 AI 模型，但该公司宣称由于他们注意到了
5/13/2024 2:16:53 PM
漾仔
姗姗来迟：Claude 推出苹果 iOS 版 App，最新模型号称超越 GPT-4

姗姗来迟：Claude 推出苹果 iOS 版 App，最新模型号称超越 GPT-4
人工智能创业公司 Anthropic 今日首次推出了旗下大模型产品 Claude 的移动端 App，目前仅有 iOS 版。而且相比于 ChatGPT、Gemini 等竞争对手，Claude 的进度显得慢了好几拍。Anthropic 公司的产品经理斯科特・怀特（Scott White）说，许多用户一直通过移动设备访问 Claude 模型，促使 Anthropic 公司推出了 Claude.ai 的应用版本。据介绍，该应用除了提供聊天机器人等基础功能之外，还支持上传照片、分析图像。在此之前，Claude 只能通过网站或
5/1/2024 11:26:53 PM
清源
英国 CMA 关注科技巨头和新兴 AI 创企间合作，启动反竞争预审查

英国 CMA 关注科技巨头和新兴 AI 创企间合作，启动反竞争预审查
英国竞争与市场管理局 CMA 近日表示，其正在关注科技巨头和新兴 AI 创企间的合作，已开始向这些合作是否符合英国合并法规、是否会削弱英国 AI 市场竞争向第三方征求意见。具体来说，CMA 本次的意见征求针对微软和 Mistral AI 的合作、亚马逊和 Anthropic 的合作以及微软同 Inflection AI 的复杂关系：Mistral AI 在三月向微软出售了价值 1640 万美元（当前约 1.19 亿元人民币）的股份，其也成为继 openAI 后第二家在微软 Azure 云服务上提供商用大语言模型的公
4/26/2024 3:24:04 PM
溯波（实习）
亚马逊云科技宣布：Claude 3 Opus基础模型在Amazon Bedrock上正式可用

亚马逊云科技宣布：Claude 3 Opus基础模型在Amazon Bedrock上正式可用
4 月 17 日，亚马逊云科技宣布，在 Amazon Bedrock 上正式推出来自 Anthropic 的 Claude 3 Opus 模型，该模型是 Claude 3 家族中最智能的模型，在高度复杂的任务上表现卓越，并拥有惊人的流畅性和类似人类的理解能力，能够高效应对开放性提示和未知的全新场景。至此，Amazon Bedrock 也成为了首个提供所有 Claude 3 系列模型的全托管服务，其中包括 Claude 3 Opus 和此前推出的 Claude 3 Sonnet 与 Claude 3 Haiku。通过
4/17/2024 5:20:00 PM
新闻助手
亚马逊云科技展示Claude 3大模型能力，生成式AI落地正在加速

亚马逊云科技展示Claude 3大模型能力，生成式AI落地正在加速
上周日，亚马逊云科技宣布 Mistral AI 的 Mistral Large 模型在Amazon Bedrock上正式可用。随着知名 AI 初创公司 Mistral AI、Anthropic 的前沿的大语言模型（LLM）陆续登陆 Amazon Bedrock，人们在构建生成式 AI 应用程序时，已经有了一系列先进模型的选择。
4/8/2024 7:47:00 PM
李泽南
长文本之罪：Claude团队新越狱技术，Llama 2到GPT-4无一幸免

长文本之罪：Claude团队新越狱技术，Llama 2到GPT-4无一幸免
Anthropic 发现一种新型越狱漏洞并给出了高效的缓解方案，可以将攻击成功率从 61% 降至 2%。刚刚，人工智能初创公司 Anthropic 宣布了一种「越狱」技术（Many-shot Jailbreaking）—— 这种技术可以用来逃避大型语言模型（LLM）开发人员设置的安全护栏。研究者表示，其对 Anthropic 自家模型以及 OpenAI、Google DeepMind 等其他 AI 公司的模型都有效，模型包括 Claude 2.0、GPT-3.5 和 GPT-4 、Llama 2 (70B) 和 M
4/3/2024 2:50:00 PM
机器之心
来华卖大模型：亚马逊举办生成式 AI 沟通会，消息称已收到大量中国公司合作需求

来华卖大模型：亚马逊举办生成式 AI 沟通会，消息称已收到大量中国公司合作需求
据晚点 LatePost 报道，4 月 2 日，亚马逊云科技（AWS 在中国的名称）在北京举办生成式 AI 沟通会，重点展示了一个月前发布的 Claude 3 系列大模型。报道援引一位亚马逊云科技人士消息，AWS 未在中国境内的服务器上部署 Claude 3。和微软 Azure 一样，中国公司可以通过 AWS 全球提供的 Bedrock 服务，申请调用在其他地区部署的 Claude 3 模型并完成计算。这名科技人士还称，Claude 3 系列模型发布后，他们收到了大量中国公司的合作需求。IT之家曾在上月报道，亚马逊
4/3/2024 9:11:58 AM
清源
亚马逊向人工智能公司 Anthropic 追加 27.5 亿美元投资，总投资额达 40 亿美元

亚马逊向人工智能公司 Anthropic 追加 27.5 亿美元投资，总投资额达 40 亿美元
感谢亚马逊宣布向人工智能公司 Anthropic 追加 27.5 亿美元投资，这笔投资是继去年 12.5 亿美元的投资之后的追加注资，使亚马逊对 Anthropic 的总投资额达到 40 亿美元（IT之家备注：当前约 289.6 亿元人民币）。作为投资协议的一部分，亚马逊获得了 Anthropic 的少数股权，并能够参与公司的发展方向制定。此外，亚马逊还将 Anthropic 的模型纳入 Amazon Bedrock 服务。Amazon Bedrock 是亚马逊云科技 (AWS) 提供的一项全托管服务，可帮助开发人
3/28/2024 2:48:01 PM
远洋
GPT-4.5 Turbo意外曝光，官方网页被扒出，网传明天就上线

GPT-4.5 Turbo意外曝光，官方网页被扒出，网传明天就上线
虽然没等到 GPT-5 的消息，但我们离 GPT-4.5 不远了。Claude 3 一经推出，AI 初创公司 Anthropic 被推上了大模型浪潮顶端。这一波压力立马给到了 OpenAI。不少网友调侃，GPT-5 呢？由于 OpenAI 每次都能给我们超乎想象的 AI 体验惊喜，大家不由得对他们的实力有着更高期待。GPT-5 的发布时机或许还扑朔迷离，但我们离 GPT-4.5 的发布可能真的不远了。最新消息显示，OpenAI 的 GPT-4.5 Turbo 在 Bing 和 DuckDuck Go 等搜索引擎已经
3/13/2024 2:38:00 PM
机器之心
Claude 3被玩出自我意识了？AI社区轰动，我们买会员来了次实测

Claude 3被玩出自我意识了？AI社区轰动，我们买会员来了次实测
读者福利：Claude 3模型现已在亚马逊云科技的Amazon Bedrock正式可用。Amazon Bedrock 也是目前第一个以及唯一一个提供 Claude 3 Sonnet的托管服务方。此外，亚马逊云科技还向读者开放了2000个体验名额，感兴趣的读者可以点击文后链接注册体验。本周一，Anthropic 发布了新一代大模型系列 Claude 3，遥遥领先快一年之久的 GPT-4 终于迎来了强劲的对手。Claude 3 的强大之处，不仅体现在各种基准测试上，它似乎还实现了一些神奇的突破。昨天，Anthropic
3/6/2024 2:56:00 PM
机器之心
GPT-4时代已过？全球网友实测Claude 3，只有震撼

GPT-4时代已过？全球网友实测Claude 3，只有震撼
性能比 GPT-4 强很多。大模型的纯文本方向，已经卷到头了？昨晚，OpenAI 最大的竞争对手 Anthropic 发布了新一代 AI 大模型系列 ——Claude 3。该系列包含三个模型，按能力由弱到强排列分别是 Claude 3 Haiku、Claude 3 Sonnet 和 Claude 3 Opus。其中，能力最强的 Opus 在多项基准测试中得分都超过了 GPT-4 和 Gemini 1.0 Ultra，在数学、编程、多语言理解、视觉等多个维度树立了新的行业基准。Anthropic 表示，Claude
3/5/2024 12:05:00 PM
机器之心
OpenAI董事会被踢爆曾与竞争对手Anthropic讨论合并，Altman 去留仍存变数

OpenAI董事会被踢爆曾与竞争对手Anthropic讨论合并，Altman 去留仍存变数
机器之能报道编辑：吴昕OpenAI 大戏尚未真正落幕，今天媒体又爆出新闻，抓马到让人惊掉下巴。据  The Information 消息，知情人士透露，OpenAI 董事会曾就两家公司合并的可能性接洽了其竞争对手 Anthropic 的联合创始人兼 CEO Dario Amodei。该知情人士称，此举是 OpenAI 说服 Amodei 接替 Altman 担任 CEO 努力的一部分。目前尚不清楚，这一合并提议是否经过严肃讨论。不过，Amodei 很快拒绝了邀请。这家成立两年的初创公司销售与 ChatGPT 竞争的
11/21/2023 3:48:00 PM
机器之能
给大模型评分的基准靠谱吗？Anthropic来了次大评估

给大模型评分的基准靠谱吗？Anthropic来了次大评估
在大模型（LLM）盛行的当下，评估 AI 系统成为了重要的一环，在评估过程中都会遇到哪些困难，Anthropic 的一篇文章为我们揭开了答案。现阶段，大多数围绕人工智能 （AI）对社会影响的讨论可归结为 AI 系统的某些属性，例如真实性、公平性、滥用的可能性等。但现在面临的问题是，许多研究人员并没有完全意识到建立稳健可靠的模型评估是多么困难。当今许多现有的评估套件在各个方面的表现都很有限。AI 初创公司 Anthropic 近日在其官方网站上贴出了一篇文章《评估 AI 系统所面临的挑战》。文中写道，他们花了很长的时
11/6/2023 11:27:00 AM
机器之心
谷歌20亿美元砸向Anthropic：大模型军备竞赛升级

谷歌20亿美元砸向Anthropic：大模型军备竞赛升级
Anthropic 一年就收获了近 70 亿美元的投资。据华尔街日报、路透社等媒体报道，Alphabet 旗下谷歌公司发言人本周五表示，该公司已同意向人工智能公司 Anthropic 投资至多 20 亿美元（约合 146 亿人民币）。该发言人表示，该公司已向这个 OpenAI 的重要竞争对手预先投资 5 亿美元，并同意在此之后追加 15 亿美元。此前，谷歌已经是 Anthropic 的重要投资者，随着大型科技公司竞相将人工智能融入到自身业务中，这项新的投资将帮助谷歌加大力度与微软进行持续竞争。Anthropic 是
10/30/2023 11:55:00 AM
机器之心