人类

《自然》杂志研究：AI 追踪他人心理状态能力与人类相当或超越人类

在本月下旬最新一期的《自然-人类行为》期刊上，刊登了一篇关于 AI 的研究论文，其中提到，在测试追踪他人心理状态能力的任务中，两类 AI 大语言模型在特定情况下，具备与人类相似甚至超越人类的表现。图源 Pixabay作为人类沟通交流、产生共鸣的关键，心理状态能力（也称心智理论）对人类的社交互动来说非常重要。该论文的第一作者 —— 德国汉堡-埃彭多夫大学医学中心的 James W. A. Strachan 与同事及合作者一起，选择能测试心理理论不同方面的任务，包括发现错误想法、理解间接言语以及识别失礼等。IT之家注：

5/25/2024 11:08:24 PM

清源

研究发现部分 AI 系统已学会“说谎”，未来或演变成更高级欺骗形式

美国麻省理工学院的研究团队近日发布成果称，部分 AI 已经“学会欺骗人类”，该成果刊登在最新一期的期刊《模式》（Pattern）上。该团队表示，部分设计为“诚实”且“不会说谎”的 AI 系统，已经发展出令人不安的欺瞒技巧。该研究的第一作者 Peter Park 表示，这些 AI 系统会欺骗线上游戏的真人玩家，或绕过部分网页“我不是机器人”的验证。图源 Pexels“尽管，以上的例子听起来只是细枝末节，但它们暴露出的潜在问题，可能很快就会在现实世界中造成严重后果。”该团队发现的最为引人注目的例子来自 Meta 公司的

5/12/2024 7:12:37 PM

清源

“AI 教父”杰弗里・辛顿：超越人类智慧的 AI 可用语言操纵我们

感谢人工智能领域的开创者之一，被誉为“AI 教父”的杰弗里・辛顿（Geoffrey Hinton）近日接受日本经济新闻采访，讲述了 AI 与人类的未来。IT之家注：去年 5 月，杰弗里・辛顿宣布离开他工作了十年的谷歌公司，原因是他对人工智能技术的发展越来越担忧。谈到当初从谷歌离职的原因时，辛顿称希望自己离职后能够“自由地传播”自己相信的东西。去年 4 月，他曾与自己的上司 —— 首席科学家杰夫・迪恩（Jeff Dean）交谈，自己提出了 AI 有可能带来事关人类生存危机的看法。迪恩试图挽留辛顿，并提议留在谷歌研究

3/24/2024 3:20:14 PM

清源

马斯克：到 2029 年，人工智能可能会比所有人类都更聪明

感谢人工智能 (AI) 超越人类智能的可能性几十年来一直备受科技专家、科学家和未来学家们的热烈讨论和争辩。然而，自生成式人工智能聊天机器人 ChatGPT 发布以来，关于人工智能将取代人类的争论愈演愈烈。生成式人工智能的出现使得谷歌、 Meta、亚马逊甚至微软等科技巨头纷纷加入战局，竞相研发自己的语言模型。鉴于人工智能领域的飞速发展，特斯拉 CEO 埃隆・马斯克 (Elon Musk) 认为人工智能超越人类智能的时刻即将到来。他甚至大胆预测，到 2029 年底，人工智能将超越整个人类种族的智力水平。马斯克的言论源于

3/13/2024 8:25:50 PM

远洋

阿尔特曼、老黄齐预测：AGI 五年内降临，代替 95% 工作！但马斯克断言 AGI 将被电力卡脖子

感谢IT之家网友 lemon_meta 的线索投递！【新智元导读】突然间，AGI 已经成为了一个新的「5 年内实现」的未来技术。从 Altman 到老黄，都在不同场合表示，达到人类智能水平的 AI 将很快到来。而技术路径和未来可能出现的能源短缺，可能是达到 AGI 过程中的最大变数。Claude 3、Sora、Gemini 1.5 Pro 的纷纷出现，以及或许今年内就会被放出的 GPT-5，让所有人都不约而同地隐隐感觉：我们似乎离 AGI 似乎越来越近了。OpenAI CEO Sam Altman 坚定地认为，AG

3/12/2024 11:16:15 PM

清源

模型偏好只与大小有关？上交大全面解析人类与32种大模型偏好的定量组分

在目前的模型训练范式中，偏好数据的的获取与使用已经成为了不可或缺的一环。在训练中，偏好数据通常被用作对齐（alignment）时的训练优化目标，如基于人类或 AI 反馈的强化学习（RLHF/RLAIF）或者直接偏好优化（DPO），而在模型评估中，由于任务的复杂性且通常没有标准答案，则通常直接以人类标注者或高性能大模型（LLM-as-a-Judge）的偏好标注作为评判标准。尽管上述对偏好数据的应用已经取得了广泛的成效，但对偏好本身则缺乏充足的研究，这很大程度上阻碍了对更可信 AI 系统的构建。为此，上海交通大学生成式

3/4/2024 11:13:00 AM

机器之心

讲个鬼故事：这台机器人终于“强”成了我要的模样

机器之能报道编辑：吴昕不同于昨日介绍的公司，Ameca 代表了另一种人形机器人的发展路径，也正取得重要进展。当被要求描述一下周遭环境时，Ameca 先用宝蓝色的眼睛盯住自己的老板（视频中与之对话的长者），接着，最有趣的一幕来了：视频链接：一番左顾右盼，然后开始滔滔不绝：房间的窗户开着，光线太亮有点让人睁不开眼；书架上摆放着很多书，不知道是主人学问好还是在装样子；至于桌椅，是人类生产力工具还是拖延症帮手，视情况而定......好一番调侃。老板接着发问，你看我手里拿着啥？Ameca 看了一眼，闭眼思考片刻后，再度开

2/27/2024 4:04:00 PM

机器之能

终于，乔姆斯基出手了：追捧ChatGPT是浪费资源

Colorless green ideas sleep furiously. 人类语言语法的基础不可能是基于统计意义的。

3/10/2023 2:19:00 PM

机器之心

Gary Marcus又来「整顿」AI圈：LeCun不可信，Nature审稿人没用脑子

这个周末刚过，我们再次看到了 Gary Marcus 对 AI 圈的最新「整顿」成果。「四天内关于人工智能和机器学习的三个令人费解的说法、顶级期刊的统计错误，以及 Yann LeCun 的一些说法，你都不应该相信。」以下是 Gary Marcus 的原文内容：一些事情即将发生。当《纽约时报》说一场革命即将到来，但事实上并没有发生时，我从不感到惊讶。这种情况已经持续了很长一段时间（实际上是几十年）。比如，想想 2011 年时 John Markoff 是如何展望 IBM Watson 的。「对 I.B.M. 来说，这

10/17/2022 2:53:00 PM

机器之心

除了缺少点创意，GPT-3写出了及格的大学毕业论文，只需20分钟

GPT-3 写的论文及格了吗？教育资源网站 EduRef 对此进行了一项测试，效果还行，及格水平。

3/2/2021 2:45:00 PM

机器之心

资讯热榜

DeepSeek刚提到FP8，英伟达就把FP4精度推向预训练，更快、更便宜深度测评！谷歌全新AI模型Nano Banana（附30+提示词案例） AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪陈丹琦，入职Thinking Machines Lab了？亿万富翁丹・洛布减持台积电，转投另一家万亿人工智能公司手把手教程！不写一行代码，开发鸿蒙应用，赚1万收入！为 AI Agent 行为立“规矩”——字节跳动提出 Jeddak AgentArmor 智能体安全框架中国企业大模型市场爆发:半年调用量暴增363%，阿里通义居首位

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能 Meta 用户微软 GPT 学习技术图像 Gemini 马斯克智能体 AI创作 Anthropic 英伟达论文 AI新词代码训练算法 Stable Diffusion LLM 芯片蛋白质腾讯开发者 Claude 苹果生成式 AI for Science Agent 神经网络 3D 机器学习研究 xAI 生成人形机器人 AI视频计算百度 Sora GPU 华为 AI设计工具 RAG 大语言模型搜索字节跳动具身智能大型语言模型场景深度学习预测视频生成伟达视觉 Transformer AGI 架构亚马逊神器推荐 Copilot 特斯拉应用 DeepMind