AI在线 AI在线

图灵奖得主约书亚・本吉奥:AI 规划推理能力十年内有望达到人类水平

AI在线 7 月 26 日消息,2025 世界 AI 大会今日在上海开幕,图灵奖得主约书亚・本吉奥发表演讲称,前沿模型近期在规划和推理方面取得了显著进展。 如果这样的趋势持续,AI 的规划推理能力有望在十年内达到人类的水平。 AI在线从演讲中获悉,如果缺乏坚实的防护措施,强大的 AI 系统可能会放大虚假信息,网络攻击和生物威胁等现有风险。

AI在线 7 月 26 日消息,2025 世界 AI 大会今日在上海开幕,图灵奖得主约书亚・本吉奥发表演讲称,前沿模型近期在规划和推理方面取得了显著进展。如果这样的趋势持续,AI 的规划推理能力有望在十年内达到人类的水平

AI在线从演讲中获悉,如果缺乏坚实的防护措施,强大的 AI 系统可能会放大虚假信息,网络攻击和生物威胁等现有风险。更令人担忧的是,人类恐将失去对自我保护型智能体的控制,这些智能体的认知能力或将“很快超越人类”。

本吉奥认为,科学界仍有相当比例认为这种情况可能发生,就必须保持最高警惕。目前尚无科学验证方法确保 AI 可信且始终遵从人类意图。更糟糕的是,欺骗和自我保护行为在最强模型中似乎更加明显。“随着 AI 的智能水平不断提升,这才是真正令人担忧的地方,因为智能意味着权利。”

本吉奥表示,我们急需在技术和政策层面采取措施,以应对这些风险和其他潜在的问题。理性的政策应鼓励开发不具备危险能力的 AI 开源项目;同时,禁止其他情况下的开发,并对闭源模型实施充分的安全保障措施,包括网络安全和物理安全,确保其不易被犯罪分子、恐怖分子或流氓国家所利用。

相关资讯

夜场预告 | WAIC UP!之夜:不是大会延长时,而是另一种打开AI的方式

Hello:世界人工智能大会(WAIC)推出首份刊物《WAIC UP!》,一部「AI时代进化指南」。 我们邀请全球AI及跨领域的先锋力量,共同释放思考的力量与智慧的主张,旨在唤醒更多人,探究关乎技术跃迁、自我边界和未来文明的无限可能。 准备好!
7/14/2025 2:23:00 PM
机器之心

2025 世界人工智能大会定档 7 月 26 日至 28 日在上海举办

2025 世界人工智能大会暨人工智能全球治理高级别会议将于 7 月 26 日至 28 日在上海世博中心和世博展览馆举办,本届大会主题为“智能时代同球共济”。
4/11/2025 8:48:15 PM
浩渺

“AI 教父”辛顿首次访华演讲:要像养虎一样把 AI 训练好,让它不“杀”你

AI在线 7 月 26 日消息,2025 世界人工智能大会今起在上海举行,“AI 教父”、2024 年诺奖得主、2018 年图灵奖得主杰弗里・辛顿首次到访中国,并出席演讲。 辛顿在演讲中直言,几乎所有专家都认为会出现比人类更智能的 AI,AI 智能体为完成任务就会想要生存、获得更多控制,可能操纵人类。 简单关闭 AI 并不现实,这就像养老虎当宠物一样,把它养大了,人类反而可能被其伤害。
7/26/2025 3:02:18 PM
清源
  • 1