AI在线 AI在线

AI教父Hinton怒批万斯,对AI无知恐葬送全人类!

在巴黎AI行动峰会上,美国副总统万斯高举「美国优先」的大旗,明确表示美国仍将维持在AI领域的主导地位,欧洲对AI的监管在扼杀创新! 会后,美国和英国拒绝签署关于确保AI「安全、可靠、可信」的峰会声明,拒绝相关国际承诺。 la Repubblica独家报道了诺奖得主、AI「教父」Hinton,对这种行为的猛烈抨击。

在巴黎AI行动峰会上,美国副总统万斯高举「美国优先」的大旗,明确表示美国仍将维持在AI领域的主导地位,欧洲对AI的监管在扼杀创新!

会后,美国和英国拒绝签署关于确保AI「安全、可靠、可信」的峰会声明,拒绝相关国际承诺。

la Repubblica独家报道了诺奖得主、AI「教父」Hinton,对这种行为的猛烈抨击。

图片

Hinton:「没有约束,AI将是一种可怕的武器。华盛顿与科技巨头结成了危险的联盟」

Hinton: 万斯一派胡言

77岁的AI「教父」Geoffrey Hinton,图灵奖和诺贝尔物理学奖得主,因对深度神经网络的基础性研究而闻名全球。

对美国副总统万斯在峰会上发言, 他认为是一派胡言:

我听了万斯的发言。我认为那是一派荒谬的胡言,完全显示出他对AI的危险性一无所知。

万斯犯了一个错误,认为如果有监管,就会扼杀AI。不,监管不会扼杀AI。许多有益的AI应用继续得到发展。我们需要开发AI,但必须确保安全。

现任美国政府对安全问题漠不关心,而且与大科技公司结成了联盟。

在声明中,万斯基本上是在威胁其他国家:如果他们试图对美国科技进行监管和干预,将会付出代价。

而英国此后,再也不能假装在关心如何确保AI安全,虽然Hinton没有推测背后的政治原因。

而在一年半前,正是英国在布莱切利公园举办了首个关于AI的峰会,目的也是为了进行监管。

图片

布莱切利宣言|为了全人类的利益,AI应该确保安全、以人为本、值得信赖且负责任

并且英国还通过了一项法律,要求对科技巨头进行严格的内容监管。这一转变,的确十分突兀和怪异。

英国甚至将国家科研机构AI Safety Institute更名,删除了AI产生「不平等结果」相关内容。欧洲媒体称之为英国跟随着万斯的曲调在跳舞。

图片

AI安全不容忽视

Hinton在多伦多大学的办公室回应称,他多年来一直警告世界不要忽视AI缺乏监管的危险。

在他看来,将潜在的破坏性工具交给全球无序使用,意味着将人类置于危险之中,可能导致人类走向灭绝。

事实上,Hinton从未排除过类似电影《终结者》中的情景,在电影中,不可阻挡的AI掌握了权力,开始攻击人类。

尽管有一些保留意见,但这一次Hinton承认AI应该以安全的方式发展:

AI在很多领域是非常有用的,比如医学和环境领域。

当然,它应该得到发展。但必须以对人类安全的方式进行开发。

而这正是美国副总统万斯似乎完全不必担心的。

而美国政府和硅谷的联盟,让Hinton非常不满意,非常令他不安。他表示这种无视AI安全的态度,无论是的短期还是长期,都将带来极其严重的后果:

在短期内,越来越多的罪犯将利用AI发起对我们基础设施的网络攻击。网上操控的新闻将会泛滥。人们的观点也将被操控。

长期内,AI有可能在某个时刻控制一切,而人类将深受其害。

当被问及怎么看待马斯克和奥特曼在OpenAI问题上的争斗,Hinton表示他虽然几乎不同意马斯克说的其他所有事情,但在这件事上同意马斯克的观点:

OpenAI应该保持非盈利性质,而不是变成一家赚钱的公司。

相关资讯

DeepSeek“防弹衣”来了,模型内生安全加固方案,拒绝杀敌一千自损八百|上海AI Lab

最新研究显示,以超强推理爆红的DeepSeek-R1模型竟藏隐形危险——即便最终拒绝回答,其思考过程仍可能泄露有害内容。 现有防御技术深陷两难:要么防不住攻击,要么让模型变成”惊弓之鸟”,连正常问题都拒绝回答。 上海交大与上海AI Lab联合推出安全防御方案——X-Boundary,试图破解两难局面。
3/13/2025 1:10:00 PM
量子位

首个大模型全链路安全综述 !南洋理工新国立等发布LLM Safety全景图:从数据、训练到部署的全面梳理

随着人工智能技术迅猛发展,大模型(如GPT-4、文心一言等)正逐步渗透至社会生活的各个领域,从医疗、教育到金融、政务,其影响力与日俱增。 然而,技术的进步也伴随着潜在风险——大模型安全这一议题正成为全球科技界关注的焦点。 南洋理工大学、新加坡国立大学等全球40余所顶尖机构的67位学者联袂打造大模型全链路安全综述,综合梳理了843篇文章,系统的从全栈视角分析了大模型从出生到应用的全栈安全,涵盖数据准备→预训练→后训练→部署→商业化应用以及安全性评估等全部阶段。
4/27/2025 9:07:00 AM
量子位

瑞莱智慧完成新一轮战略融资,加速打造中国AGI安全基座

近日,人工智能安全基础设施提供商瑞莱智慧(RealAI)宣布完成新一轮战略融资,北京市人工智能产业投资基金等参与投资。本轮融资完成后,瑞莱智慧将继续加速通用人工智能安全基座产品研发,并不断推进安全可控的大模型商业化落地。随着全球范围内最大规模的人工智能浪潮掀起,人工智能的可控性和安全性成为愈发重要的发展议题。如今,人工智能大模型的通用性和泛化性大幅提升,应用也从传统的判别式任务走向生成式任务,而人工智能的内生及衍生安全问题变得愈加复杂,其带来的挑战和已经引起的各类风险事件也持续受到全球公众、企业和政府的广泛关注。当
4/12/2024 12:44:00 PM
机器之心
  • 1