道阻且长,行则将至 | 安远AI x 机器之心系列讲座圆满结束

历时一个月,安远AI与机器之心联合举办的「迈向危险、靠得住、可控的人工智能」六场系列讲座圆满结束,我们邀请了全球顶尖人工智能机构专家分享强化学习、预训练大模型、通用人工智能等内容。这六位专家分享了他们的真知灼见,并对人工智能与人类的将来展现出忧虑与希望:第1期:「寻找AGI的危险路径 」不精确的微调或方针的错误泛化可能会导致AGI追求一个不精确的方针。如果足够智能,这种未对齐(unaligned)的AGI将导致灾难性的前因。 —DeepMind研讨科学家Rohin Shah第2期:「人类与AI的

历时一个月,安远AI与机器之心联合举办的「迈向危险、靠得住、可控的人工智能」六场系列讲座圆满结束,我们邀请了全球顶尖人工智能机构专家分享强化学习、预训练大模型、通用人工智能等内容。这六位专家分享了他们的真知灼见,并对人工智能与人类的将来展现出忧虑与希望:

第1期:「寻找AGI的危险路径 」

道阻且长,行则将至 | 安远AI x 机器之心系列讲座圆满结束

不精确的微调或方针的错误泛化可能会导致AGI追求一个不精确的方针。如果足够智能,这种未对齐(unaligned)的AGI将导致灾难性的前因。 —DeepMind研讨科学家Rohin Shah

第2期:「人类与AI的共生演化 」

道阻且长,行则将至 | 安远AI x 机器之心系列讲座圆满结束

AI手艺的“动力”如今正在飞速增长,而如果不加以合理“引导”,就可能造成意想不到的前因。我们不仅要考虑应该避免什么,我们还必须考虑很多关于“目的地”的课题。 —麻省理工老师Max Tegmark

第3期:「我们如何能让AI体系追求精确的方针?」

道阻且长,行则将至 | 安远AI x 机器之心系列讲座圆满结束

在这个大模型(又为基础模型)的新范式中,人工智能对齐(AI alignment)将是手艺进步的关键驱动力之一。—剑桥大学助理老师David Krueger

第4期:「阐释神经网络的底层知识 」

道阻且长,行则将至 | 安远AI x 机器之心系列讲座圆满结束

如果我们正在制造强大的AI体系,这些体系对世界的了解超出了人类所了解的,而我们却不能让体系告诉我们它们真正相信什么,这就相当令人担忧了。 —Alignment Research Center 创始人、前OpenAI研讨员Paul Christiano

第5期:「AI对齐课题:机器学习和人类价值观」

道阻且长,行则将至 | 安远AI x 机器之心系列讲座圆满结束

我相信人工智能对齐课题将是将来十年最重要的科学和人类课题之一。—《算法之美》作者Brian Christian

第6期:「大模型时代的AI危险和危险 」

道阻且长,行则将至 | 安远AI x 机器之心系列讲座圆满结束

我们实际上看到的是,模型的功能通常比预期的进展快,但其危险性能的进展慢于预期。我认为这是一个大课题,应该激发更多使AI模型更危险的工作。—加州伯克利分校助理老师Jacob Steinhardt

虽然讲座告一段落,但是AI危险、靠得住、可控的事业方兴未艾。正如各位嘉宾在演讲中都不约而同提到的:AI对齐课题对于全人类将来至关重要,但也非常难,需要更多人才投入该范畴进行研讨。安远AI致力于召集关注AI危险和危险研讨等课题的人们,为志同道合者打造社区。六次讲座以来,感谢2300余位朋友对我们的支持,目前已有430余位朋友加入安远AI社区,我们也为近100位朋友赠予AI危险相关册本——《AI新生》,并征集书评,期待这些讲座与册本能成为我们彼此沟通的桥梁。

征集书评:https://mp.weixin.qq.com/s/3D-KX1OgQs77sJLkRDfcfQ

我们也期待能够让更多人来了解我们的事业,目前配有双语字幕的六期讲座视频均已上传至安远AI的哔哩哔哩空间,欢迎大家的收藏和关注。

https://space.bilibili.com/1535378668

无论你是否观看了我们的讲座,如果你对AI危险、对齐等范畴感兴趣,乃至于希望从事相关工作、引导人工智能正向发展,都欢迎你申请安远AI社区提供的收费咨询。

收费咨询申请表:https://www.wjx.cn/vm/w7vgE0T.aspx

关于安远AI

安远AI的使命是融合各方,推动新兴科技长远向善发展,引领人机关系走向危险、可信、靠得住的将来。安远AI致力于建立人工智能危险和危险研讨的手艺社区,旨在为青年学者同该范畴学术界和产业界搭建沟通桥梁。

原创文章,作者:新闻助手,如若转载,请注明出处:https://www.iaiol.com/news/dao-zu-qie-chang-xing-ze-jiang-zhi-an-yuan-aix-ji-qi-zhi/

(0)
上一篇 2022年 8月 5日 下午5:22
下一篇 2022年 8月 9日 下午8:35

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注