ICLR2022:清华、腾讯AI Lab共同提出等变图力学网络,实现多刚体物理体系摹拟

清华 AIR、计算机系与腾讯 AI Lab 合作,共同提出等变图力学网络,实现了理论力学中的一类重要任务—多刚体体系摹拟。

近年来,AI for Science 操纵人工智能步骤与物理、化学、生物等自然科学进行交叉融合,在一些重要的科学问题上(如蛋白质结构展望)取得了瞩目的进展。鉴于物理学科的基础性与重要性,AI+Physics 无疑是 AI for Science 不可缺失的一环。为此,清华 AIR、计算机系与腾讯 AI Lab 合作共同发表论文《Equivariant Graph Mechanics Networks with Constraints》, 提出等变图力学网络,实现了理论力学中的一类重要任务—多刚体体系摹拟。论文已被 ICLR2022 接收。这一项目也收到了来自腾讯 AI Lab 犀牛鸟专项研究计划的资助。 

图片

论文地址:https://openreview.net/forum?id=SHbhHHfePhP

开源代码:https://github.com/hanjq17/GMN

一、引言多体问题(N-body problem)是物理学的基础问题,广泛存在于诸多任务中,例如电子绕原子核运动、份子动力学摹拟、机械体系(如机械臂)的动力控制、宇宙天体的轨迹展望等,都可以表示成多体问题。多体问题通常不存在解析解,其求解需要冗长的数值计算。近年来,机器学习研究人员操纵图神经网络(Graph Neural Network, GNN)从数据中挖掘多体体系的演化规律,为多体问题的求解提供了一个全新的思路。该类步骤把物体建模成节点,把物体之间的交互建模成连边,训练好的 GNN 直接展望体系的未来情态。

图片

图 1 从多体问题到多刚体体系摹拟尽管如此,现有步骤仍然没有很好实现对多刚体体系(Multi-rigid system)的摹拟。多体问题一般假设每一个物体是独立粒子,而在实际问题中,物体之间很可能存在若干自在,形成多刚体体系。实际上,多体问题是多刚体体系的一种特殊形式。如图 1(b)所示,粒子和粒子之间通过连杆连接(连杆两端的粒子只能相对转动),不同连杆可以通过搭钮连接(搭钮两端的连杆只能相对转动)。多刚体体系是理论力学模型中的最常见形式,在机械体系动力学控制中尤为普遍。为了更好地刻画多刚体体系的动力学规律,本文提出一种新颖的图神经网络——图力学网络(Graph Mechanics Network, GMN)。GMN 具备几个优点:1.GMN 满足刚体的若干自在,输出不会改变输入的若干属性(如棍子的长度、搭钮的连接等)。2.GMN 是欧氏等变(Equivariant)的,即对输入做任何平移、旋转、翻转,输出都相应地改变。这操纵了物理规律关于空间是均匀对称的这一特点,作为模型的归纳偏置,很好地提高了模型的泛化性和解释性。3. 理论上,GMN 具有良好的表达能力,能很好地逼近任何等变的函数。我们构造了一个由一定数量的球、棍子和搭钮组成的虚拟物理体系,GMN 比其他步骤更准确地展望这些体系演变,并满足上述所说的性质。此外,在实在的使用场景包括份子动力学摹拟和人体骨架轨迹展望等,GMN 也表现出最好的展望效果。

二、步骤简介

图片

图 2 刚体体系的两种表示步骤:左子图操纵笛卡尔坐标描述体系情态,不同坐标存在若干自在;右子图操纵广义坐标描述体系情态,不同坐标完全解耦我们的任务是给定多刚体体系的初始情态,操纵提出的图力学网络展望其未来情态。在理论力学中,为了满足刚体体系的若干自在,需要引入广义坐标来表示体系的情态。如图 2 所示,我们以棍子为例,在左子图中,棍子两端球 1、球 2 的笛卡尔坐标分别是图片。因为存在棍子长度自在,所以两个球的运动过程中需要满足两者相对距离不变;换句话说,操纵笛卡尔坐标系表示体系的情态,需要引入额外的自在条件,不便于采用神经网络来端到端地表征体系演化规律。为了克服这个困难,我们引入广义坐标系。如图 2 右子图所示,可以通过棍子的中心 0 点的笛卡尔坐标图片,以及棍子的相对转角图片,来表示棍子的情态。同时,图片可以独立变化,始终不改变棍子的长度,特别利于使用神经网络进行建模。具体而言,为了刻画多刚体体系的变化过程,我们的步骤主要包含 4 部分:1. 在笛卡尔坐标空间计算每一个球受到其他刚体的作用力;2. 操纵逆向动力学把每一个刚体的受力转化成广义坐标的加速度变化;3. 对广义坐标进行革新;4. 操纵前向运动学,将革新后的广义坐标映射到笛卡尔坐标空间。值得指出的是,受力的计算、逆向动力学、前向运动学都是通过等变神经网络来实现,极好地满足了物理学的对称性。如果我们把整个体系的初始情态旋转 90 度,我们的模型对未来情态的展望也会精准地旋转 90 度。通过引入这样的物理先验,我们能提高模型的泛化性和可解释性。下面简要介绍每一部分过程。1. 相互作用力的计算。在本文中,我们认为不同刚体中不同的球会发生相互作用,即所有的球组成全连接图。对于每一个球i,它的受力的计算为:图片,即,每两个球的受力与其相对距离图片有关。2. 逆向动力学。基于每一个刚体图片上所有受力及其分布,我们计算广义坐标的加速度为:图片图片是相对位置,图片是相对速度。直观上,这个公式是基于刚体上每一个球的受力及其在刚体局部坐标下(也就是广义坐标系)的情态推算出广义坐标系的加速度。3. 广义坐标革新。有了加速度,我们就可以革新广义坐标的速度和位置:图片。4. 前向运动学。得到了革新后的广义位置和速度,我们就可以通过前向运动学对每一个刚体内每一个球的笛卡尔坐标进行革新:图片。需要指出的是,FK 可以是手工设置(Hard version),保证笛卡尔坐标革新始终满足自在;FK 也可以是自动学习的(Soft version),从数据中学习自在,但是不能精确保证自在条件。为了简便,以上过程没有考虑每一个节点的隐层变量图片,和广义坐标角度图片。读者可以通过查阅原论文得到更多这方面的细节。三、理论分析

上文提到的函数均为欧氏等变函数图片。不失一般性,我们记正交等变函数图片。我们定义,

图片

其中,图片为参数是图片的任意多层感知机(MLP)。很容易可以证明上述定义的等变性,即对于任意正交矩阵图片。实际上,我们这里的定义是 EGNN[1]的更一般形式,从向量形式扩展为矩阵形式。我们还可以证明,这样定义的正交等变函数具有很好的表达能力。【定理 1】如果图片,行满秩,即图片,那么对于任意连续的正交等变函数图片,一定存在某个图片使得图片充分逼近图片,即,图片任意小。三、实验结果1. 为了验证 GMN 的有效性,我们构造了一个仿真数据集 Constrained N-body。该数据集的每一个数据(也就是每一个体系)是由一定比例的孤立球、棍子、搭钮组成。下图,GMN 操纵连续的初始情态展望未来多帧情态。通过对比 GMN 展望效果(蓝色)与实在情态(红色),可以看到,GMN 能非常准确地拟合实在的动态过程。

图片

图片

图片

图 3 多刚体体系仿真结果(蓝色为展望结果,红色为实在情态)以下表格提供了在不同刚体组合的体系中,GMN 与当前步骤的展望精度对比,可以看出 GMN 输出更小的展望误差,显著优于其他步骤。 

图片

2. 除了仿真数据,我们还在两个实在数据集:人体运动捕捉 CMU Motion Capture 和份子动力学轨迹 MD17,验证 GMN 在实际使用中的潜力。2.1 CMU Motion Capture 是一个记录人类动作捕捉轨迹的数据集。在这个数据中,人体骨架可以看成是一种刚性自在。在 CMU Motion Capture 上,GMN 的展望轨迹几乎与实在轨迹重合。

图片

图片

图片

图 4 人体骨架运动捕捉(蓝色为展望结果,红色为实在情态)以下是不同步骤的展望误差:

图片

2.2 MD17 是份子动力学摹拟的经典数据集,其包含 8 种份子的动力学运动轨迹,以下展示了 8 个份子的的份子结构:

图片

在这个数据集上的任务是,根据当前情态份子构象展望间隔 t 时间后份子的情态。下表是 GMN 和各个步骤的对比结果。

图片

四、结论本文介绍了图力学网络(GMN)的构造与理论分析。借助广义坐标,GMN 能有效刻画若干自在;借助等变神经网络,GMN 能满足物理对称性。在多刚体仿真体系 Constrained N-body、人体骨架展望 CMU Motion Capture、份子动力学摹拟 MD-17 等任务上都验证了 GMN 的有效性。未来,GMN 可以用于更复杂、更大体系的物理体系动力学摹拟。[1] Satorras V G, Hoogeboom E, Welling M. E (n) equivariant graph neural networks[C]//International Conference on Machine Learning. PMLR, 2021: 9323-9332.关于 AIR清华大学智能产业研究院(Institute for AI Industry Research, Tsinghua University,英文简称 AIR)是面向第四次工业革命的国际化、智能化、产业化的使用研究机构。AIR 的使命是操纵人工智能技术赋能产业升级、推动社会进步。通过大学与企业创新双引擎,突破人工智能核心技术,培养智能产业领军人才,推动智能产业跨越式发展。AIR 于 2020 年由多媒体及人工智能领域的世界级科学家、企业家张亚勤院士创建。智慧交通(AI+Transportation)、智慧物联(AI+IoT)、智慧医疗(AI+Healthcare)是清华大学智能产业研究院的三个重点研发方向。扫一扫,关注我们:

图片

腾讯 AI Lab腾讯的企业级 AI 实验室,于 2016 年 4 月在深圳成立,目前有 100 多位顶尖研究科学家及 300 多位使用工程师。借助腾讯丰富使用场景、大数据、计算力及一流人才方面的长期积累,AI Lab 立足未来,开放合作,致力于不断提升 AI 的认知、决策与创造力,向 “Make AI Everywhere” 的愿景迈步。腾讯 AI Lab 强调研究与使用并重发展。基础研究关注机器学习、计算机视觉、语音技术及自然语言处理等四大方向;技术使用聚焦在游戏、数字人、内容、社交四大领域,并初探 AI 在工业、农业、医疗、医药、生命科学等领域的研究使用。详情可访问:ai.tencent.com

原创文章,作者:机器之心,如若转载,请注明出处:https://www.iaiol.com/news/iclr2022-qing-hua-teng-xun-ailab-gong-tong-ti-chu-deng-bian/

(0)
上一篇 2022年 3月 27日 下午12:46
下一篇 2022年 3月 27日 下午1:02

相关推荐

  • 服务量化投资,基于学问图谱的事宜表征框架钻研入选SIGIR

    瞰点科技和上海交大的钻研团队提出了一种服务于量化投资的基于学问图谱的事宜表征框架,称为 Knowledge Graph-based Event Embedding Framework(KGEEF)。通过在真实股票市场上进行的大规模实行表明,本文提出的格式显著有助于量化投资的政策提升。

    2021年 8月 22日
  • 呆板之心CVPR线下论文分享会干货集锦,同时邀你报名ACL 2021论文分享会

    随着人工智能的火热,AAAI、NeurIPS、CVPR 等顶级学术会议的影响力也愈来越大,每年接收论文、参会人数的数量连创新高。但受疫情影响,近两年国外举办的学术会议都转为了线上,无法满足学者们现场交流的需求。以 CVPR 为例,2019 年,CVPR 注册参会人数高达 9227 人,其中来自国内的参会人数就达到 1044 位。因此,在 2020 年和 2021 年,国内 AI 从业者因疫情限制无法进行有效的学术交流。

    2021年 7月 1日
  • 279位佳宾、19个论坛议程全公开,第五届未来调理100强大会亮点抢先看!

    从个人健全到群体卫生,从调理服务机构及其家当链到全球调理健全家当生态,调理健全领域正在经历一场前所未有的数字化浪潮,随着生物技术、信息技术、新材料与智能制造三大技术的不断突破翻新与融合,个体的生命健全如何重新理解?纷繁复杂生物世界如何被捕捉、解读、计算?2021年4月16日-18日,第五届未来调理100强大会将以“生命的计算”为主题,在姑苏吴江与大家会面。大会时间:2021年4月16-18日(周五-周日)大会地点:姑苏·吴江·艾美酒店主办单位:动脉网、VB100、

    2021年 4月 6日
  • 典范教材《统计进修导论》第二版来了,新增深度进修等内容,免费下载

    典范的《统计进修导论》又出第二版了,相比于第一版,新版增加了深度进修、生存剖析、多重测试等内容,可免费下载。

    2021年 8月 8日
  • 295页博士论文探索加强进修形象表面,获AAAI/ACM SIGAI博士论文奖提名

    除了论文本身超有技术含量之外,文中使用的图表也非常美观漂亮。

    2022年 3月 20日
  • 特朗普签行政令禁用8款华夏APP:支付宝、微信、QQ在列

    若行政令失效,45 天之后这些利用在美国的交易将视为非法。

    2021年 1月 6日
  • 安谋华夏首款ISP处置惩罚器“小巧”面世,IP产物线逐渐完善

    12月3日,安谋华夏发布了全新“小巧”多媒体产物线,其中首款产物“小巧”i3/i5 ISP处置惩罚器由安谋华夏本土团队自主研发,在降噪、清晰度和宽动静等指标上达到业界领先水平,具有高画质、低延时、可配置能力强、扩展兼容性高等特点。该款ISP处置惩罚器可广泛适用于安防监控、AIoT及智能汽车等领域的视频、图象处置惩罚工作,满足分歧场景的数据处置惩罚需要。安谋华夏产物研发常务副总裁刘澍表示:“近年来,伴随着智能化、网络化的发展,视频图象处置惩罚被广泛应用于智能安防、AIoT、智能汽车等诸多领域。受益于这些应用在华夏的蓬勃发展,华夏ISP市

    2020年 12月 7日
  • 9亿训练集、通用CV任意,微软打造Florence模型打破分类、检索等多项SOTA

    来自微软的研讨者另辟蹊径,提出了一种新的计算机视觉基础模型 Florence。在广泛的视觉和视觉 – 语言基准测试中,Florence 显著优于之前的大规模预训练方法,实现了新的 SOTA 结果。

    2021年 11月 24日
  • 科研产业即将迎来AI赋能拐点

    「机器之心2021-2022年度AI趋势大咖说」聚焦「驱动未来的AI技术」与「重塑产业的AI科技」,推出线上分享,共邀请近40位AI领域知名学者、产业专家及企业高管通过主题分享及多人圆桌等形式,与行业精英、读者、观众共同回顾 2021年中的重要技术和学术热点,盘点AI产业的年度研究方向以及重大科技突破,展望2022年度AI技术发展方向、AI技术与产业科技融合趋势。

    2022年 7月 22日
  • 「Pop SOTA!List for AI Developers 2021」社区评估 TOP 128 代价处事完整名录发布!

    2022 年初,我们对 2021 年度发布于 arXiv 的「SOTA」AI 论文进行了一轮分析,试图找到 2021 年度,对 AI 开发者最具代价的「Pop SOTA!」处事。但面对超过 2 万篇的「SOTA」处事,我们产生了疑惑 —— 自称「SOTA」的处事就一定是先进的吗?对广大 AI 开发者来说,什么样才是先进的技术处事?是思路具有启发性?还是跑出的实验分数高?是易于实现,对数据资源、计算资源的需求可控?还是放出的代码实现即插即用,可用性强?

    2022年 1月 27日

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注