北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

想象一下,如果机器人能够听懂你的需要,并努力满意,是不是很美好呢?如果想让机器人帮助你,你通常需要下达一个较为精准的指令,但指令在实际中的实现效果不一定理想。如果考虑真实环境,当要求机器人找某个特定的东西时,这个东西不一定真的存在当前的环境内,机器人无论如何也找不到;但是环境当中是不是可能存在一个其他东西,它和用户要求的东西有类似的功能,也能满意用户的需要呢?这就是用 “需要” 作为义务指令的好处了。近日,北京大学董豪团队提出了一个新的导航义务 —— 需要驱动导航(Demand-driven Navigation,

想象一下,如果机器人能够听懂你的需要,并努力满意,是不是很美好呢?

如果想让机器人帮助你,你通常需要下达一个较为精准的指令,但指令在实际中的实现效果不一定理想。如果考虑真实环境,当要求机器人找某个特定的东西时,这个东西不一定真的存在当前的环境内,机器人无论如何也找不到;但是环境当中是不是可能存在一个其他东西,它和用户要求的东西有类似的功能,也能满意用户的需要呢?这就是用 “需要” 作为义务指令的好处了。

近日,北京大学董豪团队提出了一个新的导航义务 —— 需要驱动导航(Demand-driven Navigation,DDN),目前已被 NeurIPS 2023 接收。在这个义务当中,机器人被要求根据一条用户给定的需要指令,查找能够满意用户需要的东西。同时,董豪团队还提出了进修基于需要指令的东西属性特色,有效地提高了机器人查找东西的成功率。

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

论文地址:https://arxiv.org/pdf/2309.08138.pdf

项目主页:https://sites.google.com/view/demand-driven-navigation/home北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

                                     项目视频

义务说明

具体地说,在义务的一开始,机器人会收到一条需要指令,比如 “我饿了”,“我渴了”,然后机器人就需要在场景内查找一个能满意该需要的东西。因此,需要驱动导航本质上还是一个查找东西的义务,在这之前已经有类似的义务 —— 视觉东西导航(Visual Object Navigation)。这两个义务的区别在于,前者是告知机器人 “我的需要是什么”,后者是告知机器人 “我要什么东西”。北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

将需要作为指令,意味着机器人需要对指令的内容进行推理和探索当前场景中的东西种类,然后才能找到满意用户需要的东西。从这一点上来说,需要驱动导航要比视觉东西导航难很多。虽说难度增加了,但是一旦机器人学会了根据需要指令查找东西,好处还是很多的。比如:

用户只需要根据自己的需要提出指令,而不用考虑场景内有什么。

用需要作为指令可以提高用户需要被满意的概率。比如当 “渴了” 的时候,让机器人找 “茶” 和让机器人找 “能解渴的东西”,显然是后者包含的范围更大。

用自然语言描述的需要拥有更大的描述空间,可以提出更为精细、更为确切的需要。

为了训练这样的机器人,需要建立一个需要指令到东西的映射关系,以便于环境给予训练信号。为了降低成本,董豪团队提出了一种基于大语言模型的、“半自动” 的生成方式:先用 GPT-3.5 生成场景中存在的东西能满意的需要,然后再人工过滤不符合要求的。

算法设计

考虑到能满意同一个需要的东西之间有相似的属性,如果能学到这种东西属性上的特色,机器人似乎就能利用这些属性特色来查找东西。比如,对于 “我渴了” 这一需要,需要的东西应该具有 “解渴” 这一属性,而 “果汁”、“茶” 都具有这一属性。这里需要注意的是,对于一个东西,在不同的需要下可能施展阐发出不同的属性,比如 “水” 既能施展阐发出 “清洁衣物” 的属性(在 “洗衣服” 的需要下),也能施展阐发出 “解渴” 这一属性(在 “我渴了” 的需要下)。

属性进修阶段

那么,如何让模型理解这种 “解渴”、“清洁衣物” 这些需要呢?注意到在某一需要下东西所施展阐发出的属性,是一种较为稳定的知识。而最近几年,随着大语言模型(LLM)逐渐兴起,LLM 所施展阐发出的对人类社会知识方面的理解让人惊叹。因此,北大董豪团队决定向 LLM 进修这种知识。他们先是让 LLM 生成了很多需要指令(在图中称为 Language-grounding Demand,LGD),然后再询问 LLM,这些需要指令能被哪些东西满意(在图中称为 Language-grounding Object,LGO)。

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

在这里要说明,Language-grounding 这一前缀强调了这些 demand/object 是可以从 LLM 中获取而不依赖于某个特定的场景;下图中的 World-grounding 强调了这些 demand/object 是与某个特定的环境(比如 ProcThor、Replica 等场景数据集)紧密结合的。

然后为了获取 LGO 在 LGD 下所施展阐发出的属性,作家们使用了 BERT 编码 LGD、CLIP-Text-Encoder 编码 LGO,然后拼接得到 Demand-object Features。注意到在一开始介绍东西的属性时,有一个 “相似性”,作家们就利用这种相似性,定义了 “正负样本”,然后采用对比进修的方式训练 “东西属性”。具体来说,对于两个拼接之后的 Demand-object Features,如果这两个特色对应的东西能满意同一个需要,那么这两个特色就互为正样本(比如图中的东西 a 和东西 b 都能满意需要 D1,那么 DO1-a 和 DO1-b 就互为正样本);其他任何拼接均互为负样本。作家们将 Demand-object Features 输入到一个 TransformerEncoder 架构的 Attribute Module 之后,就采用 InfoNCE Loss 训练了。

导航策略进修阶段

通过对比进修,Attribute Module 中已经学到了 LLM 提供的知识,在导航策略进修阶段,Attribute Module 的参数被直接导入,然后采用模仿进修的方式进修由 A* 算法收集的轨迹。在某一个时间步,作家采用 DETR 模型,将当前视野中的东西分割出来,得到 World-grounding Object,然后由 CLIP-Visual-Endocer 编码。其他的流程与属性进修阶段类似。最后将对需要指令的 BERT 特色、全局图片特色、属性特色拼接,送入一个 Transformer 模型,最终输出一个动作。

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

值得注意的是,作家们在属性进修阶段使用了 CLIP-Text-Encoder,而在导航策略进修阶段,作家们使用了 CLIP-Visual-Encoder。这里巧妙地借助于 CLIP 模型在视觉和文本上强大的对齐能力,将从 LLM 中进修到的文本知识转移到了每一个时间步的视觉上。

实验结果

实验是在 AI2Thor simulator 和 ProcThor 数据集上进行,实验结果表明,该方法显著高于之前各种视觉东西导航算法的变种、大语言模型加持下的算法。

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

VTN 是一种闭词汇集的东西导航算法(closed-vocabulary navigation),只能在预先设定的东西上进行导航义务。作家们对它的算法做了一些变种,然而不管是将需要指令的 BERT 特色作为输入、还是将 GPT 对指令的解析结果作为输入,算法的结果都不是很理想。当换成 ZSON 这种开词汇集的导航算法(open-vocabulary navigation),由于 CLIP 在需要指令和图片之间的对齐效果并不好,导致了 ZSON 的几个变种也无法很好的完成需要驱动导航义务。而一些基于启发式搜索 + LLM 的算法由于 Procthor 数据集场景面积较大,探索效率较低,其成功率并没有很高。纯粹的 LLM 算法,例如 GPT-3-Prompt 和 MiniGPT-4 都施展阐发出较差的对场景不可见位置的推理能力,导致无法高效地发现满意要求的东西。

消融实验表明了 Attribute Module 显著提高了导航成功率。作家们展示了 t-SNE 图很好地施展阐发出 Attribute Module 通过 demand-conditioned contrastive learning 成功地进修到了东西的属性特色。而将 Attribute Module 架构换成 MLP 之后,性能出现了下降,说明 TransformerEncoder 架构更适合用于捕捉属性特色。BERT 很好提取了需要指令的特色,使得对 unseen instruction 泛化性得到了提升。

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

下面是一些可视化:北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

本次研究的通讯作家董豪博士现任北京大学前沿计算研究中心助理教授,博士生导师、博雅青年学者和智源学者,他于 2019 年创立并领导北大超平面实验室(Hyperplane Lab),目前已在 NeurIPS、ICLR、CVPR、ICCV、ECCV 等国际顶尖会议 / 期刊上发表论文 40 余篇,Google Scholar 引用 4700 余次,曾获得 ACM MM 最佳开源软件奖和 OpenI 杰出项目奖。他还曾多次担任国际顶尖会议如 NeurIPS、 CVPR、AAAI、ICRA 的领域主席和副编委,承担多项国家级和省级项目,主持科技部新一代人工智能 2030 重大项目。

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

论文第一作王鸿铖,现为北京大学计算机学院二年级博士生。他的研究兴趣聚焦在机器人、计算机视觉以及心理学,希望能从人类的行为、认知、动机方面入手,对齐人与机器人之间的联系。

北大具身智能团队提出需要驱动导航,对齐人类需要,让机器人更高效

参考链接:

[1] https://zsdonghao.github.io/

[2] https://whcpumpkin.github.io/

给TA打赏
共{{data.count}}人
人已打赏
工程

DevOps-Eval:蚂蚁集团联合北京大学发布首个面向DevOps规模的大语言模型评测基准!

2023-11-8 11:43:00

工程

用说话对齐多模态信息,北大腾讯等提出LanguageBind,刷新多个榜单

2023-11-9 14:30:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索