机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

​作为国际最受关注的自然谈话处理顶级会议,每年的 ACL 都吸引了大量华人学者投稿、参会。今年的 ACL 大会已是第 60 届,于 5 月 22-5 月 27 日期间举办。

为了给国内 NLP 社区的从业人员搭建一个自由轻松的学术交流平台,2022 年 5 月 21 日,机器之心举办了「ACL 2022 论文分享会」线上学术交流活动。 本次 ACL 论文分享设置了 Keynote、 论文分享、企业招聘等环节,就业内关注的 Transformer、大规模预训练模型等 NLP 热门中心邀请顶级专家、论文作者与观众做学术交流。全程回放:https://jmq.xet.tech/s/2yGuAyKeynote在上午的 Keynote 环节,哈尔滨工业大学长聘传授、博士生导师秦兵以《大模型背景下可信自然谈话明白》为中心进行了分享。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

哈尔滨工业大学长聘传授、博士生导师秦兵。 当前,以 BERT、GPT 为代表的、数据驱动的大规模预训练自然谈话明白模型已经在多个自然谈话明白任务上取得了令人印象深刻的性能,成为自然谈话明白的新范式。然而,当前大模型给出的自然谈话处理结果在可信程度上还比较薄弱,次要体现在三个方面:模型的稳定性差、可解释性弱、泛化能力不足。 在本次报告中,秦兵介绍了如何在大模型背景下进行可信自然谈话明白的问题。首先,针对大模型稳定性差的问题,介绍因果机制引导的稳定自然谈话明白方法;其次,针对大模型可解释性弱的问题,介绍鉴于神经符号的可解释自然谈话明白方法。最后,针对大模型泛化性不足的问题,介绍面向低资源的可泛化大模型训练架构。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

随后,加州大学圣巴巴拉分校计算机科学系助理传授李磊分享了《大规模多谈话翻译:挑战与机遇》中心报告。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

加州大学圣巴巴拉分校计算机科学系助理传授李磊。 李磊认为,可翻译很多谈话的大一统翻译模型已经成为最新热点。大一统多谈话翻译模型具有翻译性能强、工程部署便利等好处,但要让一个模型在几十到上百种谈话上都能翻译较好仍有很大挑战。 在本次报告中,李磊介绍了大规模多谈话翻译的几个核心挑战,包括大语种性能下降、参数冲突、数据高度不平衡等;同时,他也概述了解决这些挑战的方法,以及未来研究的机遇。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

下午 Keynote 环节的嘉宾是复旦大学计算机学院传授邱锡鹏与西湖大学工学院文本智能实验室特聘研究员张岳。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

复旦大学计算机学院传授邱锡鹏。 邱锡鹏传授的报告中心是《迈向大规模高效自然谈话处理》。近期超大规模预训练模型将很多 NLP 任务的准确率提升到了前所未有的高度,但是大模型的次要缺点是在参数、训练、推理、部署方面都存在效率问题。在本次报告中,他次要关注模型效率,并介绍如何通过模型设计、早退、标签进修、统一模型、黑箱优化等维度来提升模型效率。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

张岳的分享中心是《人在闭环的自然谈话处》。随着深度进修的发展,自然谈话处理取得显著进步,在许多标准测试集上接近或超越了人类的水平。然而,深度进修模型也展现出鲁棒性和逻辑推理等方面的局限。近期研究显示,这些局限的重要原因是模型没有学到关键特征,而是依赖伪特征进行判断。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

西湖大学工学院文本智能实验室特聘研究员张岳。 为解决上述问题,张岳在本次报告中介绍了两个人工介入干预的办法,提升关键特征把握。实验证明,对于情感分类问题,关键特征可以让模型通过 50 个样本达到 3000 个样本的训练效果。对于机器翻译问题,人工干预不仅可以大幅提升性能,还给翻译产品提供了一个新的可能模式。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

论文分享论文分享环节也分为上、下午两场。在上午的分享中,腾讯 QQ 浏览器搜索技术部高级工程师唐萌、阿里达摩院算法工程师魏相鹏、清华交叉信息研究院博士生周璟、香港中文大学计算机系博士生 / 腾讯 AI Lab 研究员王文轩以及清华大学博士生泰禹嘉分享了他们的最新成果。唐萌的分享中心是「鉴于区分开关键词和意图词的文本语义匹配」,次要盘绕他们的 ACL 2022 吸收论文《Divide and Conquer: Text Semantic Matching with Disentangled Keywords and Intents》睁开。在这项工作中,他们提出了一种简单而有效的文本语义匹配训练策略,采用分而治之的方法将关键词和意图词区分开来。他们的方法可以很容易地与预训练谈话模型结合在一起,而不会影响它们的推理效率。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

魏相鹏的分享中心是「鉴于连续语义巩固的神经机器翻译」,次要盘绕他们的 ACL 2022 吸收论文《Learning to Generalize to More: Continuous Semantic Augmentation for Neural Machine Translation》睁开,该论文也获得了今年 ACL 杰出论文奖。在这篇论文中,他们提出了一种新的数据巩固范式连续语义巩固(CSANMT),它为每个训练实例增加一个邻接语义区域,该语义区域可以覆盖足够的相同含义下的文字表达变体。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

周璟的分享中心是「面向小样本进修的高效、鲁棒的数据巩固」,次要盘绕他们的 ACL 2022 吸收论文《FlipDA: Effective and Robust Data Augmentation for Few-Shot Learning》睁开。在这篇论文中,他们提出了一种用于小样本进修的数据巩固方法——FlipDA,它联合使用生成模型和分类器来生成标签翻转数据。FlipDA 的核心思想是发现生成标签翻转的数据比生成 label-preserved 的数据对性能更重要。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

王文轩的分享中心是「明白和改进针对机器翻译任务的序列到序列预训练」,次要盘绕他们的 ACL 2022 吸收论文《Understanding and Improving Sequence-to-Sequence Pretraining for Neural Machine Translation》睁开。在这篇论文中,他们提出了一个能够更好地明白神经机器翻译 SOTA Seq2Seq 预训练的实质性措施。通过对三种谈话对的精心设计实验,他们发现 Seq2Seq 预训练是一把双刃剑:一方面,它有助于 NMT 模型产生更多样化的翻译,减少与 和忠实度(adequacy) 相关的翻译错误。另一方面,Seq2Seq 预训练和 NMT 微调之间的差异限制了翻译质量(即 domain discrepancy),并导致了高估问题(即 objective discrepancy)。鉴于这些观察结果,他们进一步提出了简单而有效的策略——in-domain 预训练和输入适应,以弥补 domain discrepancy 和 objective discrepancy。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

泰禹嘉的分享中心是「面向新数据的谈话模型持续高效预训练」,次要盘绕他们的 ACL 2022 吸收论文《ELLE: Efficient Lifelong Pre-training for Emerging Data》睁开。在这篇论文中,他们提出了 ELLE,旨在利用新出现的数据对模型进行有效的终身预训练。具体而言,ELLE 包括:(1) function preserved model expansion,灵活扩展现有 PLM 的宽度和深度,提高知识获取效率;(2)pretrained domain prompts ,将预训练过程中进修到的通用知识进行分解,激发出适合下游任务的知识。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

在下午的分享中,小米人工智能实验室高级算法工程师李嫣然、字节跳动 AI Lab 研究员鲍宇、西安大略大学 / 矢量人工智能研究所博士生王馨頔、中科院自动化所模式识别国家重点实验室博士生林海涛、北京航空航天大学博士生王冰分享了他们的最新成果。李嫣然的分享中心是「鉴于混合策略和常识图谱的情绪疏导对话」,次要盘绕他们的 ACL 2022 吸收论文《MISC: A Mixed Strategy-Aware Model integrating COMET for Emotional Support Conversation》睁开。在这篇论文中,他们提出了一种新的情绪疏导对话模型——MISC,该模型首先推断用户的细粒度情绪状态,然后使用混合策略巧妙地做出反应。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

鲍宇的分享中心是「一种鉴于隐变量建模的并行文本生成模型」,次要盘绕他们的 ACL 2022 吸收论文《latent-GLAT: Glancing at Latent Variables for Parallel Text Generation》睁开。在这篇论文中,他们提出了一种名为 latent-GLAT 的模型,它利用离散隐变量来捕获词的分类信息,并调用一种高级课程进修技术,缓解了多模态问题。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

王馨頔的分享中心是《知识巩固的端到端生物医学文本标签》,次要盘绕他们的 ACL 2022 吸收论文《KenMeSH: Knowledge-enhanced End-to-end Biomedical Text Labelling》睁开。在这篇论文中,他们提出了一个端到端生物医学文本标签模型 KenMeSH,它结合了新的文本特性和一个动态的知识巩固的掩蔽注意力,后者集成了文档特性、MeSH 标签层次结构和期刊相关特性来索引 MeSH 术语。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

林海涛的分享中心是「鉴于角色交互的面向角色的对话摘要方法」,次要盘绕他们的 ACL 2022 吸收论文《Other Roles Matter! Enhancing Role-Oriented Dialogue Summarization via Role Interactions》睁开。在这篇论文中,他们提出了一种新的角色交互巩固方法,用于面向角色的对话摘要。它采用交叉注意力和解码器自注意力交互,交互获取其他角色的关键信息,这对提高摘要质量非常关键。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

王冰的分享中心是「Text-to-SQL 模型对真实对抗性表格扰动的鲁棒性研究」,次要盘绕他们的 ACL 2022 吸收论文《Towards Robustness of Text-to-SQL Models Against Natural and Realistic Adversarial Table Perturbation》睁开。在这篇论文中,他们提出用 Adversarial Table Perturbation (ATP) 作为一种新的攻击范式来衡量 Text-to-SQL 模型的鲁棒性。鉴于这一想法,他们策划了 ADVETA,这是第一个具有自然和真实 ATPs 的鲁棒性评估基准。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

除了嘉宾 Keynote 和论文分享之外,本次 ACL 论文分享会还设置了两场企业招聘宣讲,包括百亿量化对冲基金佳期投资和深耕算法交易垂直领域的卡方科技,前者提供了量化策略研究员、深度进修研究员、高性能计算工程师、技术项目经理、执行交易员等职位,后者提供了初级量化分析师、量化实习生、强化进修专家等职位。感兴趣的同学可以点开以下文章了解详情:

佳期投资春季社招火热进行中!

招聘|实战 AI 量化,卡方科技邀你入局「算法交易」

最后预告一下,机器之心举办的下一场分享会——CVPR 2022 线上论文分享会将于 2022 年 6 月 18 日 9:00-17:00 在线上举办,上下午各设置 2 场 keynote 报告、5 篇论文分享,并将在机动组视频号直播,欢迎大家关注预约。

机器之心ACL 2022论文分享会干货集锦,6月邀你来CVPR分享会

作为一场开放的学术交流活动,欢迎 CVPR 2022 的论文作者们作为嘉宾参与论文分享。点击阅读原文,提交个人与论文信息,我们将与你联系沟通相关事宜。

原创文章,作者:机器之心,如若转载,请注明出处:https://www.iaiol.com/news/ji-qi-zhi-xin-acl2022-lun-wen-fen-xiang-hui-gan-huo-ji-jin/

(0)
上一篇 2022年 5月 21日 下午4:43
下一篇 2022年 5月 31日 下午8:31

相关推荐

  • 准确率达 95%,机械进修猜测复杂新质料合成

    编辑/绿萝科学家和机构每年都投入非常多的资源来发明新质料,以期为燃料提供催化剂。随着自然资源的减少,以及对更高价值和先进性能产品的需求增长,钻研职员越来越多地关注到纳米质料。但识别新质料的连续尝试方法对质料发明施加了不可逾越的限制。近日,美国西北大学和丰田钻研所(TRI)的钻研职员应用机械进修来指导新纳米质料的合成,消除了质料发明相关的障碍。这种训练有素的算法,可通过界说数据集来准确猜测可用于清洁能源、化学和汽车行业燃料的重要催化剂。该钻研以「Machine learning–accelerated design

    2021年 12月 30日
  • 古代首次打败特斯拉,成韩国消费者最中意的EV品牌

    2021韩国电动汽车博览会(xEV TRENDKOREA 2021)从上月19日至本月14日面向1467名民众,实施电动汽车采办喜好观察,于28日发布结果显示,古代力压特斯拉,成为韩国消费者最偏好的电动汽车品牌,古代击败特斯拉是该观察自2018年起开始实施后的首次。 观察还显示,87%的受访者称未来5年内有采办电动汽车的理想,较去年增长了23%。近年电动汽车品牌趋于多样化,消费者对于电动汽车的关注度和采办理想也大幅上升。消费者采办电动汽车时最注重最大续航里程、充电站设施、价格、购车贴补等。受访者认为电动汽

    2021年 5月 28日
  • 3D传感器芯片技能全球率先,灵明光子完成数亿元C轮融资

    新一代全球率先的3D传感器芯片服务商灵明光子完成数亿元C轮融资,领投方为美团龙珠,老股东昆仲资本和高榕资本继续加注,光源资本担任独家财务顾问。融资完成后,公司将加速推进产物量产,并继续在先进领域投入研发,保持技能率先性。灵明光子致力于用国际率先的单光子探测器(SPAD)技能,为手机、激光雷达、机器人、AR装备等提供自主研发的高性能dToF深度传感器芯片。自2018年成立以来,灵明光子已迅速完成多轮融资,并引入小米、OPPO、欧菲光等产业资本,显示出商场对于灵明光子dToF芯片研发能力和运用前景的看好。dToF(di

    2022年 4月 11日
  • 应用深度进修,通过一个片断润色进行份子优化

    编辑 | 萝卜皮份子优化是药物开发中的关键步骤,可通过化学润色改善候选药物的预期特征。来自俄亥俄州立大学(The Ohio State University)的研讨人员,在份子图上开发了一种新颖的深度天生模型 Modof,用于份子优化。Modof 通过猜测份子处的单个断开位点以及在该位点去除和/或添加片断来润色给定的份子。在 Modof-pipe 中实现了多个相同 Modof 模型的管道,以窜改多个断开位置的输入份子。研讨人员表明 Modof-pipe 能够保留主要的份子支架,允许控制中间优化步骤并更好地约束份子相

    2022年 1月 17日
  • 「清华系」视频天生公司生数科技宣布完成新一轮数亿元融资

    近日,北京生数科技有限公司(以下简称“生数科技”)宣布完成新一轮数亿元融资,由启明创投领投,达泰资本、鸿福厚德、智谱AI、老股东BV百度风投和卓源亚洲继续跟投。本轮融资将主要用于多模态基础大模型的迭代研发、应用产品立异及市场拓展。本轮由华兴资本担任独家财务顾问。生数科技成立于2023年3月,是全世界领先的多模态大模型公司,致力于图象、3D、视频等原生多模态大模型的研发。生数科技核心团队来自清华大学人工智能研究院,此外还包括来自北京大学和阿里巴巴、腾讯、字节跳动等科技公司的多位技能人才。此前公司

    2024年 3月 12日
  • MIT 10年研究总结数字化转型:仅15%用数字化创建新商业模式;一线职工是转型最大推动者

    2014年,《麻省理工斯隆办理评论》发表了名为《数字化转型的九大因素》的一篇文章,在业界引起轩然大波,不少企业就此认识到数字化转型的重要性。 6年后,数字化转型需求的技巧和方法都发生了很大的变化,作家经过大量的调研更新了数字化转型的因素,使之更契合时代状况,更具有实操性。 本篇文章将数字化转型分为客户体会转型、运营转型、商业模式转型、数字化平台转型,覆盖到企业运作的方方面面。文章表示,数字化转型并不仅仅是技巧上的,还有构造和商业模式上的,尤其强调一线职工在转型中的重要作用。文章同时也提到了大量优

    2020年 12月 18日
  • Interact Analysis 年度陈诉发布 见证极智嘉稳居全世界仓储机器人商场绝对领先地位

    近日,全世界权威研究机构Interact Analysis重磅发布《2022移动机器人商场陈诉》(The Mobile Robot Market-2022),对移动机器人在全世界仓储和制造范畴的运用现状、商场环境和发展趋势进行了全面分析和展望。陈诉指出,移动机器人商场在2021年大幅增进,从相对疲软的2020年有所回升,出货量增进超过70%。长期来看,劳动力稀缺、劳动力成本上升、电子商务增进、柔性制造转型这些驱动力将一如既往强劲,陆续推动着移动机器人商场发展。预测未来五年,移动机器人的出货量将继续以每年约50%的速度增

    2022年 11月 23日
  • 总奖金15万!第三届Person in Context比赛 with CVPR 2021 开始报名!

    主办方联合阿里巴巴淘系技术,奇虎360、商汤、马达智数等单位在CVPR2021上举办第三届Person in Context 比赛。

    2021年 4月 11日
  • 观点分享 | 格物钛智能科技产品专家李薇:非结构化数据平台的下层逻辑和场景化实践

    2021年12月30日,由中国人工智能产业发展联盟和中国信息通信研究院联合举办的 “AI数据治理技术沙龙”通过腾讯会议从事。格物钛智能科技产品专家李薇对非结构化数据平台的下层逻辑和场景化实践从事了介绍,分享了自己的见解与思考。

    2022年 3月 30日
  • 全职任教清华,73岁丘成桐受聘清华大学讲席老师

    首位华人诺贝奖获得者杨振宁学生,首位华人图灵奖获得者姚期智学生,首位华人菲尔兹奖获得者丘成桐学生,现已齐聚清华。正值清华大学求真学校建立一周年之际,担任求真学校院长的丘成桐正式宣布,将全职加入清华工作。4 月 20 日上午,丘成桐清华大学讲席老师聘任仪式在清华主楼接待厅举行。图源:清华大学新闻网在就职演讲中,丘成桐追忆了自己的老师、著名数学家陈省身学生,并表示自己接受清华大学的聘请、回到陈学生的母校任教,正是因为肩负着传承学生薪火、为祖国培育拔尖数学能人的使命。我在不同的场合阐释过数学的本质:数学是唯一与时不变的真

    2022年 4月 21日

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注