数学奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行

为了衡量机器学习模型的数学求解能力,来自 UC 伯克利和芝加哥大学的研究者提出了一个包含 12, 500 道数学比赛难题的新型数据集 MATH,以及帮助模型学习数学基础知识的预训练数据集 AMPS。研究发现,即使是大参数的 Transformer 模型准确率也很低。

许多学术研究探讨数学题目求解,但对于计算机而言这超出了其能力范畴。那么机器学习模型是否具备数学题目求解能力呢?

来自加州大学伯克利分校和芝加哥大学的研究者为此创建了一个新型数据集 MATH。该数据集包含 12, 500 道数学比赛难题,每个数学题都有完整的渐渐求解历程,可用来教机器学习模型天生谜底和解释。为了促进未来研究,提拔模型在 MATH 数据集上的准确率,研究者还创建了另一个大型辅助预训练数据集,它可以教模型数学基础知识。

尽管通过这些方法提拔了模型在 MATH 数据集上的准确率,但实验结果表明,准确率仍然很低,即使 Transformer 模型也不例外。研究者还发现,仅靠增加预算和模型参数量并不能实现强大的数学推理能力。扩展 Transformer 能够自动解决大多数文本任务,但目前仍无法解决 MATH 题目。

该研究第一作者 Dan Hendrycks 发推表示:

国际数学奥林匹克比赛(IMO)三金得主能达到 90% 的准确率,而 GPT-3 的准确率只能达到约 5%。

如果这一趋势持续下去,那么机器学习模型距离获得数学推理能力还很遥远。

数学奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行

数据集

这部分介绍两个新型数据集,一个是用于测试模型数学题目求解能力的 MATH 数据集,另一个是用于辅助预训练的 AMPS 数据集。

MATH 数据集

MATH 数据集包含 12, 500 个数学题目(其中 7500 个属于训练集,5000 个属于测试集),这些题目收集自 AMC 10、AMC 12、AIME 等数学比赛(这些数学比赛已经持续数十年,旨在评价美国最优秀的年轻数学人才的数学题目求解能力)。与大多数之前的研究不同,MATH 数据集中的大部分题目无法通过直接应用标准 K-12 数学工具来解决,人类解决这类题目通常需要用到题目求解技术和「启发式」方法。

基于这些数学题目,模型可以学习多种有用的题目求解启发式方法,且每个题目都有渐渐求解历程和最终谜底。具备渐渐求解历程的题目示例拜见下图 1:

数学奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行

该数据集的创建涉及以下重要步骤:

题目分类:该数据集中的题目难度不同,并涉及多个主题,包括算术、代数、数论、计数与概率、几何、中级代数、预备微积分。研究者按照对人类而言从易到难的程度将题目难度等级标注为 1-5。

格式化:使用 LATEX 和 Asymptote 矢量图语言将数学题目及其解进行统一格式化。

自动评价天生的谜底:MATH 数据集的独特设计使得研究者可以自动评价模型天生的谜底,即使模型输出空间非常大。

人类功能:为了估计人类功能,研究者从 MATH 测试集中随机采样了 20 个题目,交由高校学生回答。一位不喜欢数学的参与者对答了 8 道题(准确率 40%),两位喜欢数学的参与者分别对答了 14 题和 15 题,一位在 AMC 10 数学比赛中拿到满分并多次参加 USAMO 比赛的参与者对答了 18 道题,一位 IMO 三金得主也对答了 18 道题(准确率 90%)。这说明 MATH 数据集中的数学题目对于人类而言也是有一定难度的。

AMPS 数据集(可汗学院 + Mathematica)

预训练数据会对功能产生极大影响,而数学是在线文本的一小部分,于是该研究创建了一个大型多样化的数学预训练语料库。该预训练数据集 Auxiliary Mathematics Problems and Solutions (AMPS) 包括许多题目及 LATEX 格式的渐渐求解历程。

AMPS 数据集包含 10 万个收集自可汗学院的数学题目,和约 500 万通过手动设计 Mathematica 脚本天生的题目。该研究使用 Mathematica 的计算机代数系统天生数学题目,是为了便于操作分数、超越数和解析函数。

这些题目涉及多个主题,包括代数、微积分、计数与统计、几何、线性代数,以及数论(拜见下表 1)。

数学奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行

实验

模型功能

研究者通过实验调查了模型在 MATH 数据集上的功能,发现即使最优模型的准确率也很低。此外,与大多数基于文本的数据集不同,该数据集上的准确率增速随着模型规模的扩大而越来越慢。如果这一趋势继续,则要想在 MATH 数据集上取得较大进展,我们需要的不只是模型扩展,而是算法改进。

下表 2 表明,最小模型 GPT-2(0.1 billion 参数量,基线模型)在 MATH 数据集多个主题上的平均准确率为 5.4%,而 GPT-2(1.5 billion 参数量,参数量是基线模型的 15 倍)的平均准确率为 6.9%,相比基线提拔了 28%。这表明与大部分其它基于文本的任务不同,在 MATH 数据集上增加模型参数确实有所帮助,但模型的绝对准确率仍然很低,且增速缓慢。

数学奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行

此外,研究者测试了使用 AMPS 预训练的效果。未经 AMPS 预训练时,GPT-2 (1.5B) 模型在 MATH 数据集上的准确率为 5.5%;而经过 AMPS 预训练后,GPT-2 (1.5B) 在 MATH 数据集上的准确率为 6.9%(拜见表 2),准确率提拔了 25%。也就是说,AMPS 预训练对准确率的提拔效果相当于参数量 15 倍增加的效果,这表明 AMPS 预训练数据集是有价值的。

渐渐求解

研究者对渐渐求解历程进行了实验,发现模型在得到谜底前先天生渐渐求解历程会导致准确率下降。研究者利用 GPT-2 (1.5B) 进行评价,发现模型功能有所下降,从 6.9% 下降到了 5.3%。

研究者还对这些天生的渐渐求解历程进行了定性评价,发现尽管很多步骤看似与题目相关,但其实存在逻辑题目。示例拜见下图 3、4:

数学奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行

图 3:题目、GPT-2 (1.5B) 模型天生的渐渐解、真值解。

数学奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行

图 4:题目、天生解和真值解示例。

不过,研究人员发现渐渐求解仍能带来一定好处:提供部分真值渐渐求解历程可以提拔功能,在训练历程中为模型提供渐渐求解历程可以提拔准确率。下图 6 展示了 GPT-2 (0.7B) 模型使用不同部分求解历程的准确率变化。

数学奥赛冠军都做不对的题,却被拿来考ML模型?GPT-3:我不行

原创文章,作者:机器之心,如若转载,请注明出处:https://www.iaiol.com/news/shu-xue-ao-sai-guan-jun-dou-zuo-bu-dui-de-ti-que-bei-na-lai/

(0)
上一篇 2021年 3月 16日 下午2:36
下一篇 2021年 3月 19日 上午11:23

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注