目前，野生智能技术在世界范围内热度极高，但却出现了“雷声大、雨点小”的现象。一方面，随着近年来深度学习技术的不断发展，计算能力的不断提高，更深更复杂网络的普及使用，加上深度学习端到端的特性，看起来好像野生智能就是端到端的标注，不断地做数据清洗，增加标注数据，加深模型参数，就可以实现计算机像人类一样工作。另一方面，野生智能在实际应用场景落地时经常失败，常听到有“只见野生，不见智能”，“有多少野生就有多少智能”的吐槽。因此，目前许多野生智能技术的实现现阶段还不能脱离野生经验。

野生智能落地须要野生智慧，这里核心在于结合场景和算法特点做合理的设计，而非关注更多标准化的标注或者设计更精深的算法网络。悲观是ToB的自然语言处置（NLP）公司，主要做办公文档自动处置。近年来在金融、政务、制造业等行业成功落地了非常多的NLP项目。

NLP也被誉为野生智能皇冠上的明珠，AI落地特别是NLP落地尤其不容易，通过机器处置办公文档远比从一堆图片中找出有猫的图片要复杂得多。因为让机器处置办公文档，往往存在缺少大量的训练语料情况，不同行业间须要处置的具体成绩千差万别，野生都须要专业培训甚至几年工作经验才能处置妥当。本文主要结合悲观的实践落地经验，探讨在具体NLP项目落地时，计算机“智能”须要哪些必不可少的“野生”。

“野生”化繁为简，拆解复杂成绩

野生智能难以落地的主要原因之一是要处置的成绩过于复杂，如果只靠算法模型的自学习，很难学到对应学问，从而作出正确决策，就像用大学生的题目考小学生，不大概考得好。但如果我们能野生对负责成绩举行拆解，分解成多个简单成绩，那每个简单的成绩大概通过模型就能解决。但如何拆解？拆解成什么程度模型是可以处置的呢？悲观的经验是：当面对一个NLP成绩，人类看完后立刻就能反应出结果的，这样的成绩模型就是我们定义的“简单成绩”，是机器可以解决的。下面以合同文档抽取的场景为例帮助大家理解。

假设我们须要构建模型从PDF格式的合同中抽取出甲方、乙方、违约条款等字段信息，看看机器是怎么一步步举行拆解的：

首先看机器的输入数据。PDF格式内部只是规定了每个字符或者线条应该在屏幕上什么位置，这些元素本身没有任何语义上的信息，在计算机看来这份文档其实只有字符以及其位置等简单信息，并没有人看渲染好的PDF文件的对齐、大小、重要性等更多信息。如果通过端到端的方式，把文字以及坐标一起输入到模型，让模型自己学习文档结构，理论上可以抽取出须要的字段。这种方式乍听之下可以一试，但实际效果是非常差的。因为让人看到一堆字和坐标，希望判断出抽取的字段，那本身就是非常复杂的事情，所以我们还须要进一步拆解。

文档解析模型负责解析PDF协议，并且通过一定算法将文档结构化，也就是转成章节、表格、段落等文字流，再输入到字段抽取的模型。这两个模型是否足够简单并能落地呢？

大部分文档下，哪个是文字块，哪个是表格，哪个是图片，人是可以瞬间判断出来的。而文字块拆成章节、标题、段落，尤其是有些文档段落开始并没有明显空格，那人还是须要仔细看，有时候还要分析上下文才能分析出来。所以我们将文档解析继续拆解成元素辨别模型和段落辨别模型。

对于字段抽取，有些字段比较简单，比如甲方、乙方，人眼就能看出结果，这些字段直接通过模型抽取成绩不大；有些字段稍微复杂一些，比如合同总金额有时候是在文本中的，有时候是在表格里面的，人在看的时候也须要反应一下才能得到信息，所以可以对字段抽取再举行拆解。表格里面须要专门的表格抽取模型，如果是无线表格，人在看的时候往往还须要将虚线举行对应，所以也可以拆出无线表格辨别的模型。文本抽取中，有些字段是长文本。比如违约条款，人在找的时候往往是通过前后文找到抽取的开始和结束，而短字段则更关注抽取本身以及上下文的内容。通过对每个步骤的复杂度举行分析，可以进一步拆解为下面结构。

这就是文档抽取常见的模型，但在实际使用中，根据具体数据情况以及分析字段的特点，大概还会再举行拆解。比如某些字段大概是在固定的某些章节或者段落中，用全局的文本举行训练和预测有很大的干扰，那我们就可以再增加一个字段章节预测的模型，定位该字段所在章节。再比如租房合同抽取的字段的文本是比较简单的选择性文本，对于模型来说也有一定困难。在销售合同文本中常常出现：

如果须要退货，采用B举行退货退款：

不能退货可以退货，收取20%赔偿可以退货，收取50%赔偿金

这样的文本则须要拆成2个模型，一个是抽取选择项的模型，另一个是抽取选择列表的模型。

“野生”模型选择与优化

模型选择也是须要“野生”经验的，须要结合标注数据规模、数据特点、模型难度等举行选择和处置。比如前面提到的章节预测的模型，如果章节标题特征比较明显，则可以直接通过关键词或者机器学习模型来举行分类处置，如果写法不太规范，须要通过章节标题和章节内容举行判断，则大概考虑基于bert的深度学习算法。就我们悲观的经验而言，不同模型，如果使用完全相同的数据，调优后效果差距在5%以内，如果场景能比较好的使用上预训练模型，比如bert，那效果能提升10%-15%。

选定模型之后，也可以通过增加一些特征从而进一步降低模型的难度，提高准确度。在垂直领域文档处置上，业务词典是常用的方法。业务词典包括了专有名词，也包括了字段的重要关键信息的特征。比如我们要抽取合同的乙方，对于公司采购而言，很多都是有供应商库的，或者说可以获得之前与他们签合同的乙方的名称。这个名称构成的词典大概不全，所以不能只靠这个来匹配，但将这个“乙方专有名词”输入模型作为参考特征，是非常有用的。字段的重要关键信息的特征，指的是抽取的这个字段非常关键的上下文。比如抽取“甲方”这个字段，虽然话术可以有多种，比如甲方是xxx，甲方：xxx，甲方是本次的承办单位xxxx等等，但基本都会带“甲方”几个关键字，所以如果把这些专有名词也加入模型，准确度往往会有不小的提升。下面这个是重要词（专有名词或者业务词）使用的例子。

假设“委员”和“委员会”是重要词。须要对“美国联邦通信委员会最近正式批准苹果展开5G通信试验”的每个字天生词向量。这里的方法是通过2-gram，3-gram，4-gram和5-gram对每个字举行编码，编成8个位，每种gram各2个位表示上文是否是重要词和下文是否是重要词。以“委”字为例编码方式为：

2-gram，就是“信委”和“委员”，“信委” 不是核心词，而“委员”是核心词，所以编码为“01”3-gram，就是“通信委”和“委员会”，“通信委” 不是核心词，而“委员会”是核心词，所以编码为“01”4-gram，就是“邦通信委”和“委员会最”都不是核心词，所以编码为“00”

5-gram，就是“联邦通信委”和“委员会最近”都不是核心词，所以编码为“00”

其他行业学问也可以用类似的方式天生字向量。把所有的行业向量和原始的字向量举行拼接，作为模型的输入，这样模型就能直接获得行业经验，从而有更好的效果。

“野生”构建学问图谱

有些文本成绩有很强的业务性，难以举行拆解，或者业务逻辑太复杂，很难让机器学习到对应的学问。清华大学野生智能研究院院长张钹院士在一次演讲中提到“人的智能没法通过单纯的大数据学习把它学出来，那怎么办？很简单，加上学问，让它有推理的能力，做决策的能力，这样就能解决突发事件。”悲观在落地实践中就是通过学问图谱来解决这种复杂的成绩。

学问图谱的概念由 Google 在 2012 年正式提出，是一种语义网络学问库，将现有学问的以结构化多干系图（Multi-Relational Graph）的形式举行储存、使用、展示形成。通过将多个实体干系三元组举行融合，形成包含多个不同的实体节点和多种类别的干系边的多干系图，即学问图谱。学问图谱落地也有很多挑战，构建和维护学问图谱的工作量是非常大的，很多项目因为构建过程太过复杂而最终失败。须要合理设计和运用学问图谱，也须要“野生”经验。悲观通过学问图谱辅助智能制造有很多成功的落地案例，下面结合实际应用场景，谈下里面的一些经验。

生产制造过程中，有很多时候会遇到一些故障，比如手机发热，螺丝拧不上等成绩，不快速解决会影响生产流程。之前遇到这类成绩只能通过咨询经验丰富的“专家”，但总会存在专家找不到或者专家不一定有空的情况。我们希望通过NLP和学问图谱技术可以解决这个成绩。

悲观通过对里面的数据举行研究发现，要找到这些成绩的谜底经常要涉及好多文件，比如产品说明书，故障手册等。有些成绩容易获得谜底，但有些成绩大概须要通过一些复杂的推理才能获得谜底，甚至不一定能找到谜底。面对这个成绩，我们设计了制造业失效图谱。

为了解决专家录入举行构建的成本过高的成绩，一方面我们设计的失效图谱schema只和失效本身相关，其他天生过程中的学问并不纳入产品范围之类，从而减少天生图谱的工作量。另一方面，我们在图谱构建的时候，以野生结合智能。从相关的文档，比如产品说明书，故障维修手册，失效分析文档等内容中提取相关属性数据，经过野生考查，再录入到图谱中。这种人机结合的方式天生图谱相比于纯野生天生图谱可以大幅减少工作量。图谱数据的抽取主要采用基于pipeline抽取和联合抽取的方法。

pipeline抽取，是用NER技术先抽取出实体和属性后，再通过分类方法对实体两两举行分类判断。这种方法的优点是灵活性高，不同类型的实体可以用不同的模型举行抽取，干系抽取的分类算法也可以结合实际数据举行优化和调整，缺点在于大概产生错误传播，实体错误后面的干系肯定是错误的，以及忽略了实体属性抽取和干系抽取内部的大概联系。

基于联合抽取的方法是同时抽取实体、属性、干系。针对实体抽取出的实体对，在当前句子对应的依存句法树中找到能够覆盖该实体对的最小依存句法树， 并基于 TreeLSTM 天生该子树对应的向量表示，最后，根据子树根节点对应的 TreeLSTM 向量举行干系分类。

一些学问可以通过抽取已有的文档，但有些文档缺失或者抽取难度很高的，则由专家来举行野生录入，从而构造了一个针对失效的学问图谱。有了这个图谱，就形成了计算机的学问。

失效图谱例

基于图谱赋予的学问，企业可以使用基于学问图谱的问答（KBQA）来解决生产中实际碰到的成绩，我们叫“归因分析”。基于图谱的问答须要能理解各种query的真实意图，尤其是query大概输错，大概表述不规范，须要还能对应到图谱得到正确的谜底。这里面也须要对成绩举行拆解，分解成一个个可以解决的模型。

KBQA处置流程

一般来说，KBQA分为数据预处置，问句分析，学问检索，谜底天生4个阶段。

数据预处置，指的是query举行基础的NLP处置，包括了分词，格式转换，归一化，纠错等过程。这里面和传统搜索中的数据预处置比较不同的是，纠错往往可以结合图谱里面的各种名称举行纠错，并且可以保留多个纠错结果，在后面的过程中再结合其他信息判断是否须要纠错，或纠错成哪个结果。

问句分析，核心是要对query举行意图辨别，并且举行实体链接。意图辨别指用户的query是关于什么的，比如是问解决办法还是问原因。实体链接就是将问句文本的某些字符串映射到学问库中对应的实体上。实体链接是问答系统的核心成绩之一，因为实体链接如果出错，后面的结果会非常不相关。这里面的难点在于用户query的名称和图谱中实体的名称并不是完全一致。所以我们也会加上模糊搜索以及同义词等方式来解决这个成绩。

学问检索，须要从图谱中选出符合该query相关的子图，并且对其排序。由于成绩大概须要图谱通过多跳获得谜底，所以这个步骤里面返回的实体节点大概有多个。

谜底天生，一方面是根据返回的结果找出最符合的一个，并且根据问句以及图谱的信息，通过NLG的技术天生大概的文字谜底。

“野生”举行场景选择和产品形态设计

针对野生智能产品或解决方案，一般大家都在讨论技术如何提升，效果如何优化。以悲观在过去几年落地的很多AI项目来说，场景选择和产品形态的设计其实是落地非常关键的环节。从落地的角度，本质需求是希望可以更快地高质量完成预计的工作，并不是须要一个多少准确率的模型。而且这里的高质量，在办公文档处置上的落地需求往往是100%准确。而目前的算法基本都不能达到100%准确，而且算法本身并不知道错在哪里，这也是AI落地碰到的最大挑战。因为当须要所有数据举行复核，“快速”这个需求就会大打折扣。如何“快速”考查就是须要在场景选择以及产品形态上做很多工作。

01比对数据

用第三方数据或者有规则举行校验，就能快速发现AI错误之处。比如电子合同和图片合同举行文档比对的场景，ocr的错误通过比对，可以快速的找到出现ocr错误的地方，野生可以快速举行查看。

文档比对产品kh

02业务干系

文档中辨别的元素有些是有业务干系的，可以通过字段的干系来验证辨别是否正确。比如下图总和的值应该是上面列表中数值计算后的结果。如果辨别出来的结果总和公式不正确，那很大概是中间哪个元素辨别出现了成绩，如果辨别出来的结果总和公式正确，那基本辨别本身也是正确的。

财务文档中的勾稽干系

03高效考查

野生考查过程的产品交互是非常重要的，须要对比较耗费时间的环节结合具体业务场景的考查过程举行合理交互设计。考查过程主要是“找到”和“修订”两个动作，悲观通过对抽取结果举行高亮，点击字段跳转等功能帮助考查人员快速“找到”抽取结果以及上下文，通过划选和快捷键等功能加速野生“修订”的时间。

野生考查产品交互

野生智能落地是一个挺有挑战性的工作，既须要攻克技术难度，不断提升算法精度，也须要了解业务，了解场景，才能选择合适的场景，构建合理的算法流程，设计方便的产品交互，把这些“野生”的价值发挥出来，以人机协同的方式促进算力和模型的提高，才能真正实现“野生智能”。