前言知识图谱，即一种特殊的语义网络，它利用实体、关系、属性这些基本单位，以符号的形式描述了物理世界中不同的概念和概念之间的相互关系。为什么说知识图谱对于信息检索、推荐系统、问答系统中至关重要，我们用一个例子来说明：假设在一个搜索场景，我们在搜索框中输入
可以看到这句Query是一个完整的问句，如果在检索系统中有一个较大的问答语料库（比如FAQ场景），或者一个足够庞大的文章数据库（文章的title覆盖率高），使用语义匹配技术对Query与FAQ问句、文章title做相似度计算或许是个更为理想的方案（可参考上一期文章[引用]）。但是，现实总是比较骨感，想要被检索的内容在语言表述上很完备是非常困难的。那么对于这个case，检索的baseline是怎么样的呢？在传统搜索流程下，我们首先会对Query进行分词，即原句就变成了
对于数据库里的文章等内容，利用倒排索引事先做好了索引，再根据BM25算法对分词结果中的词做文章的召回、排序。当然，我们可以根据业务场景的需要建立业务词典，准备一些业务关键词，比如例子中的坐月子是一个组合名词；另外做索引的时候舍弃一些停用词，比如可以，吗等。再之根据词性等调整一下权重（比如疾病词优于其他词等），以期待最终文章排序的相关性有所提升。但是到目前为止，我们可以看到检索的中心都是根据关键词做的，也就是说文章的内容中必须出现坐月子 、洗澡这些词。同时，因为去除了停用词、动词，也会导致Query的语义丢失，坐月子和洗澡成为了割裂的两个概念。那么，作为一个自然人类，我们是这样理解这句Query的：
整句话理解起来就是'产褥期妇女是否可以做洗澡之类的日常生活活动'，并且我们也可以很自然地推理，或许这个Query比较合适的反馈是形如'产褥期的日常禁忌'等这类文章。可以发现，人类在思考自然语言的表示时，是基于几个概念作为支点，并且具有清晰的概念上下级区分，这些概念来自于人类多年习得的知识体系，我们可以在已有的知识上进行推理、分析、联想，这是计算机所不具备的。传统基于Corpus的NLP技术，希望从大量文本数据中反向映射出整个现实世界，这种方法工程实现容易，在一些小场景中可以获得不错的效果，但是会暴露出如前文所提的各类问题，映射出的知识表示严重受场景限制，难以迁移；缺乏对知识体系的组织；效果不可解释等；为了解决这类难题，笔者认为知识图谱或许是突围的关键。相比于长文本，知识点（实体、关系）更易于组织、扩充、更新。自然语言本是人类认知世界的抽象，想要计算机理解自然语言，也需要装一个填满知识的大脑。 概念我们已经在各知识图谱概述中知道，知识图谱本质上是一种语义网络，节点代表实体（entity）或者概念（concept），边代表实体（或概念）之间的各种语义关系。而知识图谱在知识体系的层面上又有三种具体的组织分类，包括Ontology、Taxonomy和Folksonomy。这三个分类可以简单地理解为知识图谱对层级关系的三种不同严格程度的区分。Ontology为树状结构，对不同层节点之间具有最严格的IsA关系（打个比方，Human activities -> sports -> football），这类图谱的优点是便于知识推理，但是无法表示概念关系的多样性；Taxonomy也是树状结构，但是层级严格程度低一些，节点间是以Hypernym-Hyponym关系构建，这样的好处的概念关系比较丰富，但是也因此容易造成歧义，很难有效地推理；Folksonomy则是非层级的结构，全部节点以标签分类，除了灵活以外，语义的精确性、推理能力也全都丧失了。目前，Taxonomy的组织结构是互联网行业内较为流行的类型，因为它在一定程度上兼顾上下层关系和标签体系，在各类应用上的灵活性最好，本文主要关注Taxonomy的构建技术。 构建构建大规模知识库的数据源可以来自于一些公开的半结构化、非结构化和第三方结构化数据库。从结构化数据库中获取数据最为简单，需要做的大多为统一概念、对齐实体等整理工作；其次是从半结构化数据中获取知识，比如从维基百科中： 比如从上面正文中可提取“痛风 Is A 嘌呤代谢紊乱症 ”，“蛋白聚糖 Is A 细胞外基质”，“胶原蛋白 Is A 细胞外基质”，“硫酸软骨素 Is A 细胞外基质”等。随着知识图谱领域的升温，这方面的研究也在近年来逐渐增多，也包括了在中文领域的构建方法，下面我们对Taxonomy的构建技术做了方法调研，并展开介绍一下中英文领域构建的几个具体方法。 Taxonomy构建技术虽然前面畅想了构建一个完善的Taxonomy对后续NLP应用的诸多好处，但是还是要冷静得知道目前这个领域的研究还并不完善，主要困难来自于一下三个原因：其一，文本数据存在篇幅、主题和质量上的巨大差异，设计好的抽取模板（比如某些正则表达式）难以兼容在不同领域的语言场景下；其二，由于语言表达的多样性，抽取数据的完整性也会遇到困难，这也极大影响了最终的准确度；其三，同样是领域的差异，抽取所得知识的消岐也是个头疼的问题。下面我们会介绍一些已有的学术界、工业界的研究成果，这些方法从不同角度利用算法来提升准确度，同时也包括Taxonomy构建任务下的几个子任务，包括下位词获取（hyponym acquisition）、上位词预测（hypernym prediction）、结构归纳（taxonomy induction）。在目前基于free text-based的各taxonomy构建流程中，都可以总结出以下两个主要步骤：i) 利用模板方式(Pattern-based) 或 分布式方式(Distributional) 从文本中抽取 Is-A 的关系对；ii) 将抽取得到的关系对数据 induct 出完整的taxonomy结构。 Pattern-based 方法模板方法，顾名思义就是设计一些固定模板去原文中进行匹配，最直观的就是写正则表达式去抓取。这领域最早是由 Hearst 设计了几个简单的模板比如 “[C] such as [E]”，“[C] and [E]” ，从而可以从符合这些逻辑句式的句子中得到上下位关系词对。这些模板看似简单，但是也有不少基于它们的成功应用，比如最著名的微软的Probase数据集。也正因为简单，模板方式显然有许多弊端，最大的问题就是召回率低，原因也很简单，自然语言具有各种丰富的表达方式，而模板数量是有限的，难以覆盖所有的句式结构。其次，语言的灵活性也会影响抽取的准确性，常见的错误包括未知常用语、错误表达、抽取补全、歧义等。学界已有不少研究成果在基于模板方式下，如何提升召回率和准确率。 a). 如何提升召回？首先是如何提升召回率，第一类方法是对模板进行各种扩展（Pattern Generalization），比如给不同类型实体词设计相应的模板；模板内部冠词、助词做灵活替换； b). 如何提升准确率？对于图谱构建这类问题，是如何评价准确度的呢？最常见的是一些基于统计的方式。比如 (x, y) 是一对候选的 is-a 关系对，在KnowItAll系统中，借助搜索引擎来计算 x 与 y 的点互信息（PMI）；在Probase中使用的是似然概率来表示 y 是 x 是上位的概率，取概率最大的作为结果；其他也有通过贝叶斯分类器的预测结果、外部数据验证、专家评判验证等方法。对于如何在抽取流程外再提升准确率，多数研究方法就是选取一个验证指标，然后构建一个分类器去迭代优化。不过，单纯利用模板的准确率还是普遍偏低，引入分类器的工作多数是在模板 分布式的混合方案中被提到，下面来介绍一下分布式的抽取思路。 Distributional 方法在NLP领域中，分布式方法就是包括词向量、句向量等一些表示学习的结果。分布式表示的一大优点是将NLP领域中原本离散的数据转换为连续的、可计算的。这个idea也可以引入到图谱构建中，因为可计算就意味着词向量间蕴含了某些关系，这些关系也可以是 Is-A 数据对的上下位关系。分布式方法抽取的另一个优点是我们可以对 Is-A 关系进行直接预测，而不是通过抽取。这类方法的主要步骤可以总结为：i) 获取种子数据集（Key term）; ii) 使用无监督或有监督模型获取更多的候选 Is-A 关系对。 a). Key Terms 抽取种子数据集获取的方法有很多，最直观就是设计严格的pattern，这样做的好处是可以保证Key term有较高的准确率，在大量语料的情况下效果不错，但是当语料数据较少的时候，可能存在抽取数量不足，导致后续模型training过拟合的情况。除了使用 pattern 抽取，也有研究使用序列标注模型或是NER工具进行预抽取，接着使用若干规则进行过滤。部分基于垂直领域Toxonomy构建的研究中，会附加某些领域特定的后处理（domain filtering）。多数是根据一些统计值做一些阈值，比如TF、TF-IDF或其他领域相关的分值。也有研究会在挑选句子的时候就给句子打上权重，从领域权重高的句子中抽取key term。获取key term后，后续就是何如基于这些种子数据扩充出新的关系对。 b).Unsupervised 模型第一方向就是聚类的方案，对于聚类，研究的核心就是采用哪种距离评价指标，简单的指标包括 cosine、Jaccard、Jensen-Shannon divergence都可作为尝试，也有稍微复杂一些的在实体对 (x, y) 取其他特征或权重做比较，比如 LIN measure： 此外，有研究人员关注到，比如在维基百科的词条页面中，下位词只会出现在描述上位词的某些context中。但是上位词可能会出现在下位词的整个context中，由于这样的不对称性，距离评估上也做了相应调整，比如使用WeedPrec: c). Supervised 模型在拥有 key term 和聚类操作后，进一步提升精度的方法是构建有监督的模型，可以使用Classification或Ranking的方式。从分类器的角度，最流行的方案是我们提前训练好一个语言模型，比如Word2Vec，候选数据对 (x, y) 以相应映射为向量，把两个向量做拼接，然后使用比如SVM来做一个二分类的分类器。这个办法在后续许多研究中都作为baseline来比较。这个方法简单有效，但是在近年的研究中也指出它也存在一些列的问题。实践发现，这种分类器学到的是语义上的联系，而非我们所期待的上下位关系的联系，换句话说就是非常容易过拟合。替代方案就是对 (向量x) 和 (向量y) 做 diff 操作，或者结合相加、点乘等方式取综合的feature。后续研究者认为，词向量的training受语料环境影响很大，将上下位关系也一同映射到词的embedding中比较困难。所以在词向量的基础上，为x与y单独构建一层 embedding 来表示关系，实验结果表明这种方式在特定领域的图谱构建有不错的指标提升。 Taxonomy Induction在前面章节，介绍了各种技术从文本中抽取 Is-A 关系对，最后一步的工作就是如何把这些关系对数据做合并，构成完整的图谱。多数方法是一个增量学习Incremental Learning的模式，初始化一个seed taxonomy，然后将新的 Is-A 数据往图上补充。而这个方向的研究就在于使用何种评价指标作为插入新数据的依据。常见的方法是把构建看作一个聚类问题，相似的子树通过聚类进行合并。如《Unsupervised Learning of an IS-A Taxonomy from a Limited Domain-Specific Corpus》就使用K-Medoids聚类去寻找最小公共祖先阶段。图相关的算法也可以作为一个方向，因为Taxonomy天然得是个图的结构，比如在《A Semi-Supervised Method to Learn and Construct Taxonomies using the Web》提供了一种思路，找到所有入度为0的节点，它们大可能是taxonomy的顶部，找到所有出度为0的节点，它们大可能是底部的instance，然后在图中寻找从root到instance的最长路径，就可以得到一个较为合理的结构。 其他也有在图的edge上附上各种领域相关的权重值，然后用动态规划一类的算法求最优分割，比如Optimal branching algorithm。构建的最后一步是对taxonomy做清洗，把错误的 Is-A 关系对数据去除。第一个关键特征是taxonomy中的上下级关系是不存在环状结构的，Probase数据库在构建时通过去除环状结构，清理了约74K的错误 Is-A 关系对。另一个比较大的问题是实体词的歧义，这个问题就目前来看没有特别有效的解决方法。尤其是在一些自动化图谱构建的系统中，引入上文提到的“传递性”来扩充数据往往带来更大的脏数据的风险。举个例子，有两条 Is-A 关系对：
但是我们并不可以用传递性得到
虽然现在也有一些工作是试图学习一个实体词的multiple senses，但是有多个选择并不代表知道哪个是正确的选择。多数情况下，实体词的消岐需要有更多的旁证，也就意味它需要你首先就拥有丰富的知识背景数据，我们正在做的就是构建图谱，这变成了鸡生蛋还是蛋生鸡的问题。从学术层面，构建一个fully-disambiguated 的 taxonomy任重道远，好在我们在应用层面可以有很多其他的trick，包括收集用户的搜索、点击日志，解析UCG内容，从中获取信息帮助我们消岐，并且反哺给知识图谱。 上文我们对Taxonomy的构建技术做了简单的综述，下面可以看看在中英文领域构建图谱的完整流程是怎样的。 Probase的构建从微软的Probase开始，图谱的构建强调了probabilistic taxonomy的概念，知识的存在并不是“非黑即白”的，而是以一定的概率形式存在，保留这一层面的不确定性可以减轻数据中噪声带来的影响，并有助于后续进行知识计算。在Probase的数据中，每一对hypernym-hyponym以保留构建语料中的共现频数的形式来对应确信度，如下：  在获得候选对之后，再根据父子级关系合并成树状的数据结构，整个流程比较简单，如下： 从原始的sentence中把候选实体对（如（company, IBM）、（company, Nokia）等）挖掘出来，形成小的子树；
假设现在有三个子树： 中文图谱构建存在的问题总得来说，Probase的方法算是比较简单的，在构建上提供了一个大的框架层面的思路，但是从细节上还存在不少问题。在论文《Learning Semantic Hierarchies via Word Embeddings》中详细探讨了这个问题，尤其是在中文方面，第一个问题是中文的语法较英语来说更加灵活，使用 Chinese Hearst-style lexical patterns 虽然准确率会很高，但是召回率较其他方法而言非常低，随之F1值也较差。因为人工遍历整理完所有的句式结构难度较大，同时也十分低效，可见下图文章中对几种方法做的比较： 另一方面，单纯使用 patterns 的方法，在语义结构构建（semantic hierarchy construction）方面的能力也存在不足 像Probase这种简单的构建方法往往容易出现关系缺失或者错误的情况。 映射模型与模板的混合框架目前研究比较主流的构建方案中，除了使用 问题定义首先，根据垂直领域的知识背景和数据，我们已构建了一个知识图谱的基本框架，称为 Taxonomy, 记为 T = (V, R)，其中 V 表示实体向量，R 表示关系。接着从图谱T中采样出部分is-a关系数据，记作R。并且随后从中取出 基本框架在文章《Learning Semantic Hierarchies via Word Embeddings》中已经介绍过了使用 流程可以表述为：首先从已有的 Taxonomy中提取部分初始化数据，将它们映射到词向量空间（embedding space），接着在这个空间中训练 模型定义根据前文描述，第一步就是利用一个大语料train一个靠谱的词向量，作者使用了Skip-gram的模型，在10亿个words的语料上获得了词向量，方法此处不再赘述。得到了词向量后，对于给定词汇x ，求取词汇u的条件概率就可以表示为： 训练方法系统是以一种循环的方式进行训练，核心思想是通过聚类和映射模型不断动态地扩充训练集_R(t)(t = 1, 2, ..., T) , 在不断重新训练模型后，逐渐增强对目标数据源的泛化能力。首先在初始化的部分约定一些术语标记: 以下为循环流程： Step 1.Step 2.在经过模型预测后，需要再经过模板筛选，可用的中文模板例如：
其中，a的范围是(0,1)，是一个调节系数，gamma是平滑系数，论文设置了经验值a = 0.5, gamma = 1。 这里，m 表示 U(t) 的size，theta 是一个约束阈值。我们发现这个问题是
模型预测总结本文调研的知识图谱构建方法是为数不多在中文领域进行的工作，相较英文，不论是pattern的设计、数据源等都有非常大的差异。论文的后半段也讨论了在这个流程中发现的问题：
|
|
|
丁香园也在尝试构建自己的医学大脑知识图谱，往后也会陆续分享知识图谱相关的知识抽取、知识表示、知识融合、知识推理等方面的技术调研笔记，以及在搜索推荐等场景的落地实践。本文主要为我们在知识图谱构建的技术调研笔记分享。
百科中的词条描述是一份很好的数据来源，它提供了实体词丰富的context，并且每个词条都具有详细的目录和段落区分：
我们从不同的段落可以抽取相应结构化字段的信息，当然，有些词可能藏在正文当中，这就需要借助一些NLP算法来做识别和抽取，比如命名实体识别、关系抽取、属性抽取、指代消解等等。相关技术以及模型优化我们会在后续文章详细展开，这里不做赘述。那么，前文提到Taxonomy类型的知识图谱是一个IsA的树状结构，从结构化或半结构化的数据源中，具体类型的关系可以很容易获得，但是上下级的层级关系数据就相对较少。想要扩充这一类别的数据，或者扩充原知识图谱中没有的关系类型，则需要从非结构化文本或者半结构化数据源的文本段落中抽取。
也有一些自动扩充模板的工作，比如Rion Snow组的《Learning syntactic patterns for automatic hypernym discovery》成果中，利用句法依赖path自动获取新的模板
不过，这种自动模板生成方法也会带来新的问题，如果我们的原始语料非常庞大的话，单个模板的特征是非常稀疏的（Feature sparsity problem），另一个思路就是去关注Pattern的特征，提升它们的generality，从而提高召回率。相关工作包括Navigli组提出了_star pattern_的概念：替换句子中的低频实体词，再通过聚类算法挑出更general的pattern。
句法依存作为特征的这一路子也有类似的思路，在PATTY系统里，会在dependency path中随机替换pos tag，ontological type 或 实体词，最终再挑选pattern。第二类方法是迭代抽取，主要假设是说某些错误的关系数据因为语言的歧义或者语义漂移问题（semantic drift）会被一些过于general的parttern的多次抽取。那么如果设计一个验证机制，或许就可以把它们清除出来。比如在《Semantic Class Learning from the Web with Hyponym Pattern Linkage Graphs》设计了“doubly-anchored”的模式，用一个bootstrapping loop进行抽取。第三类方法是上位词推断（Hypernym Inference），利用模板抽取关系数据的另一个影响召回率的因素是，模板作用的目标是完整的句子，也就以为着某条关系的上位词和下位词必须同时出现在句子中。一个很自然的想法就是是否可以利用词的传递性，比如说y是x的上位词，而同时x与x'非常相似，那这种上下位关系就可以作为传递，已有工作中就有train一个HMM来做跨句子的预测。除了名词之间，也有一些研究是根据下位词的修饰词做句法上的推断，比如说“grizzly bear” 也是一种 “bear”
上图是《Revisiting Taxonomy Induction over Wikipedia》的工作，通过词组中的头部词作为特征，做了一套启发式抽取的流程。
其中 Fx ，Fy 表示抽取的 feature，w 表示feature的权重。
这类假设被称为 Distributional Inclusion Hypothesis（DIH），类似的距离评价还有WeedRec、BalAPInc、ClarkeDE、cosWeeds、invCL等。
