2. 知识图谱-命名实体识别（NER）详解

1. 通俗易懂解释知识图谱（Knowledge Graph）

2. 知识图谱-命名实体识别（NER）详解

3. 哈工大LTP解析

1. 前言

在解了知识图谱的全貌以后，咱们如今慢慢的开始深刻的学习知识图谱的每一个步骤。今天介绍知识图谱里面的NER的环节。

命名实体识别（Named Entity Recognition，简称NER），是指识别文本中具备特定意义的实体，主要包括人名、地名、机构名、专有名词等。一般包括两部分：（1）实体边界识别；（2） 肯定实体类别（人名、地名、机构名或其余）。

2. NER形势

NER当前并不算是一个大热的研究课题，由于学术界部分学者认为这是一个已经解决的问题。固然也有学者认为这个问题尚未获得很好地解决，缘由主要有：命名实体识别只是在有限的文本类型（主要是新闻语料中）和实体类别（主要是人名、地名、组织机构名）中取得了不错的效果；与其余信息检索领域相比，实体命名评测预料较小，容易产生过拟合；命名实体识别更侧重高召回率，但在信息检索领域，高准确率更重要；通用的识别多种类型的命名实体的系统性能不好。

2.1 中文NER问题

中文的命名实体识别与英文的相比，挑战更大，目前未解决的难题更多。英语中的命名实体具备比较明显的形式标志，即实体中的每一个词的第一个字母要大写，因此实体边界识别相对容易，任务的重点是肯定实体的类别。和英语相比，汉语命名实体识别任务更加复杂，并且相对于实体类别标注子任务，实体边界的识别更加困难。

汉语命名实体识别的难点主要存在于：

1. 汉语文本没有相似英文文本中空格之类的显式标示词的边界标示符，命名实体识别的第一步就是肯定词的边界，即分词。
2. 汉语分词和命名实体识别互相影响。
3. 除了英语中定义的实体，外国人名译名和地名译名是存在于汉语中的两类特殊实体类型。
4. 现代汉语文本，尤为是网络汉语文本，常出现中英文交替使用，这时汉语命名实体识别的任务还包括识别其中的英文命名实体。
5. 不一样的命名实体具备不一样的内部特征，不可能用一个统一的模型来刻画全部的实体内部特征。

3. NER方法

当前命名实体识别的主要技术方法分为：基于规则和词典的方法、基于统计的方法、两者混合的方法、神经网络的方法等。

3.1 基于规则和词典的方法

基于规则的方法多采用语言学专家手工构造规则模板,选用特征包括统计信息、标点符号、关键字、指示词和方向词、位置词(如尾字)、中心词等方法，以模式和字符串相匹配为主要手段，这类系统大多依赖于知识库和词典的创建。

• 缺点

1. 这类系统大多依赖于知识库和词典的创建。
2. 系统可移植性很差，对于不一样的系统须要语言学专家从新书写规则。
3. 代价太大，系统建设周期长。

3.2 基于统计的方法

基于统计机器学习的方法主要包括：隐马尔可夫模型(HiddenMarkovMode,HMM)、最大熵(MaxmiumEntropy)、支持向量机(Support VectorMachine,SVM)、条件随机场(ConditionalRandom Fields)。

• 特色

1. 最大熵模型有较好的通用性，主要缺点是训练时间复杂性很是高。
2. 条件随机场特征灵活、全局最优的标注框架，但同时存在收敛速度慢、训练时间长的问题。
3. 隐马尔可夫模型在训练和识别时的速度要快一些，Viterbi算法求解命名实体类别序列的效率较高。
4. 最大熵和支持向量机在正确率上要比隐马尔可夫模型高。
5. 基于统计的方法对语料库的依赖也比较大

3.3 混合方法

天然语言处理并不彻底是一个随机过程,单独使用基于统计的方法使状态搜索空间很是庞大，必须借助规则知识提早进行过滤修剪处理。目前几乎没有单纯使用统计模型而不使用规则知识的命名实体识别系统，在不少状况下是使用混合方法，主要包括：

1. 统计学习方法之间或内部层叠融合。
2. 规则、词典和机器学习方法之间的融合，其核心是融合方法技术。在基于统计的学习方法中引入部分规则，将机器学习和人工知识结合起来。
3. 将各种模型、算法结合起来，将前一级模型的结果做为下一级的训练数据，并用这些训练数据对模型进行训练，获得下一级模型。

3.4 基于神经网络的方法

近年来，随着硬件能力的发展以及词的分布式表示（word embedding）的出现，神经网络成为能够有效处理许多NLP任务的模型。主要的模型有NN/CNN-CRF、RNN-CRF、LSTM-CRF。

神经网络能够分为如下几个步骤。

1. 对于序列标注任务（如CWS、POS、NER）的处理方式是相似的，将token从离散one-hot表示映射到低维空间中成为稠密的embedding。
2. 将句子的embedding序列输入到RNN中，用神经网络自动提取特征。
3. Softmax来预测每一个token的标签。

• 优势

1. 神经网络模型的训练成为一个端到端的总体过程，而非传统的pipeline。
2. 不依赖特征工程，是一种数据驱动的方法。

• 缺点

1. 网络变种多、对参数设置依赖大。
2. 模型可解释性差。
3. 每一个token打标签的过程当中是独立的分类，不能直接利用上文已经预测的标签。

4. 总结

从语言分析的全过程来看,命名实体识别属于词法分析中未登陆词识别的范畴。命名实体识别是未登陆词中数量最多、识别难度最大、对分词效果影响最大的问题，同时它也是信息抽取、信息检索、机器翻译、问答系统等多种天然语言处理技术必不可少的组成部分。