【神经网络】Dependency Parsing的两种解决方案

1、Transition-based的依存解析方法

解析过程:首先设计一系列action, 其就是有方向带类型的边,接着从左向右依次解析句子中的每个词,解析词的同时经过选择某一个action开始增量构建依存树, 直到句子中的词解析完.
优势:解析过程是线性的, operations步骤随句子长度线性增加
挑战:在解析的每一步都只是利用局部信息,会致使错误传播,性能比graph-based效果略差 函数

它的主要思路是先把一个句子变成句法树,再变成dependency parser,这个方法有点舍近求远,但它的效果不错。它一样会定义一些操做,即在一个序列上不断作这些操做,直到结束,就能造成一棵树。主要有如下三种操做:性能

这个模型就是在序列中,插左括号或右括号的非典型性序列打标问题,deep learning在里面起的做用是,每个左括号和右括号封闭的token,把它们表达成一个更高级的含义。学习

2、Graph-based的依存解析方法

 解析过程:学习一个打分函数,针对一句话在全部可能的解析结果(解析的依存树)中执行全局的穷举搜索,获得一个打分最高的解析树.
 优势:目前效果相比transition-based较好
 挑战:搜索的过程速度很慢 spa

 这个模型是把以前构建数的问题变成距离计算的问题。它本质作的事情是创建一个矩阵,行和列都是这个句子里的token,每两个行列中的一个点表示a修饰b的几率或b修饰a的几率的一个得分,最后要造成树,咱们就是在这个距离向量中找一棵最小生成树,生成出来的就是dependency parser。设计

相关文章
相关标签/搜索