如果公式显示不正常,请刷新页面

MENU

Human Language Processing——RNA&RNN-T&MochA

July 27, 2020 • Read: 76 • Deep Learning

CTC每个时间步进行的解码是independent的,这样的设定能够简化模型,但却不是很合理。事实上,实际应用中的序列,往往前后token都是有约束关系的。为了达到比较好的识别效果,在CTC的输出之后,通常需要再经过一个Language Model进行后处理。因为本质上来说,Language Model得到的就是前后token之间的转化概率,Language Model的引入弥补了CTC中时间步之间独立假设的缺陷。那能不能不用Language Model,抛弃时间步独立假设呢?

答案是:可以! 这就是RNA模型所做的事情

RNA

谷歌的学者发论文很喜欢玩取名的梗,这个模型与核糖核酸RNA同名。RNA是Recurrent Neural Aligner的缩写,它是一个介于CTC和RNN-T的过渡模型,针对CTC独立解码问题,把MLP换成了RNN

CTC或者RNA的缺陷在于,这两种模型都是输入一个vector,输出一个token。然而,在实际的语音识别任务中,却可能存在输入一个token,需要输出多个token的情况

RNN-T

RNN Transducer就是为了克服CTC和RNA输入一个vector,只输出一个token的问题而设计的

RNN-T在解码过程中是如何确保输入一个隐层,输出多个token的呢?输入一个$h^t$,RNN-T会决定要产生一个"t"。这个"t"会被放到另一个RNN中(下图深蓝色节点),输出的隐层会放回RNN-T的解码器中作为隐层和之前的$h^t$输入,来产生新的输出"h"。再反复一次。由于那另一个RNN看到过"h"了,就会输出新的东西。这个新东西再与之前的$h^t$输入RNN-T,可能会得到一个空类别。而另一个RNN会无视掉这个空类别,把之前输出"h",与下一个隐层ht+1输入到RNN-T得到的新输出"e"

Neural Transducer

前面的CTC、RNA在解码阶段,都是输入一个vector,输出一个token,是1v1的输入-输出方式; RNN-T是输入一个vector,输出多个token,是1vN的输入-输出方式;那么有没有可能输入多个vector,也输出多个token呢,即采用NvN的输入-输出方式。 答案是,可以! 这就是Neural Transducer的思路

Neural Transducer的改进主要是在解码的输入端。它不再是输入一个vector,而是输入W个vector,经过attention计算后,得到解码的输入,如下图所示。首先我们会让声学特征通过编码器产生隐层输出,再对一个窗口的小范围隐层做注意力后,再输出给解码的RNN。若窗口大小内信息已经用完了,解码的RNN就会输出空类别。接下来我们再移动窗口,对下一个窗口内的隐层重复刚才的操作

窗口大小要如何设计呢?Neural Transducer做了实验发现,没有注意力时,窗口一长,结果就会很糟糕。但用了注意力后,窗口大小又没那么重要。它尝试了各种计算注意力的方法,有DOT和MLP,甚至还有LSTM-ATTENTION。它把注意力权重读进LSTM中去,通过LSTM来考虑前一个时间步的注意力的位置

MochA

CTC、RNA、RNN-T、Neural Transducer都有一个相同的问题,就是$\phi$。因为我们在数据标注的时候很难插入$\phi$。例如"好棒"这个词,他有可能是"$\phi$好$\phi$棒$\phi$",也有可能是"好$\phi\phi\phi$棒","好$\phi\phi$棒$\phi$"等等。18年提出的一个新的模型MochA就解决了这个问题

MochA全称为Monotonic Chunkwise Attention,相比于Neural Transducer,它最大的改进在于输入的W个vector,不再是固定的,而是浮动的。也就是说,输入W个vector的起点和终点,是通过网络学习出来的。具体来说,这个网络输入$z^0$和隐层$h^1$,输出yes/no,表示要不要把窗口开头放在此处位置。如果不要,就往右移动窗口,再检查下一个位置的隐层$h^2$。一旦确定放置窗口,就对窗口内的隐层向量做注意力,解码出的token不会包含$\phi$。因为在输入浮动的情况下,事实上已经能够学习到输出-输入间的依赖关系,没有必要再引入$\phi$

模型总结

Archives Tip
QR Code for this page
Tipping QR Code