融入多尺度特征注意力的胶囊神经网络及其在文本分类中的应用

近些年来,胶囊神经网络(Capsnets)由于拥有强大的文本特征学习能力而被应用到文本分类任务中.目前的研究工作大都将提取到的文本多元语法特征视为同等重要,而忽略了单词所对应的各个多元语法特征的重要程度由具体上下文决定的这一事实,这将直接影响到模型对整个文本的语义理解.针对上述问题,该文提出了多尺度特征部分连接胶囊网络(MulPart-Capsnets).该方法将多尺度特征注意力融入到Capsnets中,多尺度特征注意力能够自动选择不同尺度的多元语法特征,通过对其进行加权求和,就能为每个单词精确捕捉到丰富的多元语法特征.同时,为了减少子胶囊与父胶囊之间的冗余信息传递,该文也对路由算法进行了改进.该文提出的算法在文本分类任务上针对7个著名的数据集进行了有效性验证,和现有的研究工作相比,性能提高显著,说明该文的算法能够捕获文本中更丰富的多元语法特征,具有更加强大的文本特征学习能力.