基于多层异构注意力机制和深度学习的短文本分类方法

针对现有算法难以对复杂文本准确分类的问题,本文提出了一种融合多层异构注意力机制、卷积和循环神经网络的自动分类方案.首先融合卷积和循环神经网络,设计了新的深度学习短文本分类框架,并基于渗透假设的类平衡分层求精原理,设计了异构注意力机制,并将其融入不同算法层之间,以提高算法性能.为验证上述方法的准确性,将本文算法与传统分类方法分别应用于三个数据集中,并进行了仿真实验.实验结果表明,本文所提出的方法对三个数据集均能达到90％以上的分类精确率,均优于传统分类算法.此外,在三个测试中,多层异构注意力机制能够提高2％以上的分类精度,代价为运行时间增加1 s～2 s.本文算法将注意力机制分层融入两种深度学习算法中,能够适应多种主题的复杂短文本分类需求.