华南理工大学学报(自然科学版)

作者：苏锦钿 余珊珊 李鹏飞

单位：1． 华南理工大学 计算机科学与工程学院，广东 广州 510640; 2． 广东药科大学 医药信息工程学院，广东 广州 510006

关键词：自然语言处理,情感分类,神经网络,词性,自注意力

基金：广东省科技厅应用型科技研发专项资金项目(20168010124010); 广东省自然科学基金资助项目(2015A030310318);广东省医学科学技术研究基金项目(A2015065)

针对目前各种基于长短期记忆网络 LSTM 的句子情感分类方法没有考虑词的词 性信息这一问题，将词性与自注意力机制相结合，提出一种面向句子情感分类的神经网络 模型 PALSTM(Pos and Attention-based LSTM)． 首先，结合预训练词向量和词性标注工具 分别给出句子中词的语义词向量和词性词向量表示，并作为 LSTM 的输入用于学习词在 内容和词性方面的长期依赖关系，有效地弥补了一般 LSTM 单纯依赖预训练词向量中词 的共现信息的不足;接着，利用自注意力机制学习句子中词的位置信息和权重向量，并构 造句子的最终语义表示;最后由多层感知器进行分类和输出． 实验结果表明，PALSTM 在 公开语料库 Movie Ｒeviews、Internet Movie Database 和 Stanford Sentiment Treebank 二元分 类及五元情感上的准确率均比一般的 LSTM 和注意力 LSTM 模型有一定的提升．

来源：2019年第6期

《华南理工大学学报(自然科学版)》期刊编辑部

查看华南理工大学学报(自然科学版)杂志2019年第6期