华南理工大学学报(自然科学版)

北大核心,CA,INSPEC,JST,Pж(AJ)

国内刊号:44-1251/T

国际刊号:1000-565X

华南理工大学学报(自然科学版)杂志2021年第1期:结合类别关键词与注意力机制的药物相互关系抽取模型

发布日期:

作者:IKA Novita Dewi, 蔡晓玲, 刘晓锋, 等

单位:华南理工大学 计算机科学与工程学院,广东 广州 510006

关键词:药物相互作用,类别关键词,注意力机制

基金:国家自然科学基金资助项目 ( 61976239) ; 中山市引进高端科研机构创新专项资金资助项目 ( 2019AG031)

为了增加对不同类别样例的区分度,提高模型的分类效果,提出了结合类别关键词和注意力机制的药物相互关系 ( DDI) 抽取模型 KA-BERT。首先基于卡方检验和文档频率获取每个类别的关键词,然后在预训练 BERT 模型中加入关键词与药物对的位置编码,以增加样例的差异性,并通过注意力机制学习关键词与句子中其他词的分布信息。针对药物关系抽取任务中负样例较多的问题,文中提出了基于规则和模式的负样例过滤方法,以有效降低正负样本比例。与现有基于 CNN、基于 LSTM 和基于 BERT 的DDI 提取模型实验结果的对比表明,KA-BERT 模型能够很好地提高药物关系的提取效果,证明了该模型的有效性。在化学 - 蛋白质相互关系抽取上的测试结果表明,KA-BERT模型的准确率、召回率和 F1 值均有明显的提升,证明了该模型的有效性和通用性。

来源:2021年第1期

《华南理工大学学报(自然科学版)》期刊编辑部

查看华南理工大学学报(自然科学版)杂志2021年第1期

联系我们

  • 地址:广州五山 华南理工大学17号楼
  • 电话:020-87111794
  • E-mail:journal@scut.edu.cn

咨询工作人员