%0期刊文章%@ 2291- 9694% I JMIR出版物%V 10卡塔尔世界杯8强波胆分析% N 10% P e41136% T基于具有句法依赖特征的多头注意模型的生物医学文本关系提取建模研究李a,惠永斌,邹林虎,李丽萍,徐虎阳,王洛,蔡小华,斯蒂芬妮+遵义医科大学医学信息工程学院,遵义新浦新区学府西路6号,563000,86 18311545098,bynn456@126.com %K生物医学关系提取%K深度学习%K特征组合%K多头关注%K加性关注%K句法依赖特征%K句法依赖图%K最短依赖路径%D 2022 %7 20.10.2022 %9原始论文%J JMIR Med Inform %G英文%X背景:随着生物医学文献的快速扩展,生物医学信息提取越来越受到研究者的关注。其中,两个实体之间的关系提取是一个长期的研究课题。目的:本研究旨在执行生物医学自然语言处理研讨会2019开放共享任务的2个多类关系提取任务:细菌-生物群关系提取(BB-rel)任务和植物种子发育二元关系提取(SeeDev-binary)任务。从本质上讲,这两个任务旨在从生物医学文本中提取带注释的实体对之间的关系,这是一个具有挑战性的问题。方法:传统的研究方法采用基于特征或基于核的方法,取得了较好的效果。对于这些任务,我们提出了一个基于几个分布式特征组合的深度学习模型,例如特定领域的词嵌入、词性嵌入、实体类型嵌入、距离嵌入和位置嵌入。采用多头注意机制提取整句的整体语义特征。同时,在语法依赖图中引入依赖类型特征和连接2个候选实体的最短依赖路径,丰富了特征表示。 Results: Experiments show that our proposed model has excellent performance in biomedical relation extraction, achieving F1 scores of 65.56% and 38.04% on the test sets of the BB-rel and SeeDev-binary tasks. Especially in the SeeDev-binary task, the F1 score of our model is superior to that of other existing models and achieves state-of-the-art performance. Conclusions: We demonstrated that the multi-head attention mechanism can learn relevant syntactic and semantic features in different representation subspaces and different positions to extract comprehensive feature representation. Moreover, syntactic dependency features can improve the performance of the model by learning dependency relation between the entities in biomedical texts. %M 36264604 %R 10.2196/41136 %U https://medinform.www.mybigtv.com/2022/10/e41136 %U https://doi.org/10.2196/41136 %U http://www.ncbi.nlm.nih.gov/pubmed/36264604
Baidu
map