模式识别与人工智能
2025年4月3日 星期四   首 页     期刊简介     编委会     投稿指南     伦理声明     联系我们                                                                English
模式识别与人工智能  2019, Vol. 32 Issue (2): 184-192    DOI: 10.16451/j.cnki.issn1003-6059.201902011
研究与应用 最新目录| 下期目录| 过刊浏览| 高级检索 |
面向属性抽取的门控动态注意力机制
程梦1, 洪宇1, 唐建1, 张家硕1, 邹博伟1, 姚建民1
1.苏州大学 计算机科学与技术学院 苏州 215006
Gated Dynamic Attention Mechanism towards Aspect Extraction
CHENG Meng1, HONG Yu1, TANG Jian1, ZHANG Jiashuo1, ZOU Bowei1, YAO Jianmin1
1.School of Computer Science and Technology, Soochow University, Suzhou 215006

全文: PDF (799 KB)   HTML (1 KB) 
输出: BibTeX | EndNote (RIS)      
摘要 在现阶段属性抽取研究中,现有注意力建模及训练较刚性(单句一次成型),而单句中不同词汇的上下文存在语境语义的差异,一致的注意力分布缺少动态的适应性.因此,文中提出面向属性抽取的门控动态注意力机制,利用双向长短时记忆网络捕获目标句中每个单词的隐层表示.在注意力模型处理词一级属性预测时,根据目标词及其上下文,计算适应该目标词的注意力分布向量,可以根据上下文的变化自动调整注意力权重的分配.借助门控调整注意力向量流向下一层神经元的信息量,最终使用条件随机场进行属性标记.应用2014-2016语义评估官方数据集验证文中方法的有效性,F1值均有所提高.
服务
把本文推荐给朋友
加入我的书架
加入引用管理器
E-mail Alert
RSS
作者相关文章
程梦
洪宇
唐建
张家硕
邹博伟
姚建民
关键词 注意力机制属性抽取条件随机场情感分析    
Abstract:In the current aspect extraction researches, the attention modeling and training are fixed, and the sentence is modeled in one time step. However, the semantics of the words vary in contexts, and a fixed attention distribution lacks dynamic adaptability. Therefore, a gated dynamic attention mechanism towards aspect extraction is proposed in this paper. A bidirectional long short term memory network is exploited to obtain hidden representations of words in a target sentence. Then, a specific attention distribution is computed according to the target word and its context while the attention model labelling words. Thus, the attention-weight distribution can be automatically adjusted according to the changes of contexts. Next, a gate is adopted to adjust the quantities of information flowing to the next units. Finally, conditional random field is utilized to label the aspect. The official datasets of 2014-2016 semantic evaluation are employed to verify the effectiveness of the proposed method, and F1 scores are increased.
Key wordsAttention Mechanism    Aspect Extraction    Conditional Random Field    Sentiment Analysis   
收稿日期: 2018-10-21     
ZTFLH: TP 391  
基金资助:国家重点研发计划项目(No.2017YFB1002104)、国家自然科学基金项目(No.61672367,61672368)资助
作者简介: 程 梦,硕士研究生,主要研究方向为属性级情感分析、属性抽取.E-mail:dcdream@outlook.com. 洪 宇(通讯作者),博士,副教授,主要研究方向为信息检索、信息抽取.E-mail:tianxianer@gmail.com. 唐 建,硕士研究生,主要研究方向为机器翻译.E-mail:Johnnytang@gmail.com. 张家硕,硕士研究生,主要研究方向为图像描述生成.E-mail:jiasurezhang@gmail.com. 邹博伟,博士,主要研究方向为信息抽取、篇章分析.E-mail:zoubowei@suda.edu.cn.姚建民,博士,副教授,主要研究方向为机器翻译.E-mail:jyao@suda.edu.cn.
引用本文:   
程梦, 洪宇, 唐建, 张家硕, 邹博伟, 姚建民. 面向属性抽取的门控动态注意力机制[J]. 模式识别与人工智能, 2019, 32(2): 184-192. CHENG Meng, HONG Yu, TANG Jian, ZHANG Jiashuo, ZOU Bowei, YAO Jianmin. Gated Dynamic Attention Mechanism towards Aspect Extraction. , 2019, 32(2): 184-192.
链接本文:  
http://manu46.magtech.com.cn/Jweb_prai/CN/10.16451/j.cnki.issn1003-6059.201902011      或     http://manu46.magtech.com.cn/Jweb_prai/CN/Y2019/V32/I2/184
版权所有 © 《模式识别与人工智能》编辑部
地址:安微省合肥市蜀山湖路350号 电话:0551-65591176 传真:0551-65591176 Email:bjb@iim.ac.cn
本系统由北京玛格泰克科技发展有限公司设计开发 技术支持:support@magtech.com.cn