模式识别与人工智能
2025年4月3日 星期四   首 页     期刊简介     编委会     投稿指南     伦理声明     联系我们                                                                English
模式识别与人工智能  2021, Vol. 34 Issue (10): 898-908    DOI: 10.16451/j.cnki.issn1003-6059.202110003
“自适应分类与聚类学习”专题 最新目录| 下期目录| 过刊浏览| 高级检索 |
结合源域差异性与目标域不确定性的深度迁移主动学习方法
刘大鹏1, 曹永锋1, 苏彩霞1, 张伦1
1.贵州师范大学 大数据与计算机科学学院 贵阳 550025
Deep Transfer Active Learning Method Combining Source Domain Difference and Target Domain Uncertainty
LIU Dapeng1, CAO Yongfeng1, SU Caixia1, ZHANG Lun1
1. School of Big Data and Computer Science, Guizhou Normal University, Guiyang 550025

全文: PDF (1906 KB)   HTML (1 KB) 
输出: BibTeX | EndNote (RIS)      
摘要 针对训练深度模型时样本标注成本较大的问题,文中提出结合源域差异性与目标域不确定性的深度迁移主动学习方法.以源任务网络模型作为目标任务初始模型,在主动学习迭代中结合源域差异性和目标域不确定性挑选对模型最具有贡献的目标域样本进行标注,根据学习阶段动态调整两种评价指标的权重.定义信息榨取比概念,提出基于信息榨取比的主动学习批次训练策略及T&N训练策略.两个跨数据集迁移实验表明,文中方法在取得良好性能的同时可有效降低标注成本,提出的主动学习训练策略可优化计算资源在主动学习过程中的分配,即让方法在初始学习阶段对样本学习更多次数,在终末学习阶段对样本学习较少次数.
服务
把本文推荐给朋友
加入我的书架
加入引用管理器
E-mail Alert
RSS
作者相关文章
刘大鹏
曹永锋
苏彩霞
张伦
关键词 深度主动学习深度迁移学习源域差异性目标域不确定性信息榨取比    
Abstract:Training deep neural network models comes with a heavy labeling cost. To reduce the cost, a deep transfer active learning method combining source domain and target domain is proposed. With the initial model transferred from source task, the current task samples with larger contribution to the model performance improvement are labeled by using a dynamical weighting combination of source domain difference and target domain uncertainty. Information extraction ratio(IER) is concretely defined in the specific case. An IER-based batch training strategy and a T&N batch training strategy are proposed to deal with model training process. The proposed method is tested on two cross-dataset transfer learning experiments. The results show that the transfer active learning method achieves good performance and reduces the cost of annotation effectively and the proposed strategies optimize the distribution of computing resources during the active learning process. Thus, the model learns more times from samples in the early phases and less times in the later and end phases.
Key wordsDeep Active Learning    Deep Transfer Learning    Source Domain Difference    Target Domain Uncertainty    Information Extraction Ratio   
收稿日期: 2021-01-22     
ZTFLH: TP 391.3  
基金资助:贵州省科学技术基金项目(黔科合基础[2018]1114)资助
通讯作者: 曹永锋,博士,教授,主要研究方向为模式识别.E-mail:cyfeis@whu.edu.cn.   
作者简介: 刘大鹏,硕士研究生,主要研究方向为图像处理、机器视觉.E-mail:490163724@qq.com.
苏彩霞,硕士,讲师,主要研究方向为遥感图像处理.E-mail:761289416@qq.com.
张 伦,硕士研究生,主要研究方向为图像处理、机器视觉.E-mail:1032476110@qq.com.
引用本文:   
刘大鹏, 曹永锋, 苏彩霞, 张伦. 结合源域差异性与目标域不确定性的深度迁移主动学习方法[J]. 模式识别与人工智能, 2021, 34(10): 898-908. LIU Dapeng, CAO Yongfeng, SU Caixia, ZHANG Lun. Deep Transfer Active Learning Method Combining Source Domain Difference and Target Domain Uncertainty. , 2021, 34(10): 898-908.
链接本文:  
http://manu46.magtech.com.cn/Jweb_prai/CN/10.16451/j.cnki.issn1003-6059.202110003      或     http://manu46.magtech.com.cn/Jweb_prai/CN/Y2021/V34/I10/898
版权所有 © 《模式识别与人工智能》编辑部
地址:安微省合肥市蜀山湖路350号 电话:0551-65591176 传真:0551-65591176 Email:bjb@iim.ac.cn
本系统由北京玛格泰克科技发展有限公司设计开发 技术支持:support@magtech.com.cn