模式识别与人工智能
2025年4月3日 星期四   首 页     期刊简介     编委会     投稿指南     伦理声明     联系我们                                                                English
模式识别与人工智能  2019, Vol. 32 Issue (11): 1051-1056    DOI: 10.16451/j.cnki.issn1003-6059.201911010
研究与应用 最新目录| 下期目录| 过刊浏览| 高级检索 |
基于层融合特征系数的动态网络结构化剪枝
卢海伟1, 袁晓彤1
1.南京信息工程大学 自动化学院 南京 210044
Dynamic Network Structured Pruning via Feature Coefficients of Layer Fusion
LU Haiwei1, YUAN Xiaotong1
1.School of Automation, Nanjing University of Information Science and Technology, Nanjing 210044

全文: PDF (592 KB)   HTML (1 KB) 
输出: BibTeX | EndNote (RIS)      
摘要 剪枝是一种减少模型复杂度的有效方式,现有的剪枝方法仅考虑卷积层对特征图的影响,无法准确判断冗余滤波器,文中提出基于层融合特征系数的动态网络结构化剪枝方法.同时考虑卷积层和批规范化(BN)层对输出特征图的影响,利用多动态参数确定滤波器的重要性,动态寻找冗余滤波器,获取最优网络结构.在CIFAR-10、CIFAR-100数据集上的实验表明,无论是残差网络还是轻量型网络,文中方法在采用较大剪枝率时仍能保持较高精度.
服务
把本文推荐给朋友
加入我的书架
加入引用管理器
E-mail Alert
RSS
作者相关文章
卢海伟
袁晓彤
关键词 模型复杂度层融合特征系数结构化剪枝动态参数    
Abstract:Pruning is an effective way to reduce the complexity of the model. In the existing pruning methods, only the influence of the convolutional layer on the feature map is taken into account,and therefore the redundant filter cannot be determined accurately. In this paper, a dynamic network structured pruning method based on layer fusion feature coefficients is proposed. Considering the influence of convolutional layer and Batch Norm layer on the feature map, the importance of the filter is determined by multiple dynamic parameters, and the redundant filter is dynamically searched to obtain the optimal network structure. Experiments on the standard datasets of CIFAR-10 and CIFAR-100 shows that both the residual network and the lightweight network maintain high accuracy while using large pruning rates.
Key wordsModel Complexity    Layer Fusion Feature Coefficient    Structured Pruning    Dynamic Parameters   
收稿日期: 2019-08-15     
ZTFLH: TP 183  
基金资助:国家自然科学基金项目(No.61876090,61936005)、国家新一代人工智能重大项目(No.2018AAA0100401)资助
通讯作者: 袁晓彤,博士,教授,主要研究方向为机器学习、模式识别.E-mail:xtyuan1980@gmail.com.   
作者简介: 卢海伟,硕士研究生,主要研究方向为神经网络压缩.E-mail:761227301@qq.com.
引用本文:   
卢海伟, 袁晓彤. 基于层融合特征系数的动态网络结构化剪枝[J]. 模式识别与人工智能, 2019, 32(11): 1051-1056. LU Haiwei, YUAN Xiaotong. Dynamic Network Structured Pruning via Feature Coefficients of Layer Fusion. , 2019, 32(11): 1051-1056.
链接本文:  
http://manu46.magtech.com.cn/Jweb_prai/CN/10.16451/j.cnki.issn1003-6059.201911010      或     http://manu46.magtech.com.cn/Jweb_prai/CN/Y2019/V32/I11/1051
版权所有 © 《模式识别与人工智能》编辑部
地址:安微省合肥市蜀山湖路350号 电话:0551-65591176 传真:0551-65591176 Email:bjb@iim.ac.cn
本系统由北京玛格泰克科技发展有限公司设计开发 技术支持:support@magtech.com.cn