模式识别与人工智能
2025年4月3日 星期四   首 页     期刊简介     编委会     投稿指南     伦理声明     联系我们                                                                English
模式识别与人工智能  2014, Vol. 27 Issue (8): 692-700    DOI:
论文与报告 最新目录| 下期目录| 过刊浏览| 高级检索 |
求解线性SVM的非精确步长搜索割平面方法*
储德军1,陶安2,高乾坤3,姜纪远3,陶卿1
1中国人民解放军陆军军官学院 十一系 合肥 230031
2中国人民解放军陆军军官学院 训练部 合肥 230031
3中国人民解放军陆军军官学院 研究生管理大队 合肥 230031
Optimized Cutting Plane Method for Linear SVM via Inexact Step-Length Search
CHU De-Jun1, TAO An2, GAO Qian-Kun3, JIANG Ji-Yuan3, TAO Qing1
1 The 11th Department, Army Officer Academy of PLA, Hefei 230031
2Training Department, Army Officer Academy of PLA, Hefei 230031
3 Administrant Brigade of Postgraduate, Army Officer Academy of PLA, Hefei 230031

全文: PDF (721 KB)   HTML (1 KB) 
输出: BibTeX | EndNote (RIS)      
摘要 割平面方法可高效求解线性支持向量机问题,其主要思路是通过不断添加割平面并利用精确线性搜索实现算法的加速和优化.针对其中的非光滑线性搜索问题,文中提出一种基于非精确步长搜索的加速割平面方法.该方法使用较少的迭代次数就能确定最优步长所在的子区间.在此基础上,用二点二次插值的闭式解逼近最优步长,从而较精确线性搜索方法速度更快、开销更小,且保持同样的收敛边界.大量实验表明,文中方法效率优于基于精确线性搜索的优化割平面方法,在一些数据库上的收敛速度甚至提升50%.
服务
把本文推荐给朋友
加入我的书架
加入引用管理器
E-mail Alert
RSS
作者相关文章
储德军
陶安
高乾坤
姜纪远
陶卿
关键词 大规模学习 凸优化 线性支持向量机 割平面方法 线性搜索    
Abstract:Cutting plane method efficiently solves the primal problem of linear support vector machines by adding cutting planes incrementally, and thus it can be accelerated through the exact line search. In this paper, an optimized cutting plane method with inexact line search is presented, and it determines the interval containing the optimal step size with fewer iterations. The acceptable step size is obtained by the closed-form solution of quadratic interpolation with two points. The theoretical analysis shows that the proposed method has the same optimal convergence bound as the exact line search method with a higher speed and low cost. The experiments on large-scale datasets demonstrate that the proposed method outperforms the exact line search method. In some cases, it achieves even more than 50% speedup.
Key wordsLarge-Scale Learning    Convex Optimization    Linear Support Vector Machine    Cutting Plane Method    Line Search   
收稿日期: 2013-05-23     
ZTFLH: TP301  
基金资助:国家自然科学基金项目(No.61273296,61175035)、安徽省自然科学基金青年项目(No.1308085121QF121)资助
作者简介: 储德军(通讯作者),男,1978年生,博士研究生,讲师,主要研究方向为模式识别、凸优化及其在机器学习中的应用.E-mail:djun.chu@gmail.com.陶安,男,1972年生,硕士,副教授,主要研究方向为计算机网络.高乾坤,男,1989年生,硕士研究生,主要研究方向为模式识别、人工智能.姜纪远,男,1989年生,硕士研究生,主要研究方向为统计机器学习、优化算法.陶卿,男,1965年生,教授,博士生导师,主要研究方向为应用数学、机器学习、凸优化理论.
引用本文:   
储德军,陶安,高乾坤,姜纪远,陶卿. 求解线性SVM的非精确步长搜索割平面方法*[J]. 模式识别与人工智能, 2014, 27(8): 692-700. CHU De-Jun, TAO An, GAO Qian-Kun, JIANG Ji-Yuan, TAO Qing. Optimized Cutting Plane Method for Linear SVM via Inexact Step-Length Search. , 2014, 27(8): 692-700.
链接本文:  
http://manu46.magtech.com.cn/Jweb_prai/CN/      或     http://manu46.magtech.com.cn/Jweb_prai/CN/Y2014/V27/I8/692
版权所有 © 《模式识别与人工智能》编辑部
地址:安微省合肥市蜀山湖路350号 电话:0551-65591176 传真:0551-65591176 Email:bjb@iim.ac.cn
本系统由北京玛格泰克科技发展有限公司设计开发 技术支持:support@magtech.com.cn