计算机研究与发展
計算機研究與髮展
계산궤연구여발전
JOURNAL OF COMPUTER RESEARCH AND DEVELOPMENT
2013年
11期
2295-2303
,共9页
朱烨雷%王玉军%罗强%陶卿
硃燁雷%王玉軍%囉彊%陶卿
주엽뢰%왕옥군%라강%도경
机器学习%支持向量%截断Hinge损失%CCCP%坐标下降%软阈值
機器學習%支持嚮量%截斷Hinge損失%CCCP%坐標下降%軟閾值
궤기학습%지지향량%절단Hinge손실%CCCP%좌표하강%연역치
machine learning%support vectors%truncated Hinge loss%concave-convex procedure (CCCP)%coordinate descent%soft-thresholding
有效地减少支持向量数目能够提高分类器的鲁棒性和精确性,缩短支持向量机(support vector machine,SVM)的训练和测试时间,在众多稀疏算法中,截断Hinge损失方法可以显著降低支持向量的数目,但却导致了非凸优化问题.一些研究者使用CCCP(concave-convex procedure)方法将非凸问题转化为多阶段凸问题求解,不仅增加了额外计算量,而且只能得到局部最优解.为了弥补上述不足,提出了一种基于CCCP的软阈值坐标下降算法.用坐标下降方法求解CCCP子阶段凸问题,提高计算效率;对偶SVM中引入软阈值投影技巧,能够减少更多的支持向量数目,同时选择合适的正则化参数可消除局部最优解的不良影响,提高分类器的分类精度.仿真数据库、UCI数据库和大规模真实数据库的实验证实了所提算法正确性和有效性.
有效地減少支持嚮量數目能夠提高分類器的魯棒性和精確性,縮短支持嚮量機(support vector machine,SVM)的訓練和測試時間,在衆多稀疏算法中,截斷Hinge損失方法可以顯著降低支持嚮量的數目,但卻導緻瞭非凸優化問題.一些研究者使用CCCP(concave-convex procedure)方法將非凸問題轉化為多階段凸問題求解,不僅增加瞭額外計算量,而且隻能得到跼部最優解.為瞭瀰補上述不足,提齣瞭一種基于CCCP的軟閾值坐標下降算法.用坐標下降方法求解CCCP子階段凸問題,提高計算效率;對偶SVM中引入軟閾值投影技巧,能夠減少更多的支持嚮量數目,同時選擇閤適的正則化參數可消除跼部最優解的不良影響,提高分類器的分類精度.倣真數據庫、UCI數據庫和大規模真實數據庫的實驗證實瞭所提算法正確性和有效性.
유효지감소지지향량수목능구제고분류기적로봉성화정학성,축단지지향량궤(support vector machine,SVM)적훈련화측시시간,재음다희소산법중,절단Hinge손실방법가이현저강저지지향량적수목,단각도치료비철우화문제.일사연구자사용CCCP(concave-convex procedure)방법장비철문제전화위다계단철문제구해,불부증가료액외계산량,이차지능득도국부최우해.위료미보상술불족,제출료일충기우CCCP적연역치좌표하강산법.용좌표하강방법구해CCCP자계단철문제,제고계산효솔;대우SVM중인입연역치투영기교,능구감소경다적지지향량수목,동시선택합괄적정칙화삼수가소제국부최우해적불량영향,제고분류기적분류정도.방진수거고、UCI수거고화대규모진실수거고적실험증실료소제산법정학성화유효성.