陕西师范大学学报(自然科学版)
陝西師範大學學報(自然科學版)
협서사범대학학보(자연과학판)
Journal of Shaanxi Normal University (Natural Science Edition)
2015年
6期
9-16,35
,共9页
光滑支持向量机%光滑函数%Newton-Armijo 算法%BFGS-Armijo 算法%Newton-PCG 算法
光滑支持嚮量機%光滑函數%Newton-Armijo 算法%BFGS-Armijo 算法%Newton-PCG 算法
광활지지향량궤%광활함수%Newton-Armijo 산법%BFGS-Armijo 산법%Newton-PCG 산법
smoothing support vector machine%smooth function%Newton-Armijo algorithm%BFGS-Armijo algorithm%Newton-PCG algorithm
光滑支持向量机(SSVM)可以用牛顿法等快速算法求解,典型的光滑函数有 sigmoid 函数的积分函数、多项式函数、插值函数和样条函数。本文从理论和数值实验两个方面比较研究了这些光滑函数逼近正号函数的精度及 SSVM 模型的常用求解算法 Newton-Armijo 法、BFGS-Armijo法和 Newton-PCG 法的收敛速度。研究表明,光滑函数越逼近正号函数,解的精度越高,而训练时间也明显增加;Newton-Armijo 法的收敛速度慢于后两种方法,而 Newton-PCG 法收敛速度最快。
光滑支持嚮量機(SSVM)可以用牛頓法等快速算法求解,典型的光滑函數有 sigmoid 函數的積分函數、多項式函數、插值函數和樣條函數。本文從理論和數值實驗兩箇方麵比較研究瞭這些光滑函數逼近正號函數的精度及 SSVM 模型的常用求解算法 Newton-Armijo 法、BFGS-Armijo法和 Newton-PCG 法的收斂速度。研究錶明,光滑函數越逼近正號函數,解的精度越高,而訓練時間也明顯增加;Newton-Armijo 法的收斂速度慢于後兩種方法,而 Newton-PCG 法收斂速度最快。
광활지지향량궤(SSVM)가이용우돈법등쾌속산법구해,전형적광활함수유 sigmoid 함수적적분함수、다항식함수、삽치함수화양조함수。본문종이론화수치실험량개방면비교연구료저사광활함수핍근정호함수적정도급 SSVM 모형적상용구해산법 Newton-Armijo 법、BFGS-Armijo법화 Newton-PCG 법적수렴속도。연구표명,광활함수월핍근정호함수,해적정도월고,이훈련시간야명현증가;Newton-Armijo 법적수렴속도만우후량충방법,이 Newton-PCG 법수렴속도최쾌。
Smoothing support vector machine (SSVM)can be solved by Newton algorithm and other fast algorithms.The classical smooth functions include the integral of sigmoid function, polynomial function,interpolation function,splines function and so on.From theoretic and nu-merical experiment,the paper compares and studies the accuracy of popular smooth functions ap-proximating plus function and the convergence speed of the favorite algorithm for SSVM including Newton-Armijo algorithm,BFGS-Armijo algorithm and Newton-PCG algorithm.It is shown that the more the smooth function approximates plus function,the more accurate the solution is, while the train time is heavily increased.Newton-PCG algorithm is the fastest one,and Newton-Armijo algorithm is the slowest one.