计算机研究与发展
計算機研究與髮展
계산궤연구여발전
JOURNAL OF COMPUTER RESEARCH AND DEVELOPMENT
2013年
11期
2253-2261
,共9页
支持向量机%正则化路径%活动集%正定矩阵%Cholesky分解
支持嚮量機%正則化路徑%活動集%正定矩陣%Cholesky分解
지지향량궤%정칙화로경%활동집%정정구진%Cholesky분해
support vector machine (SVM)%regularization path%active set%positive definite matrix%Cholesky decomposition
正则化路径算法是数值求解支持向量机(support vector machine,SVM)分类问题的有效方法,它可在相当于一次SVM求解的时间复杂度内得到所有的正则化参数及对应SVM的解.现有的SVM正则化路径算法或者不能处理具有重复数据、近似数据或线性相关数据,或者计算开销较大.针对这些问题,应用正定矩阵方程组求解方法来求解SVM正则化路径,提出正定矩阵SVM正则化路径算法(positive definite SVM path,PDSVMP).PDSVMP算法将迭代方程组的系数矩阵转换为正定矩阵,并采用Cholesky分解方法求解路径上各拐点处Lagrange乘子增量向量；与已有算法中直接求解正则化参数不同,该算法根据活动集变化情况确定参数增量,并在此基础上计算正则化参数,这样保证了理论正确性和数值稳定性,并可降低计算复杂性.实例数据集及标准数据集上的实验表明,PDSVMP算法可正确处理包含重复数据、近似数据或线性相关数据的数据集,并具有较高的计算效率.
正則化路徑算法是數值求解支持嚮量機(support vector machine,SVM)分類問題的有效方法,它可在相噹于一次SVM求解的時間複雜度內得到所有的正則化參數及對應SVM的解.現有的SVM正則化路徑算法或者不能處理具有重複數據、近似數據或線性相關數據,或者計算開銷較大.針對這些問題,應用正定矩陣方程組求解方法來求解SVM正則化路徑,提齣正定矩陣SVM正則化路徑算法(positive definite SVM path,PDSVMP).PDSVMP算法將迭代方程組的繫數矩陣轉換為正定矩陣,併採用Cholesky分解方法求解路徑上各枴點處Lagrange乘子增量嚮量；與已有算法中直接求解正則化參數不同,該算法根據活動集變化情況確定參數增量,併在此基礎上計算正則化參數,這樣保證瞭理論正確性和數值穩定性,併可降低計算複雜性.實例數據集及標準數據集上的實驗錶明,PDSVMP算法可正確處理包含重複數據、近似數據或線性相關數據的數據集,併具有較高的計算效率.
정칙화로경산법시수치구해지지향량궤(support vector machine,SVM)분류문제적유효방법,타가재상당우일차SVM구해적시간복잡도내득도소유적정칙화삼수급대응SVM적해.현유적SVM정칙화로경산법혹자불능처리구유중복수거、근사수거혹선성상관수거,혹자계산개소교대.침대저사문제,응용정정구진방정조구해방법래구해SVM정칙화로경,제출정정구진SVM정칙화로경산법(positive definite SVM path,PDSVMP).PDSVMP산법장질대방정조적계수구진전환위정정구진,병채용Cholesky분해방법구해로경상각괴점처Lagrange승자증량향량；여이유산법중직접구해정칙화삼수불동,해산법근거활동집변화정황학정삼수증량,병재차기출상계산정칙화삼수,저양보증료이론정학성화수치은정성,병가강저계산복잡성.실례수거집급표준수거집상적실험표명,PDSVMP산법가정학처리포함중복수거、근사수거혹선성상관수거적수거집,병구유교고적계산효솔.
