计算机研究与发展
計算機研究與髮展
계산궤연구여발전
JOURNAL OF COMPUTER RESEARCH AND DEVELOPMENT
2013年
9期
1855-1864
,共10页
模型组合%正则化路径%支持向量机%一致性%贝叶斯组合
模型組閤%正則化路徑%支持嚮量機%一緻性%貝葉斯組閤
모형조합%정칙화로경%지지향량궤%일치성%패협사조합
model combination%regularization path%support vector machines (SVM)%consistency%Bayesian combination decomposition
模型组合旨在整合并利用假设空间中多个模型提高学习系统的稳定性和泛化性.针对支持向量机(support vector machine,SVM)模型组合多采用基于样本采样方法构造候选模型集的现状,研究基于正则化路径的SVM模型组合.首先证明SVM模型组合Lh-风险一致性,给出SVM模型组合基于样本的合理性解释.然后提出正则化路径上的三步式SVM贝叶斯组合方法.利用SVM正则化路径分段线性性质构建初始模型集,并应用平均广义近似交叉验证(generalized approximate cross-validation,GACV)模型集修剪策略获得候选模型集.测试或预测阶段,应用最小近邻法确定输入敏感的最终组合模型集,并实现贝叶斯组合预测.与基于样本采样方法不同,三步式SVM贝叶斯组合方法基于正则化路径在整个样本集上构造模型集,训练过程易于实现,计算效率较高.模型集修剪策略可减小模型集规模,提高计算效率和预测性能.实验结果验证了正则化路径上三步式SVM模型组合的有效性.
模型組閤旨在整閤併利用假設空間中多箇模型提高學習繫統的穩定性和汎化性.針對支持嚮量機(support vector machine,SVM)模型組閤多採用基于樣本採樣方法構造候選模型集的現狀,研究基于正則化路徑的SVM模型組閤.首先證明SVM模型組閤Lh-風險一緻性,給齣SVM模型組閤基于樣本的閤理性解釋.然後提齣正則化路徑上的三步式SVM貝葉斯組閤方法.利用SVM正則化路徑分段線性性質構建初始模型集,併應用平均廣義近似交扠驗證(generalized approximate cross-validation,GACV)模型集脩剪策略穫得候選模型集.測試或預測階段,應用最小近鄰法確定輸入敏感的最終組閤模型集,併實現貝葉斯組閤預測.與基于樣本採樣方法不同,三步式SVM貝葉斯組閤方法基于正則化路徑在整箇樣本集上構造模型集,訓練過程易于實現,計算效率較高.模型集脩剪策略可減小模型集規模,提高計算效率和預測性能.實驗結果驗證瞭正則化路徑上三步式SVM模型組閤的有效性.
모형조합지재정합병이용가설공간중다개모형제고학습계통적은정성화범화성.침대지지향량궤(support vector machine,SVM)모형조합다채용기우양본채양방법구조후선모형집적현상,연구기우정칙화로경적SVM모형조합.수선증명SVM모형조합Lh-풍험일치성,급출SVM모형조합기우양본적합이성해석.연후제출정칙화로경상적삼보식SVM패협사조합방법.이용SVM정칙화로경분단선성성질구건초시모형집,병응용평균엄의근사교차험증(generalized approximate cross-validation,GACV)모형집수전책략획득후선모형집.측시혹예측계단,응용최소근린법학정수입민감적최종조합모형집,병실현패협사조합예측.여기우양본채양방법불동,삼보식SVM패협사조합방법기우정칙화로경재정개양본집상구조모형집,훈련과정역우실현,계산효솔교고.모형집수전책략가감소모형집규모,제고계산효솔화예측성능.실험결과험증료정칙화로경상삼보식SVM모형조합적유효성.
