自动化学报
自動化學報
자동화학보
ACTA AUTOMATICA SINICA
2006年
4期
541-549
,共9页
宋枫溪%张大鹏%杨静宇%高秀梅
宋楓溪%張大鵬%楊靜宇%高秀梅
송풍계%장대붕%양정우%고수매
最大散度差%大间距线性投影%Fisher鉴别准则%自适应算法%机器学习%人脸识别
最大散度差%大間距線性投影%Fisher鑒彆準則%自適應算法%機器學習%人臉識彆
최대산도차%대간거선성투영%Fisher감별준칙%자괄응산법%궤기학습%인검식별
首先证明了,当类内散布矩阵非奇异时,特定参数值c0下最大散度差的最优鉴别方向等同于Fisher最优鉴别方向;其次,给出了最大散度差分类算法的识别率随参数C变化的曲线.该曲线通常为一脉冲曲线.随着参数C的增大,识别率也逐渐增大.当参数C增大到c0时,识别率达到最大值.另外,以往的研究成果表明:当类内散布矩阵奇异时,最大散度差鉴别准则逐步逼近大间距线性投影准则.而且,随着参数C的不断增大,最大散度差分类算法的识别率也单调增大并最终稳定到大间距线性投影分类算法的识别率上.为此,我们提出了基于最大散度差鉴别准则的自适应分类算法.新算法可以根据训练样本的特性(类内散布矩阵是否奇异)自动选择恰当的参数C.在UCI机器学习数据库上的6个数据集以及AR人脸图像数据库上的测试结果表明,自适应最大散度差分类算法具有良好的分类性能.
首先證明瞭,噹類內散佈矩陣非奇異時,特定參數值c0下最大散度差的最優鑒彆方嚮等同于Fisher最優鑒彆方嚮;其次,給齣瞭最大散度差分類算法的識彆率隨參數C變化的麯線.該麯線通常為一脈遲麯線.隨著參數C的增大,識彆率也逐漸增大.噹參數C增大到c0時,識彆率達到最大值.另外,以往的研究成果錶明:噹類內散佈矩陣奇異時,最大散度差鑒彆準則逐步逼近大間距線性投影準則.而且,隨著參數C的不斷增大,最大散度差分類算法的識彆率也單調增大併最終穩定到大間距線性投影分類算法的識彆率上.為此,我們提齣瞭基于最大散度差鑒彆準則的自適應分類算法.新算法可以根據訓練樣本的特性(類內散佈矩陣是否奇異)自動選擇恰噹的參數C.在UCI機器學習數據庫上的6箇數據集以及AR人臉圖像數據庫上的測試結果錶明,自適應最大散度差分類算法具有良好的分類性能.
수선증명료,당류내산포구진비기이시,특정삼수치c0하최대산도차적최우감별방향등동우Fisher최우감별방향;기차,급출료최대산도차분류산법적식별솔수삼수C변화적곡선.해곡선통상위일맥충곡선.수착삼수C적증대,식별솔야축점증대.당삼수C증대도c0시,식별솔체도최대치.령외,이왕적연구성과표명:당류내산포구진기이시,최대산도차감별준칙축보핍근대간거선성투영준칙.이차,수착삼수C적불단증대,최대산도차분류산법적식별솔야단조증대병최종은정도대간거선성투영분류산법적식별솔상.위차,아문제출료기우최대산도차감별준칙적자괄응분류산법.신산법가이근거훈련양본적특성(류내산포구진시부기이)자동선택흡당적삼수C.재UCI궤기학습수거고상적6개수거집이급AR인검도상수거고상적측시결과표명,자괄응최대산도차분류산법구유량호적분류성능.
