计算机研究与发展
計算機研究與髮展
계산궤연구여발전
JOURNAL OF COMPUTER RESEARCH AND DEVELOPMENT
2006年
2期
260-267
,共8页
感知器%语言模型%经验风险最小化
感知器%語言模型%經驗風險最小化
감지기%어언모형%경험풍험최소화
感知器(perceptron)是神经网络模型中的一种,它可以通过监督学习(supervised learning)的方法建立模式识别的能力.将感知器应用到语言模型的训练中,实现了感知器的两种不同训练规则以及多种特征权值计算方法,讨论了不同的训练参数对训练效果的影响.在训练之前,使用了一种基于经验风险最小化(empirical risk minimization,ERM)的特征选择算法确定特征集合.感知器训练之后的语言模型在日文假名到汉字(kana-kanji)的转换中进行评估.通过实验对比了感知器的两种训练规则以及变形算法的性能,同时发现通过感知器训练的模型比传统模型(N-gram)在性能上有了很大的提高,使相对错误率下降了15%~20%.
感知器(perceptron)是神經網絡模型中的一種,它可以通過鑑督學習(supervised learning)的方法建立模式識彆的能力.將感知器應用到語言模型的訓練中,實現瞭感知器的兩種不同訓練規則以及多種特徵權值計算方法,討論瞭不同的訓練參數對訓練效果的影響.在訓練之前,使用瞭一種基于經驗風險最小化(empirical risk minimization,ERM)的特徵選擇算法確定特徵集閤.感知器訓練之後的語言模型在日文假名到漢字(kana-kanji)的轉換中進行評估.通過實驗對比瞭感知器的兩種訓練規則以及變形算法的性能,同時髮現通過感知器訓練的模型比傳統模型(N-gram)在性能上有瞭很大的提高,使相對錯誤率下降瞭15%~20%.
감지기(perceptron)시신경망락모형중적일충,타가이통과감독학습(supervised learning)적방법건립모식식별적능력.장감지기응용도어언모형적훈련중,실현료감지기적량충불동훈련규칙이급다충특정권치계산방법,토론료불동적훈련삼수대훈련효과적영향.재훈련지전,사용료일충기우경험풍험최소화(empirical risk minimization,ERM)적특정선택산법학정특정집합.감지기훈련지후적어언모형재일문가명도한자(kana-kanji)적전환중진행평고.통과실험대비료감지기적량충훈련규칙이급변형산법적성능,동시발현통과감지기훈련적모형비전통모형(N-gram)재성능상유료흔대적제고,사상대착오솔하강료15%~20%.