计算机应用与软件
計算機應用與軟件
계산궤응용여연건
Computer Applications and Software
2015年
8期
220-223,275
,共5页
吴晓娜%严建峰%刘晓升
吳曉娜%嚴建峰%劉曉升
오효나%엄건봉%류효승
LDA%消息传递算法%对称先验%非对称先验
LDA%消息傳遞算法%對稱先驗%非對稱先驗
LDA%소식전체산법%대칭선험%비대칭선험
LDA%Belief propagation algorithm%Symmetric priori%Asymmetric priori
变分贝叶斯、吉布斯采样和消息传递是求解潜在狄利克雷分配（ LDA）模型的三种主要近似推理算法，消息传递算法在效率和准确率上都明显优于其他两种。为了获得高可解释性的潜在语义空间，提出在迭代过程中动态调整先验参数的消息传递算法，使用加入伽马先验的固定点迭代方法自动学参数，同时探索对称先验以及非对称先验对模型泛化能力及文本分类准确率的影响。实验结果表明提出的动态非对称先验算法改进了模型的泛化能力，提高了文本分类的准确率。
變分貝葉斯、吉佈斯採樣和消息傳遞是求解潛在狄利剋雷分配（ LDA）模型的三種主要近似推理算法，消息傳遞算法在效率和準確率上都明顯優于其他兩種。為瞭穫得高可解釋性的潛在語義空間，提齣在迭代過程中動態調整先驗參數的消息傳遞算法，使用加入伽馬先驗的固定點迭代方法自動學參數，同時探索對稱先驗以及非對稱先驗對模型汎化能力及文本分類準確率的影響。實驗結果錶明提齣的動態非對稱先驗算法改進瞭模型的汎化能力，提高瞭文本分類的準確率。
변분패협사、길포사채양화소식전체시구해잠재적리극뢰분배（ LDA）모형적삼충주요근사추리산법，소식전체산법재효솔화준학솔상도명현우우기타량충。위료획득고가해석성적잠재어의공간，제출재질대과정중동태조정선험삼수적소식전체산법，사용가입가마선험적고정점질대방법자동학삼수，동시탐색대칭선험이급비대칭선험대모형범화능력급문본분류준학솔적영향。실험결과표명제출적동태비대칭선험산법개진료모형적범화능력，제고료문본분류적준학솔。
There are three main approximate inference methods to seek the solution of latent Dirichlet allocation ( LDA ) model: the variational Bayes, the Gibbs sampling and the belief propagation.Belief propagation algorithm is obviously competitive in both efficiency and accuracy to other two.For finding the latent semantic space with high interpretability, this paper proposes the belief propagation algorithm which dynamically adjusts priori parameters during iterations.It automatically learns the parameters by the fixed point iteration method with Gamma priori added.Meanwhile, we explore the effect of symmetric priori and asymmetric priori on the generalisation ability of model and the accuracy of text classification.Experimental results show that the proposed dynamic asymmetric priori algorithm improves the generalisation ability of model as well as raises the accuracy of text classification.
