CAJ | 학술논문

L1正则化在稀疏学习的研究中起关键作用,使用截断L1正则化项往往可以获得更好的准确率,但却导致了非凸优化问题.目前,主要采用多阶段凸松弛(multi-stage convex relaxation,MSCR)算法进行求解,由于每一阶段都需要求解一个凸优化问题,计算代价较大.为了弥补上述不足,提出了一种求解截断L1正则化项非凸学习问题的坐标下降算法(Non-convex CD).该算法只需在多阶段凸松弛算法的每一阶段执行单步的坐标下降算法,有效降低了计算复杂性.理论分析表明所提出的算法是收敛的.针对Lasso问题,在大规模真实数据库作了实验,实验结果表明,Non-convex CD在取得和MSCR几乎相同准确率的基础上,求解的CPU时间甚至优于求解凸问题的坐标下降方法.为了进一步说明所提算法的性能,进一步研究了Non-convex CD在图像去模糊化中的应用问题.
L1정칙화재희소학습적연구중기관건작용,사용절단L1정칙화항왕왕가이획득경호적준학솔,단각도치료비철우화문제.목전,주요채용다계단철송이(multi-stage convex relaxation,MSCR)산법진행구해,유우매일계단도수요구해일개철우화문제,계산대개교대.위료미보상술불족,제출료일충구해절단L1정칙화항비철학습문제적좌표하강산법(Non-convex CD).해산법지수재다계단철송이산법적매일계단집행단보적좌표하강산법,유효강저료계산복잡성.이론분석표명소제출적산법시수렴적.침대Lasso문제,재대규모진실수거고작료실험,실험결과표명,Non-convex CD재취득화MSCR궤호상동준학솔적기출상,구해적CPU시간심지우우구해철문제적좌표하강방법.위료진일보설명소제산법적성능,진일보연구료Non-convex CD재도상거모호화중적응용문제.