计算机研究与发展
計算機研究與髮展
계산궤연구여발전
Journal of Computer Research and Development
2015年
11期
2545-2554
,共10页
李志杰%李元香%王峰%匡立
李誌傑%李元香%王峰%劻立
리지걸%리원향%왕봉%광립
大数据流%多任务%加速%在线学习%收敛分析
大數據流%多任務%加速%在線學習%收斂分析
대수거류%다임무%가속%재선학습%수렴분석
big data stream%multi-task%accelerated%online learning%convergence analysis
多任务在线学习框架采用直接数据处理的流式计算模式,是大数据流分析很有前途的一种工具.然而目前的多任务在线学习算法收敛率低,仅为O(1/√T),T为算法迭代次数.提出一种新颖的多任务加速在线学习算法ADA-MTL(accelerated dual averaging method for multi-task learning),在保持多任务在线学习快捷计算优势的基础上,达到最优收敛率O(1/T2).对多任务权重学习矩阵Wt的迭代闭式解表达式进行了推导,对提出算法的收敛性进行了详细的理论分析.实验表明,提出的多任务加速在线学习算法能够更好地保障大数据流处理的实时性和可伸缩性,有较广泛的实际应用价值.
多任務在線學習框架採用直接數據處理的流式計算模式,是大數據流分析很有前途的一種工具.然而目前的多任務在線學習算法收斂率低,僅為O(1/√T),T為算法迭代次數.提齣一種新穎的多任務加速在線學習算法ADA-MTL(accelerated dual averaging method for multi-task learning),在保持多任務在線學習快捷計算優勢的基礎上,達到最優收斂率O(1/T2).對多任務權重學習矩陣Wt的迭代閉式解錶達式進行瞭推導,對提齣算法的收斂性進行瞭詳細的理論分析.實驗錶明,提齣的多任務加速在線學習算法能夠更好地保障大數據流處理的實時性和可伸縮性,有較廣汎的實際應用價值.
다임무재선학습광가채용직접수거처리적류식계산모식,시대수거류분석흔유전도적일충공구.연이목전적다임무재선학습산법수렴솔저,부위O(1/√T),T위산법질대차수.제출일충신영적다임무가속재선학습산법ADA-MTL(accelerated dual averaging method for multi-task learning),재보지다임무재선학습쾌첩계산우세적기출상,체도최우수렴솔O(1/T2).대다임무권중학습구진Wt적질대폐식해표체식진행료추도,대제출산법적수렴성진행료상세적이론분석.실험표명,제출적다임무가속재선학습산법능구경호지보장대수거류처리적실시성화가신축성,유교엄범적실제응용개치.
