一種深度神經(jīng)網(wǎng)絡(luò)的分布式訓(xùn)練方法
所屬分類:技術(shù)論文
上傳者:zhoubin333
文檔大?。?span>3555 K
標簽: 深度神經(jīng)網(wǎng)絡(luò) 分布式訓(xùn)練 監(jiān)督學(xué)習(xí)
所需積分:0分積分不夠怎么辦?
文檔介紹:深度神經(jīng)網(wǎng)絡(luò)在高維數(shù)據(jù)的分類和預(yù)測中取得了巨大成功,。訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)是數(shù)據(jù)密集型的任務(wù),,需從多個數(shù)據(jù)源收集大規(guī)模的數(shù)據(jù)。這些數(shù)據(jù)中通常包含敏感信息時,,使得深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程容易泄露數(shù)據(jù)隱私,。針對訓(xùn)練過程中的數(shù)據(jù)隱私和通信代價問題,提出了一種深度神經(jīng)網(wǎng)絡(luò)的分布式訓(xùn)練方法,,允許基于多個數(shù)據(jù)源共同訓(xùn)練深度神經(jīng)網(wǎng)絡(luò),。首先,提出了分布式訓(xùn)練架構(gòu),,由1個計算中心和多個代理組成,。其次,提出了基于多代理的分布式訓(xùn)練算法,,允許代理在數(shù)據(jù)不出本地和減少通信代價的情況下,,通過切割深度神經(jīng)網(wǎng)絡(luò),實現(xiàn)分布式地共同訓(xùn)練模型,。然后,,分析了算法的正確性。最后,,實驗結(jié)果表明該方法是有效的,。
現(xiàn)在下載
VIP會員,AET專家下載不扣分,;重復(fù)下載不扣分,,本人上傳資源不扣分。