文獻(xiàn)標(biāo)識(shí)碼: A
DOI: 10.19358/j.issn.2096-5133.2022.01.010
引用格式: 楊繼增,,關(guān)勝曉. 面向CNN的類激活映射算法研究[J].信息技術(shù)與網(wǎng)絡(luò)安全,,2022,41(1):63-68.
0 引言
近年來(lái),,以CNN為代表的深度學(xué)習(xí)在計(jì)算機(jī)視覺領(lǐng)域取得了突出的成果,。使用端到端模型訓(xùn)練分類器的CNN可以很好地完成大量的圖像處理任務(wù)。然而,,端到端模型的黑盒屬性使CNN能夠直接基于輸入給出結(jié)果,。早期的人工智能系統(tǒng)的內(nèi)部機(jī)制主要是邏輯和符號(hào),CNN的解釋方法被提出后,,可視化成為最直接的策略,。換句話說(shuō),可視化網(wǎng)絡(luò)預(yù)測(cè)結(jié)果與輸入圖片的一些關(guān)聯(lián)區(qū)域,,如輸入特征的重要性或?qū)W習(xí)的權(quán)重,,已經(jīng)成為最直接的方法?;谔荻萚1],、基于擾動(dòng)[2]、基于CAM[3]是三種被廣泛采用的方法,。
基于梯度的方法通常獲取含有大量噪聲的低質(zhì)量的解釋圖,。其步驟如下:首先,通過(guò)網(wǎng)絡(luò)的反向傳播得到輸入空間的梯度圖,;其次,,對(duì)梯度圖進(jìn)行處理得到表示輸入圖片對(duì)特定類輸出結(jié)果貢獻(xiàn)程度的熱力圖,。基于擾動(dòng)的方法[2,,4]通常用擾動(dòng)噪聲改變?cè)驾斎雭?lái)觀察模型預(yù)測(cè)得分的變化,。然而,此方法需要花費(fèi)大量時(shí)間來(lái)迭代查詢模型預(yù)測(cè)結(jié)果,。
本文詳細(xì)內(nèi)容請(qǐng)下載:http://forexkbc.com/resource/share/2000003938
作者信息:
楊繼增,,關(guān)勝曉
(中國(guó)科學(xué)技術(shù)大學(xué) 信息科學(xué)技術(shù)學(xué)院,安徽 合肥230026)