【資料圖】

近日，湖北大學生命科學學院陳前軍高級實驗師與資源環(huán)境學院劉杰教授團隊聯(lián)合在計算機科學信息系統(tǒng)頂級期刊Information Sciences（中科院一區(qū)頂刊，CCF-B類）上發(fā)表題為“Visualizing Deep Networks using Segmentation Recognition and Interpretation Algorithm”（基于分割識別深度網(wǎng)絡的可視化算法）的研究論文，提出了一種新型深度神經(jīng)網(wǎng)絡解釋算法，用以解決深度神經(jīng)網(wǎng)絡的分類、預測模型的可信解釋問題。碩士生丁永昌為第一作者，劉暢和朱海峰為參與作者，陳前軍和劉杰為共同通訊作者，湖北大學為第一單位（如圖1）。

圖1. 文章首頁

隨著機器學習技術(shù)的進步，人工智能越來越多地被應用于數(shù)據(jù)分析和問題決策過程。但由于深度神經(jīng)網(wǎng)絡“黑盒”特征，它的決策過程很難被簡明扼要地解釋清楚，模型研發(fā)者很難讓用戶完全相信決策過程和決策結(jié)果，因此理解和解釋深度學習預測模型做出的決策過程在許多領(lǐng)域極具現(xiàn)實價值。研究人員在研究已有解釋算法的基礎(chǔ)上，提出了一種新型的深度卷積神經(jīng)網(wǎng)絡模型的解釋算法，即采用分割識別總體思路來對模型進行解釋（如圖2）。與其它主流解釋算法相比，該算法能夠?qū)δＰ皖A測過程中的正向特征與負向特征進行標注（定性分析），可通過顏色濃度表達和真實標簽的相關(guān)程度（定量分析），并且只存在正向傳播、參數(shù)量更少，占用更少的硬件資源，卻擁有更快的模型解釋速度等特性。其次，該算法在保證解釋準確性前提下，擁有更好的場景適應性。

圖2. NNI-SRI算法思想和流程

研究人員將該算法應用在基于深度學習的蜘蛛性別分類模型中，得到了較好的實驗效果。該解釋算法準確標注出蜘蛛樣本頭胸部的雄蛛觸肢器末端膨大、雌蛛外雌器角質(zhì)化所在區(qū)域（分類學家鑒定雌雄的主要依據(jù)），從計算機角度證明了人工智能分類模型的正確性，同時提示著擬遁蛛屬蜘蛛的花紋極有可能存在肉眼不易識別的雌雄二型現(xiàn)象，這一發(fā)現(xiàn)目前暫無相關(guān)報道，該結(jié)論對于學者在蜘蛛的形態(tài)分類學研究中具有著指導作用（如圖3）。

圖3. NNI-SRI模型解釋效果

據(jù)悉，劉杰教授團隊一直聚焦于蜘蛛經(jīng)典分類與分子系統(tǒng)學、農(nóng)田蜘蛛生態(tài)學方面的研究。近年來在Pest Management Science, Molecular Phylogenetics and Evolution, Intergrative Zoology, Microorganisms等SCI期刊發(fā)表論文35篇，主持國家自然科學基金5項；陳前軍老師團隊一直從事計算機軟件、人工智能基礎(chǔ)理論的研究和開發(fā)工作，近年來合作研發(fā)的葛洲壩人才招聘系統(tǒng)、運百跨境電商管理系統(tǒng)、湖北省公安廳執(zhí)法資格大規(guī)模在線考試系統(tǒng)和湖北文化產(chǎn)業(yè)網(wǎng)等信息系統(tǒng)一直運行穩(wěn)定、效果良好，得到一致好評。（湖北大學 生命科學學院）