神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)是提高深度神經(jīng)網(wǎng)絡(luò)性能的基礎(chǔ)。研究人員開(kāi)發(fā)出了首個(gè)通過(guò)語(yǔ)法引導(dǎo)的神經(jīng)網(wǎng)絡(luò)生成器AOGNets，它能更有效地在原始數(shù)據(jù)中提取信息，在圖像分類(lèi)、目標(biāo)檢測(cè)和分割方面的表現(xiàn)優(yōu)于包括ResNets、DenseNets、ResNeXts和DualPathNets在內(nèi)最先進(jìn)的神經(jīng)網(wǎng)絡(luò)。

北卡羅萊納州立大學(xué)的研究人員開(kāi)發(fā)了一個(gè)通過(guò)語(yǔ)法指導(dǎo)的網(wǎng)絡(luò)生成器來(lái)打造深度神經(jīng)網(wǎng)絡(luò)的新框架。在實(shí)驗(yàn)測(cè)試中，被稱(chēng)為AOGNets的新網(wǎng)絡(luò)在視覺(jué)識(shí)別任務(wù)方面優(yōu)于現(xiàn)有的最先進(jìn)的框架，包括廣泛使用的ResNet和DenseNet系統(tǒng)。

作為這項(xiàng)研究中一篇論文的作者，北卡羅萊納州立大學(xué)電子與計(jì)算機(jī)工程副教授吳田富博士說(shuō)：“與我們對(duì)比過(guò)的任何一個(gè)網(wǎng)絡(luò)相比，AOGNets都具有更好的預(yù)測(cè)精度?！?AOGNets也更容易解釋?zhuān)@意味著用戶(hù)可以看到系統(tǒng)是如何得出結(jié)論的?！?/p>

新框架對(duì)系統(tǒng)架構(gòu)使用了一個(gè)組合語(yǔ)法方法，該方法可以從以前的網(wǎng)絡(luò)系統(tǒng)上獲取最佳實(shí)踐，從而更有效地從原始數(shù)據(jù)中提取有用的信息。

吳教授說(shuō)：“我們發(fā)現(xiàn)，層次和組合語(yǔ)法為我們提供了一種簡(jiǎn)單、優(yōu)雅的方法來(lái)統(tǒng)一以前系統(tǒng)架構(gòu)所采用的方法，據(jù)我們所知，這是第一個(gè)將語(yǔ)法用于網(wǎng)絡(luò)生成的成果?！?/p>

為了測(cè)試他們的新框架，研究人員開(kāi)發(fā)了AOGNets，并將其用三個(gè)圖像分類(lèi)基準(zhǔn)（CIFAR-10、CIFAR-100和ImageNet-1K）進(jìn)行了測(cè)試。

“在公平比較下，AOGNets的表現(xiàn)明顯優(yōu)于其他所有最先進(jìn)的網(wǎng)絡(luò)，包括ResNets, DenseNets, ResNeXts和DualPathNets?！?吳田富說(shuō)：”利用圖像網(wǎng)絡(luò)中的網(wǎng)絡(luò)剖分度量，AOGNets獲得了最高的模型可解釋性分。AOGNets在對(duì)抗性防御和平臺(tái)不可知（ platform-agnostic）部署（移動(dòng)vs云）方面進(jìn)一步顯示出巨大的潛力?！?/p>

研究人員還使用vanilla Mask R-CNN系統(tǒng)在微軟Coco基準(zhǔn)測(cè)試中測(cè)試了AOGNets在目標(biāo)檢測(cè)和實(shí)例語(yǔ)義分割方面的表現(xiàn)。

“在模型尺寸更小、推理時(shí)間相似或更短的情況下，AOGNets比ResNet和ResNeXt獲得了更好的結(jié)果?！?吳教授表示：“結(jié)果表明，在目標(biāo)檢測(cè)和分割任務(wù)中，AOGNets具有較好的學(xué)習(xí)效果?！?/p>

這些測(cè)試是相關(guān)的，因?yàn)閳D像分類(lèi)是視覺(jué)識(shí)別的核心基礎(chǔ)任務(wù)之一，而ImageNet是標(biāo)準(zhǔn)的大規(guī)模分類(lèi)基準(zhǔn)。同樣，目標(biāo)檢測(cè)和分割是兩個(gè)核心的高級(jí)視覺(jué)任務(wù)，而MS-COCO是最廣泛使用的基準(zhǔn)之一。

“為了評(píng)估用于視覺(jué)識(shí)別中進(jìn)行深度學(xué)習(xí)的新網(wǎng)絡(luò)體系結(jié)構(gòu)，它們是黃金試驗(yàn)臺(tái)。” 吳田富說(shuō)道：“AOGNets是在一個(gè)有原則的語(yǔ)法框架下開(kāi)發(fā)的，并在ImageNet和MS-COCO下都得到了顯著的改進(jìn)，從而對(duì)許多實(shí)際應(yīng)用中的表示學(xué)習(xí)顯示出潛在的廣泛和深刻的影響。”