神經(jīng)網(wǎng)絡(luò)通過分析大量的訓(xùn)練數(shù)據(jù)來學(xué)習(xí)并執(zhí)行計(jì)算任務(wù)，是構(gòu)成當(dāng)前人工智能（AI）系統(tǒng)的關(guān)鍵，應(yīng)用領(lǐng)域覆蓋語音識別系統(tǒng)到自動翻譯系統(tǒng)，以及自動駕駛汽車。
 
　　然而，神經(jīng)網(wǎng)絡(luò)卻如同黑盒一般，一旦受過訓(xùn)練，即使是他們的設(shè)計(jì)師也很少能知道它們正在處理或如何處理哪些數(shù)據(jù)元素，以及它們究竟在做什么。而麻省理工學(xué)院(MIT)最近揭示的一項(xiàng)研究成果表明了可通過新技術(shù)理解訓(xùn)練視覺數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)的內(nèi)在運(yùn)作。
 
　　兩年前，麻省理工學(xué)院(MIT)計(jì)算器科學(xué)和人工智能實(shí)驗(yàn)室（CSAIL）的計(jì)算器視覺研究團(tuán)隊(duì)描述了一種用于訓(xùn)練識別視覺場景神經(jīng)網(wǎng)絡(luò)的黑盒方法。該方法提供了一些有趣的見解，但它仍需要人工判斷。                                           （圖片來源：Christine Daniloff/MIT）
 
　　MIT稍早前發(fā)布的文件指出，在今年的計(jì)算器視覺和模式識別會議上，CSAIL研究人員提供了一個完全自動化的系統(tǒng)，新論文說明了執(zhí)行20多個任務(wù)進(jìn)行訓(xùn)練的四種神經(jīng)網(wǎng)絡(luò)分析，包括識別場景和物體、對灰色圖像著色以及解決困難的問題。其中一些新網(wǎng)絡(luò)的規(guī)模非常龐大，若采用舊方法做分析的成本將非常高昂。
 
　　研究人員還在網(wǎng)絡(luò)上進(jìn)行了幾項(xiàng)實(shí)驗(yàn)，不僅揭示了幾種計(jì)算器視覺和計(jì)算器攝影算法的性質(zhì)，而且還提供了有關(guān)人類大腦組織的一些證據(jù)。
 
　　之所以稱為神經(jīng)網(wǎng)絡(luò)，是由于其與人類神經(jīng)系統(tǒng)相似，具有大量相當(dāng)簡單而密集的信息處理“節(jié)點(diǎn)”。如同神經(jīng)元，神經(jīng)網(wǎng)絡(luò)的節(jié)點(diǎn)接收來自鄰居的信息信號，而后再發(fā)出自己的信號（或不發(fā)出）。和神經(jīng)元一樣，節(jié)點(diǎn)發(fā)出信號的響應(yīng)強(qiáng)度可以變化。
 
　　在新的論文和之前發(fā)表的文章中，麻省理工學(xué)院的研究人員都讓訓(xùn)練有素的神經(jīng)網(wǎng)絡(luò)執(zhí)行計(jì)算器視覺任務(wù)，并披露對不同輸入圖像響應(yīng)的單個節(jié)點(diǎn)發(fā)射強(qiáng)度。他們選擇了10個輸入圖像，這些圖像激發(fā)了每個節(jié)點(diǎn)的最強(qiáng)響應(yīng)。
 
　　在早先發(fā)布的論文中，研究人員將圖像發(fā)送給通過Mechanical Turk招募的工作人員，他們被要求確定圖像的共同點(diǎn)。而在新的論文中則是使用計(jì)算器系統(tǒng)來執(zhí)行。
 
　　“我們分類出了1,100個視覺概念，如綠色、漩渦紋理、木材、人臉、自行車車輪或雪山頂?shù)取?rdquo;麻省理工學(xué)院電氣工程研究生David Bau說表示，“我們汲取了其他人開發(fā)的幾個數(shù)據(jù)集，并將它們合并成一個廣泛而密集的視覺概念數(shù)據(jù)集。它有許多卷標(biāo)，對于每個卷標(biāo)，我們都知道哪個圖像的像素對應(yīng)于哪個標(biāo)簽。”
 
　　研究人員也得知了哪些圖像的像素對應(yīng)于給定網(wǎng)絡(luò)節(jié)點(diǎn)的最強(qiáng)響應(yīng)。今天的神經(jīng)網(wǎng)絡(luò)是層狀組織，數(shù)據(jù)被饋送到最低層，經(jīng)過處理后再傳遞到下一層。使用可視數(shù)據(jù)，輸入圖像會被分解成小塊，每個塊被饋送到單獨(dú)的輸入節(jié)點(diǎn)。
 
　　針對網(wǎng)絡(luò)中的高層節(jié)點(diǎn)的強(qiáng)烈反應(yīng)，研究人員可以反向追溯到其觸發(fā)模式，從而識別出響應(yīng)的特定圖像像素。因?yàn)樗麄兊南到y(tǒng)能夠頻繁地識別出與精確的像素集群相對應(yīng)的標(biāo)簽，這些像素簇激發(fā)了來自給定節(jié)點(diǎn)的強(qiáng)烈響應(yīng)，所以它可以良好地表征節(jié)點(diǎn)的行為。
 
　　研究人員將數(shù)據(jù)庫中的視覺概念組織成一個層次結(jié)構(gòu)。層次結(jié)構(gòu)的每個層次都結(jié)合了以下級別的概念，從顏色開始，向上依次是紋理、材料、部件、對象和場景。通常情況下，較低層次的神經(jīng)網(wǎng)絡(luò)會響應(yīng)更簡單的視覺屬性，如顏色和紋理，而高層則會響應(yīng)更復(fù)雜的屬性而觸發(fā)。
 
　　層次結(jié)構(gòu)也允許研究人員將網(wǎng)絡(luò)訓(xùn)練的重點(diǎn)量化為在不同視覺屬性下執(zhí)行不同的任務(wù)。如一個網(wǎng)絡(luò)可能被訓(xùn)練為將大部分節(jié)??點(diǎn)的黑白圖像著色以識別紋理。另一個網(wǎng)絡(luò)，當(dāng)訓(xùn)練跟蹤多個視頻幀的對象時，將其較高比例的節(jié)點(diǎn)用于場景識別，而不是在訓(xùn)練時識別場景；在這種情況下，其許多節(jié)點(diǎn)實(shí)際上都專門用于對象檢測。
 
　　研究人員的一項(xiàng)實(shí)驗(yàn)可以揭示神經(jīng)科學(xué)中的棘手問題。通過在人腦中植入電極以控制嚴(yán)重神經(jīng)系統(tǒng)疾病，似乎表明大腦中的單個神經(jīng)元會對特定的視覺刺激產(chǎn)生反應(yīng)。這一假說最初被稱為“祖母神經(jīng)元假說”，是最近一代神經(jīng)科學(xué)家所熟知的詹妮弗·安妮斯頓神經(jīng)元假說，即發(fā)現(xiàn)幾個神經(jīng)系統(tǒng)疾病的患者似乎只對特定好萊塢名人有反應(yīng)。
 
　　但許多神經(jīng)科學(xué)家對這種解釋提出異議。他們認(rèn)為所謂的珍妮弗·安妮斯頓神經(jīng)元只是許多神經(jīng)元之一，它們是響應(yīng)詹妮弗·安妮斯頓（Jennifer Aniston）的圖像而共同觸發(fā)的。這個神經(jīng)元可能是許多其他神經(jīng)元集群的一部分，還未對其他測試做出響應(yīng)。
 
　　由于新提出的分析技術(shù)是完全自動化的，研究人員能夠測試在訓(xùn)練識別視覺場景的神經(jīng)網(wǎng)絡(luò)中是否發(fā)生類似的事情。除了識別調(diào)整到特定視覺概念的單個網(wǎng)絡(luò)節(jié)點(diǎn)之外，他們還考慮了隨機(jī)選擇的節(jié)點(diǎn)組合，但節(jié)點(diǎn)組合卻比選擇個別節(jié)點(diǎn)的視覺概念少了約80%。
 
　　對此Bau表示，這表明神經(jīng)網(wǎng)絡(luò)實(shí)際上正在試圖接近祖母神經(jīng)元。它們并不想傳播祖母神經(jīng)元的想法，而是試圖把它分配給一個神經(jīng)元。但大多數(shù)人不相信是如此簡單正是這個結(jié)構(gòu)的有趣之處。