在3月底舉行的“深圳市智慧安防商會(huì)第一屆二次會(huì)員大會(huì)”上，北京深鑒科技有限公司銷售與市場(chǎng)總監(jiān)付祺偉圍繞著“深度學(xué)習(xí)處理器與多場(chǎng)景AI應(yīng)用”的主題現(xiàn)場(chǎng)做了些許分享，在演講當(dāng)中，付祺偉重點(diǎn)提到了關(guān)于降低人工智能應(yīng)用門檻的問(wèn)題，也是當(dāng)前用戶端比較關(guān)心的問(wèn)題。

　　近兩年來(lái)，隨著算力條件的不斷升級(jí)以及各行各業(yè)應(yīng)用需求的爆發(fā)，人工智能成為當(dāng)前炙手可熱的商業(yè)“課題”。而人工智能要做到“有用，好用”，在硬件架構(gòu)上需要大規(guī)模的GPU、CPU做運(yùn)算支持，這意味著高成本的投入，為了讓人工智能在應(yīng)用領(lǐng)域爆發(fā)開來(lái)，當(dāng)前我們需要解決應(yīng)用門檻的問(wèn)題，直白的說(shuō)就是把應(yīng)用成本降下來(lái)。如何解決成本的問(wèn)題呢?首先，我們來(lái)了解一下計(jì)算平臺(tái)的變革歷程。

　　計(jì)算平臺(tái)變革帶來(lái)性能和成本的改變

　　2012年初，谷歌算法工程師轟動(dòng)全球的貓臉識(shí)別，當(dāng)時(shí)動(dòng)用了1000臺(tái)服務(wù)器和16000個(gè)CPU ，模擬了一個(gè)10億個(gè)節(jié)點(diǎn)的神經(jīng)網(wǎng)絡(luò)，一千萬(wàn)張谷歌貓臉圖片，訓(xùn)練出了貓臉識(shí)別的算法，耗資巨大。同年，一位叫Geoffrey的工程師僅用一臺(tái)服務(wù)和2個(gè)GPU，開發(fā)了AlexNet的算法，在ImageNet一百萬(wàn)張圖片庫(kù)的識(shí)別率就達(dá)到了百分之八十幾。

　　從16000個(gè)CPU到2個(gè)GPU，計(jì)算平臺(tái)的變革所帶來(lái)的改變是巨大的，既帶來(lái)了使用體驗(yàn)的高效提升，同時(shí)對(duì)于成本的控制也顯而易見。

　　通用芯片轉(zhuǎn)向?qū)Ｓ眯酒?/strong>

　　人工智能所需的深度學(xué)習(xí)需要很高的內(nèi)在并行度、大量浮點(diǎn)計(jì)算能力以及矩陣運(yùn)算，計(jì)算量巨大，因此也推動(dòng)著通用的智能芯片向?qū)Ｓ眯酒霓D(zhuǎn)化。付祺偉向大家介紹了目前業(yè)內(nèi)出現(xiàn)的一些定制級(jí)的AI芯片，比如國(guó)外的芯片巨頭如ARM在CPU上添加神經(jīng)網(wǎng)絡(luò)加速庫(kù)、NVIDA的針對(duì)AI訓(xùn)練側(cè)的GPU、Xilinx的FPGA、針對(duì)深度學(xué)習(xí)推理側(cè)的TPU V1、把自動(dòng)駕駛算法寫到芯片上的Mobileye Eye Q5 、Intel CPU 、Movidius DSP 等都是針對(duì)不同層級(jí)的AI芯片。

　　這兩年來(lái)，隨著國(guó)產(chǎn)AI芯片的崛起，國(guó)內(nèi)如寒武紀(jì)、地平線、深鑒科技等也在AI芯片上取得了不錯(cuò)的進(jìn)展，其針對(duì)的AI層級(jí)也有所不同，如寒武紀(jì)面向更通用的機(jī)器學(xué)習(xí)市場(chǎng)的Cambricon MLU 、深鑒科技自家的DeePhi DPU則更加關(guān)注深度學(xué)習(xí)層面、地平線的Horizon Journey更專注于面向行業(yè)的算法。

　　相比于通用芯片，專用芯片是為特定場(chǎng)景而定制的，具備低功耗、低成本、高性能的優(yōu)勢(shì)。

　　深度模型壓縮算法：提速、減負(fù)、降成本

　　目前在深度學(xué)習(xí)領(lǐng)域分類兩個(gè)派別，一派為學(xué)院派，研究強(qiáng)大、復(fù)雜的模型網(wǎng)絡(luò)和實(shí)驗(yàn)方法，為了追求更高的性能;另一派為工程派，旨在將算法更穩(wěn)定、高效的落地在硬件平臺(tái)上，效率是其追求的目標(biāo)。付祺偉認(rèn)為，復(fù)雜的模型固然具有更好的性能，但是高額的存儲(chǔ)空間、計(jì)算資源消耗是使其難以有效的應(yīng)用在各硬件平臺(tái)上的重要原因。

　　深鑒科技擁有一套深度模型壓縮算法，這里的壓縮并不同于我們接觸的H.264(H.265)視頻壓縮，而是對(duì)算法神經(jīng)網(wǎng)絡(luò)、算法模型的壓縮。為什么算法模型需要壓縮?

      付祺偉表示，一套算法模型一般有大約100Byte的內(nèi)存規(guī)模，里面包含了神經(jīng)網(wǎng)絡(luò)各個(gè)節(jié)點(diǎn)的權(quán)重值以及各種計(jì)算的鏈接，如果把這么多的權(quán)重值和鏈接都讀到內(nèi)存中讓它們之間相互做運(yùn)算，它所需要消耗的DDR和存儲(chǔ)空間都是非常巨大的，同時(shí)也將產(chǎn)生巨大的計(jì)算量。

　　深鑒科技深度模型壓縮算法可以通過(guò)“剪枝”和稀疏化來(lái)實(shí)現(xiàn)對(duì)算法模型的壓縮。

　　付祺偉解釋道，“剪枝”就是把不必要的信息過(guò)濾掉，稀疏化即是把沒(méi)有產(chǎn)生鏈接，沒(méi)用的權(quán)重值去掉，通過(guò)這樣的方式，就可以把比較大的神經(jīng)網(wǎng)絡(luò)壓縮成一個(gè)小型規(guī)模的神經(jīng)網(wǎng)絡(luò)，降低功耗的同時(shí)，性能保持不變，也讓運(yùn)算速率提升起來(lái)。

      小結(jié)

     人工智能熱度不減，因?yàn)锳I確實(shí)是當(dāng)前個(gè)各智能產(chǎn)業(yè)領(lǐng)域提升生產(chǎn)力的重要推力，但目前市場(chǎng)上大談算法和技術(shù)成果的企業(yè)很多，真正能拿出手的應(yīng)用案例仍相對(duì)較少。AI 企業(yè)更應(yīng)該站在用戶的角度，解決AI落地應(yīng)用的問(wèn)題，包括成本控制、運(yùn)算性能等，這樣才能讓人工智能在應(yīng)用領(lǐng)域加速普及，“工程派”的企業(yè)也將走得更穩(wěn)，更遠(yuǎn)。