6月23日，鯤云科技在深圳的產(chǎn)品發(fā)布會發(fā)布全球首款數(shù)據(jù)流AI芯片CAISA，其定位于AI終端推理，目前已完成量產(chǎn)。

　　根據(jù)官方介紹，CAISA搭載了四個CAISA 3.0引擎，具有超過1.6萬個MAC(乘累加)單元，峰值性能可達(dá)10.9TOPs。該芯片采用28nm工藝，通過PCIe 3.0×4接口與主處理器通信，同時具有雙DDR通道，可為每個CAISA芯片提供超過340Gbps的帶寬。

　　鯤云援引第三方數(shù)據(jù)顯示，搭載CAISA芯片的加速卡僅擁有英偉達(dá)同類產(chǎn)品 1/3的峰值算力，但是其通過95.4%的芯片利用率可以實(shí)現(xiàn)3倍左右的的實(shí)測性能。

　　大部分廠商的AI芯片均為指令集的計算架構(gòu)，此次鯤云科技發(fā)布的CAISA芯片則為數(shù)據(jù)流架構(gòu)。鯤云表示，數(shù)據(jù)流架構(gòu)AI芯片提供較之于指令集架構(gòu)AI芯片更高的計算效率。指令集的計算架構(gòu)要求芯片的計算和控制是分離的，而控制過程中模塊間的數(shù)據(jù)移動以及數(shù)據(jù)計算的過程中會存在等待周期，這會使得芯片的計算模塊存在閑置情況，這也是現(xiàn)有芯片利用率普遍低于30%的原因。而數(shù)據(jù)流架構(gòu)依托數(shù)據(jù)流流動次序控制計算次序，采用計算流和數(shù)據(jù)流重疊運(yùn)行方式消除空閑計算單元。在實(shí)測中，數(shù)據(jù)流芯片可以與同峰值算力的指令集芯片表現(xiàn)出更高的芯片利用率以及更高的實(shí)測算力。

　　本次發(fā)布會鯤云科技也帶來了AI計算平臺星空加速卡X3以及X9。

　　星空X3加速卡是搭載單顆CAISA 芯片的數(shù)據(jù)流架構(gòu)深度學(xué)習(xí)推斷計算平臺，為輕量化規(guī)格，X3加速卡因此可以與不同類型的計算機(jī)設(shè)備進(jìn)行適配，包括個人電腦、工業(yè)計算機(jī)、網(wǎng)絡(luò)視頻錄像機(jī)、工作站、服務(wù)器等?；贑AISA芯片的X3加速卡動態(tài)功耗為20W左右。英偉達(dá)邊緣端旗艦產(chǎn)品Xavier 在深度學(xué)習(xí)網(wǎng)絡(luò)ResNet-50, YOLO v3中實(shí)測獲得的芯片利用率分別為21.1%、6.8%，而星空X3加速卡的結(jié)果為92.3%及82.4%，遠(yuǎn)高于前者?？傮w算力表現(xiàn)可以達(dá)到Xavier的1.48-4.12倍。

　　星空X9加速卡為搭載4顆CAISA 芯片的深度學(xué)習(xí)推斷板卡，峰值性能43.6TOPS，主要滿足高性能場景下的AI計算需求。實(shí)測性能方面，X9在ResNet50可達(dá)5240FPS，與T4性能接近，在YOLO v3、UNet Industrial等檢測分割網(wǎng)絡(luò)，實(shí)測性能相較T4有1.83-3.91倍性能提升。最優(yōu)實(shí)測性能下，X9處理延時相比于T4降低1.83-32倍。

　　盡管數(shù)據(jù)流架構(gòu)顯著的提高了芯片算力的利用率，但是指令集的架構(gòu)支持各式各樣的數(shù)據(jù)組合，具有較強(qiáng)的通用性。CAISA目前工藝水平為28nm，這在晶體管數(shù)量、處理速度、溫升等方面較之于更加先進(jìn)工藝的芯片將會存在的劣勢。

　　鯤云科技認(rèn)為此次發(fā)布的芯片新品的核心競爭力在于提供了更高的算力性價比。

　　AI芯片產(chǎn)品不同于SaaS等其他企業(yè)服務(wù)賽道，用戶衡量產(chǎn)品的好壞與否，基本是通過芯片的計算能力、通用性以及價格來進(jìn)行判斷。CAISA芯片的競爭路線不是依靠更大的芯片面積和制程工藝提供更高的峰值算力，而是通過數(shù)據(jù)流動控制計算順序來提升實(shí)測性能。

　　終端推理芯片賽道上，頭部廠商英偉達(dá)也部署了邊緣側(cè)Xavier芯片以及云端旗艦加速卡T4。鯤云科技創(chuàng)始人兼CEO牛昕宇表示，芯片賽道的競爭是簡單直接的，要素?zé)o非就是算力性價比、通用性以及遷移成本。用戶會根據(jù)自己的算力需求進(jìn)行產(chǎn)品篩選，然后比對價格。峰值算力的提升往往來自于工藝技術(shù)的迭代以及更大的芯片面積，這也就意味著更高的產(chǎn)品成本。但是此次鯤云CAISA架構(gòu)帶來的芯片利用率提升，并不需要更高的峰值算力從而讓用戶獲得更高的實(shí)測算力體現(xiàn)，這可以減少企業(yè)所需的制造成本。

　　值得關(guān)注的是，英偉達(dá)憑借其極強(qiáng)的峰值算力以及軟件生態(tài)構(gòu)建了極高的競爭壁壘。除了產(chǎn)品在算力上的優(yōu)勢，英偉達(dá)憑借產(chǎn)品積累擁有極強(qiáng)的軟件生態(tài)，現(xiàn)有用戶的轉(zhuǎn)換芯片的成本較高。牛昕宇表示，也許初創(chuàng)企業(yè)可以選擇其他進(jìn)行拓展，CAISA帶來的數(shù)據(jù)流架構(gòu)也許就會是下一個方向。

　　此外，鯤云將會為用戶配備RainBuilder編譯工具鏈，可以支持從算法到芯片的端到端自動化部署，用戶和開發(fā)者無需了解架構(gòu)的底層硬件配置。RainBuilder可自動提取主流AI開發(fā)框架(TensorFlow，Caffe，Pytorch，ONNX等)中開發(fā)的深度學(xué)習(xí)算法的網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)信息，并面向CAISA結(jié)構(gòu)進(jìn)行優(yōu)化。鯤云希望借助編譯工具鏈提供用戶較為方便的部署環(huán)境，同時也能完成較為低成本的算法遷移。