各行各業(yè)熱衷于導(dǎo)入AI技術(shù)來(lái)解決企業(yè)自身問(wèn)題,并且鼓吹邊緣計(jì)算的重要性—低延遲及快速反應(yīng)。對(duì)于視頻的AI邊緣計(jì)算來(lái)說(shuō),攝像機(jī)扮演著重要的角色,可以算是AI視頻邊緣計(jì)算的「現(xiàn)在進(jìn)行式」以及「未來(lái)完成式」。
處理視頻的3種AI系統(tǒng)架構(gòu)
一般用來(lái)處理視頻的AI系統(tǒng)架構(gòu)有三種,分別為:(1)邊緣計(jì)算AI攝像機(jī),(2)近緣多路AI計(jì)算主機(jī),(3)機(jī)房集中式多路AI計(jì)算主機(jī)。第一種的邊緣計(jì)算AI攝像機(jī),是指IP攝像機(jī)SoC芯片內(nèi)建AI神經(jīng)網(wǎng)絡(luò)處理器NPU(Neural Processing Unit),除了可運(yùn)行IP攝像機(jī)本身該有的功能,還能執(zhí)行AI識(shí)別、可程序化任務(wù),獨(dú)立作業(yè)觸發(fā)報(bào)警或連動(dòng)后續(xù)的自動(dòng)化工作。
傳統(tǒng)AI識(shí)別系統(tǒng)是通過(guò)AI計(jì)算主機(jī),包含「近緣多路」或「機(jī)房集中式多路」AI計(jì)算主機(jī),近緣(near-edge)架構(gòu)是為了快速反應(yīng)識(shí)別后的結(jié)果,所以會(huì)安裝在靠近IP攝像機(jī)的近端高帶寬環(huán)境,比如交通執(zhí)法用的電信箱內(nèi)。當(dāng)然也有舍近求遠(yuǎn),將所有路口IP攝像機(jī)通過(guò)5G或光纖收攏在集中式多路AI計(jì)算主機(jī)進(jìn)行計(jì)算及識(shí)別的作法。(參見(jiàn)圖1)
就效率來(lái)說(shuō),近緣架構(gòu)仍然是較理想的作法,如果能把既有的攝像機(jī)用來(lái)擴(kuò)充邊緣計(jì)算AI功能,就更加便捷?!讣扔袛z像機(jī)擴(kuò)充AI功能」會(huì)是需求與趨勢(shì),不過(guò),就像當(dāng)年也能擴(kuò)充IP網(wǎng)絡(luò)功能的模擬攝像機(jī)一樣,最后仍會(huì)被IP攝像機(jī)直接取代。
圖1、常見(jiàn)AI視頻系統(tǒng)架構(gòu)圖
邊緣計(jì)算AI攝像機(jī)的3大優(yōu)勢(shì)
1、低耗能、低維運(yùn)成本
AI計(jì)算主機(jī)有哪些弊端?視頻譯碼及運(yùn)維成本太高。傳統(tǒng)的AI識(shí)別系統(tǒng)是這樣運(yùn)作的:IP攝像機(jī)耗費(fèi)計(jì)算資源將視頻編碼后,繼續(xù)耗費(fèi)帶寬資源把數(shù)據(jù)傳給AI計(jì)算主機(jī),AI計(jì)算主機(jī)接手耗費(fèi)資源產(chǎn)生YUV或JPEG照片給AI硬件計(jì)算單元(NPU)進(jìn)行AI識(shí)別(inference),視頻分辨率越大,識(shí)別的物種就越多,對(duì)于顯示適配器上的計(jì)算能量要求也更高,耗電量十分驚人。
一臺(tái)AI計(jì)算主機(jī),有500W~700W的耗電是很常見(jiàn)的。試想:當(dāng)今市售最好的顯卡可以進(jìn)行幾路的4K / H.264視頻識(shí)別?更遑論壓縮率更高的H.265了。相較于AI主機(jī)還要浪費(fèi)資源譯碼后才能識(shí)別,邊緣計(jì)算AI攝像機(jī)在源頭就提供YUV的照片內(nèi)存地址,讓NPU直接進(jìn)行識(shí)別,整體系統(tǒng)架構(gòu)更簡(jiǎn)潔,運(yùn)維的電力成本低,不占用帶寬,系統(tǒng)建設(shè)成本于是更經(jīng)濟(jì)。(參見(jiàn)圖2)
圖2、AI計(jì)算主機(jī)與AI攝像機(jī)的計(jì)算架構(gòu)差異
2、低延遲:最大優(yōu)點(diǎn)!
AI計(jì)算主機(jī)還有個(gè)致命缺點(diǎn),就是一系列的計(jì)算延遲,包含視頻譯碼延遲、AI識(shí)別延遲、物種追蹤算法及行為偵測(cè)延遲等。視頻譯碼的部分,以H.264壓縮格式為例,會(huì)有2~3幀的解碼成像延遲,導(dǎo)致行為偵測(cè)后的警報(bào)發(fā)報(bào)會(huì)延時(shí)到200~300毫秒(ms)以后。
識(shí)別的延遲呢?AI主機(jī)進(jìn)行10次識(shí)別,整體延遲會(huì)達(dá)到639毫秒,而這還沒(méi)有加上4K串流在網(wǎng)絡(luò)傳送時(shí)需要的時(shí)間。邊緣計(jì)算AI攝像機(jī)不會(huì)有那么高的整體延遲,以4K / 30幀的邊緣計(jì)算攝像機(jī)為例,1秒可以支持10次識(shí)別,約100毫秒后可以觸發(fā)禁區(qū)偵測(cè)的警報(bào)。(參見(jiàn)表1)
表1、AI計(jì)算主機(jī)與AI攝像機(jī)的比較
3、攝像機(jī)成為AI載具,用戶(hù)可自行訓(xùn)練AI模型、保障隱私問(wèn)題
此外,企業(yè)在導(dǎo)入AI時(shí),常會(huì)碰到需求單位與研發(fā)人員在領(lǐng)域知識(shí)(Domain know how)上有認(rèn)知差異,在銷(xiāo)售時(shí)容易造成誤會(huì)或沖突。就算企業(yè)內(nèi)部已實(shí)現(xiàn)完整的認(rèn)知框架,面對(duì)客戶(hù)的需求可能又是另一個(gè)問(wèn)題,比如醫(yī)療或國(guó)防之類(lèi)的單位,會(huì)因隱私議題無(wú)法提供數(shù)據(jù)集來(lái)訓(xùn)練,AI模型就很難準(zhǔn)確。
AI的應(yīng)用是五花八門(mén)的,永遠(yuǎn)都會(huì)有新的對(duì)象要識(shí)別。讓攝像機(jī)成為AI載具,用戶(hù)可以自己進(jìn)行AI數(shù)據(jù)集的訓(xùn)練,就不會(huì)有隱私權(quán)問(wèn)題。以利凌提供的Self+AI YOLO轉(zhuǎn)換云來(lái)說(shuō),可以把用戶(hù)自訓(xùn)的AI模型封裝成固件,并以AES256加密,自己的模型永遠(yuǎn)不會(huì)外漏。
封裝完的固件要裝在哪里?當(dāng)然就是前端AI攝像機(jī)了。例如利凌提供的整體前端識(shí)別架構(gòu),可以通過(guò)HTTP / HTTPs與后端通信,藉由開(kāi)源于Github的Python及C# SDK來(lái)串接后端應(yīng)用,任何工程師只要熟悉Python及C#環(huán)境,皆可立即引用及開(kāi)發(fā)。(參見(jiàn)圖3)
圖3、AI攝像機(jī)如何與后端系統(tǒng)運(yùn)作整合
AI邊緣計(jì)算攝像機(jī)常見(jiàn)的應(yīng)用
近年來(lái),邊緣計(jì)算AI攝像機(jī)已可加載多個(gè)AI模型、同時(shí)識(shí)別不同物種。比較熱門(mén)且迫切的是車(chē)牌識(shí)別,多國(guó)車(chē)牌識(shí)別已可在100公里時(shí)速的雙車(chē)道進(jìn)行,停車(chē)場(chǎng)出入口自動(dòng)化更是已經(jīng)被廣泛套用的場(chǎng)景,因?yàn)橥ㄟ^(guò)攝像機(jī)就能直接連動(dòng)接口設(shè)備,比如空位指引及收費(fèi)機(jī)等,完全不必再經(jīng)過(guò)PC,干凈又利落。(參見(jiàn)圖4)
圖4、AI攝像機(jī)可同時(shí)支持車(chē)廠、車(chē)種、多國(guó)車(chē)牌、行為偵測(cè)及車(chē)牌顏色偵測(cè)
而在公共場(chǎng)域,識(shí)別遺失物及遺留物也是AI邊緣計(jì)算攝像機(jī)的看家本領(lǐng)之一。另一個(gè)有趣且實(shí)用的場(chǎng)域是工地,AI邊緣計(jì)算攝像機(jī)的識(shí)別結(jié)果可以用操作數(shù)來(lái)做邏輯判斷,比如通過(guò)「同時(shí)存在多種對(duì)象(AND)」的邏輯來(lái)做工地門(mén)禁,安全帽、防護(hù)鏡、安全背心要同時(shí)佩戴完整才會(huì)開(kāi)門(mén);相反的,「缺少任何一樣物種 (NAND)」則是可以觸發(fā)警報(bào)。(參見(jiàn)圖5)
圖5、AI攝像機(jī)工地安全柵門(mén)警示或自動(dòng)化應(yīng)用
在智能產(chǎn)線的應(yīng)用方面,只要提供攝像機(jī)商品的內(nèi)容物模型,比如配件包、主機(jī)、使用手冊(cè)、遙控器等,就能進(jìn)行產(chǎn)線自動(dòng)化或缺件警示。AI PTZ球型追蹤攝像機(jī)更被應(yīng)用在船舶追蹤,來(lái)厘清船只碰撞時(shí)的肇責(zé),或是違規(guī)停車(chē)及并排停車(chē)的車(chē)牌識(shí)別,這些應(yīng)用都不需再使用耗電量較大的AI識(shí)別主機(jī)。
?。ū疚霓D(zhuǎn)自中國(guó)臺(tái)灣智慧安防網(wǎng),有刪減)