前言
在我們存在的現(xiàn)實(shí)世界里,隨人潮涌動的信息數(shù)據(jù)像是縹緲在宇宙中的無數(shù)顆粒,每分每秒都在進(jìn)行海量的信息交換,信息顆粒具有各自存在的意義,卻無法聚集起來發(fā)揮更大的作用。
然而對于安防行業(yè)而言,一個個攝像頭的存在使得物理世界中的顆粒被收集、被解讀、被用來創(chuàng)造更大的意義,音視頻成為現(xiàn)代社會重要信息載體,被越來越多的行業(yè)所重視。這些龐大的現(xiàn)實(shí)粒子需要進(jìn)入虛擬網(wǎng)絡(luò)世界被分析、解讀、存儲,世界越來越大,冗余的信息和噪聲也隨之增多,這就使得傳統(tǒng)的“端側(cè)”收集、傳輸數(shù)據(jù)+“邊緣側(cè)”“云側(cè)”分析數(shù)據(jù)+“云側(cè)”存儲數(shù)據(jù)的模式對邊緣盒子及云端的分析運(yùn)算能力、人工智能處理能力要求很高,更是需要云端龐大的數(shù)據(jù)儲存量和開發(fā)成本。冗雜的信息無法經(jīng)過AI精細(xì)的篩選,定位到有效信息上,只能通過邊緣側(cè)、云側(cè)的AI進(jìn)行篩選,成本高、費(fèi)時費(fèi)力。
未來,隨著模型的輕量化和終端硬件技術(shù)的突破,每臺設(shè)備都有成為AI終端的可能。屆時,算力、算法、存儲等能力將會被嵌入終端,設(shè)備在端側(cè)即獲得了生物識別、信息運(yùn)算處理篩選、危險分析預(yù)警、自動報(bào)警等能力,端側(cè)的各種設(shè)備將從被動采集,到主動服務(wù)。
一、 “云”到“邊緣”再到“端”,端側(cè)AI正在發(fā)力
從概念上來看,云側(cè)AI是指在云端匯集訓(xùn)練數(shù)據(jù),模型的通用性強(qiáng)。從終端采集和感知到的聲音、視頻等數(shù)據(jù)都通過網(wǎng)絡(luò)傳輸?shù)皆浦行膫?cè)進(jìn)行后續(xù)處理,也有可能加入邊緣側(cè)AI的配合。
然而AI不止于云,端側(cè)是模型應(yīng)用不容忽視的重要載體,指的是在終端設(shè)備上進(jìn)行輕型模型的運(yùn)用,讓更多的AI計(jì)算和推理工作能夠負(fù)載在攝像頭、門禁、智能家居設(shè)備、手機(jī)、筆記本電腦、XR 頭顯、汽車和其他邊緣終端上運(yùn)行。隨著用戶對生成式AI應(yīng)用需求日益增長,端側(cè)AI的隱私安全、低延時、可靠性、低成本等技術(shù)優(yōu)勢將會為用戶帶來更便利的使用。
1、 AI手機(jī)勢頭高漲
手機(jī)目前是使用時間最長、頻率最高的電子產(chǎn)品,在各種不同的場景中正在成為連接、統(tǒng)籌各種不同智能終端設(shè)備的中樞。然而只有真正植入AI大模型,才能真正創(chuàng)造個性化的“智能助理”,減少用戶的操作,提高數(shù)據(jù)的處理效率,為用戶帶來極便捷的個人體驗(yàn)。不僅如此,收集到本地的數(shù)據(jù)更具安全和隱私優(yōu)勢,對于“智能助理”的訓(xùn)練也可以更加精確。手機(jī)中的AI大模型還可以打破各APP之間的壁壘,實(shí)現(xiàn)跨APP相互調(diào)用,使得AI手機(jī)具有人格化、記憶、感知和管理能力,能夠觸發(fā)主動服務(wù)。
對比蘋果2011年推出的手機(jī)助手Siri(采用一問一答的形式),AI手機(jī)具有人格化、記憶、感知和管理能力,能夠觸發(fā)主動服務(wù),有望成為個人智能助理,為手機(jī)行業(yè)帶來創(chuàng)新。
2、 AI PC為各領(lǐng)域提供創(chuàng)新解決方案
對比AI手機(jī),AI PC更能體現(xiàn)為AI大模型、軟件應(yīng)用和硬件設(shè)施的綜合體,通過云端與本地的協(xié)作,將云端大模型強(qiáng)大的數(shù)據(jù)處理能力應(yīng)用到PC本地的各種應(yīng)用場景中。雖然AI PC沒有手機(jī)的應(yīng)用場景廣泛、使用頻率高,但作為其他終端設(shè)備發(fā)展的過渡具有重要的意義:
(1)高速AI處理:AI PC能快速處理圖像識別、語音識別、自然語言處理等AI任務(wù),優(yōu)化娛樂體驗(yàn),映射到其他終端可以提高設(shè)備的生產(chǎn)力;
(2)增加AI應(yīng)用:ISV有望提供NPU應(yīng)用程序,將AI功能整合到現(xiàn)有應(yīng)用程序中;
(3)新場景開發(fā):AI推動新的業(yè)務(wù)場景和服務(wù),包括醫(yī)療診斷、自動駕駛等;
(4)提升用戶體驗(yàn):通過語音、手勢互動、AI個性化支持和高級安全等多樣化功能改善用戶體驗(yàn)。
通過在智能設(shè)備如手機(jī)、PC等植入AI大模型,將大模型部署于每個用戶本地的終端,不同的終端設(shè)備將成為移動智能體,跳出原有“對話、生成答案”的局限,與其他智能終端形成關(guān)聯(lián),成為定制化的個人智能助理。
3、 安防終端智能化升級
不僅是手機(jī)、PC等與個體用戶息息相關(guān)的終端在積極推進(jìn)AI的嵌入,安防相關(guān)的產(chǎn)品如智能攝像頭、智能門禁、智能家居等也作為端側(cè)設(shè)備在不斷加速與AI的接入與融合,讓獨(dú)立存在的各種終端也具備像人一樣的感知能力、像人一樣的執(zhí)行能力、像人一樣的思考能力,實(shí)現(xiàn)與物理世界的自主交互。例如我們隨處可見的攝像機(jī),除了進(jìn)行物理信號的捕捉并進(jìn)行識別,還應(yīng)該能夠思考、規(guī)劃與決策,且根據(jù)決策發(fā)出指令,發(fā)動行為。
面對不同場景、部門、個體,安防產(chǎn)品本身需要具備的性能要求不盡相同,但都同樣需要有大量的產(chǎn)品基數(shù)。過去,在安防設(shè)備本身數(shù)量龐大、覆蓋面積廣的前提下,每分每秒發(fā)生的事情都會被設(shè)備無差別地“收入囊中”,再通過大量的人力和時間去進(jìn)行數(shù)據(jù)的檢索與歸類,人工篩選出需要的數(shù)據(jù),效率低下。隨著AI的嵌入,在邊緣側(cè)和云側(cè)的計(jì)算篩選能很好得幫助定位有效信息,這已經(jīng)是一大進(jìn)步,但云端的開發(fā)成本高,數(shù)據(jù)庫因而也需要無法想象的存儲量,有限的存儲也需要定期進(jìn)行過往數(shù)據(jù)的刪除,安防產(chǎn)品的潛在功能無法很好的被利用起來。
AI嵌入端側(cè)此時就能發(fā)揮出最大的功能。因?yàn)榘卜喇a(chǎn)品在經(jīng)過長時間的沉淀后一直在努力朝著定制化、人性化的方向發(fā)展。根據(jù)不同場景、部門、個體的需求,算法、大模型嵌入端側(cè)讓有效的信息能夠輕松地被生物識別、篩選出來,再進(jìn)一步進(jìn)行危險的預(yù)警和自動報(bào)警。云側(cè)、邊緣側(cè)AI發(fā)展到目前,可以在安防產(chǎn)品上很好地運(yùn)用。但是由于從端側(cè)與云側(cè)之間傳輸、分析、指令回傳的過程,會產(chǎn)生一定的時延,如果網(wǎng)絡(luò)不穩(wěn)定,也會更加影響用戶體驗(yàn)。
端側(cè)AI作為真正落實(shí)到安防設(shè)備上的AI嘗試,能夠使不同的設(shè)備具備靈活的AI能力,處理即時性要求高、交互頻繁的推理任務(wù):在本地設(shè)備端擁有信息的識別、篩選等的功能,再在云端存儲含金量最高的數(shù)據(jù),從源頭上將所有可接觸到的數(shù)據(jù)高效地篩選成為滿足安防需求的信息,數(shù)據(jù)的處理在本地完成,時延更短,且不容易受到網(wǎng)絡(luò)質(zhì)量的影響。端側(cè)AI在數(shù)據(jù)隱私保護(hù)上也有先天優(yōu)勢,成本上又減輕了云端的計(jì)算負(fù)荷,可以節(jié)約云基礎(chǔ)設(shè)施方面的投資。
二、政策扶持,發(fā)展環(huán)境向好,可能帶動安防產(chǎn)業(yè)更新
隨著輕量模型性能不斷強(qiáng)大、端側(cè)芯片算力不斷提升,大模型部署于本地終端有望成為新的趨勢。從技術(shù)發(fā)展的角度來看,國內(nèi)外AI大模型能力不斷迭代更新,軟硬件配套逐步完善,打開端側(cè)AI的應(yīng)用空間。
IDC預(yù)測,2024年AI手機(jī)出貨量將達(dá)到1.7億部,占全球智能手機(jī)出貨量的15%。英特爾預(yù)計(jì)全球今年將交付4000萬臺AI PC,明年將交付6000萬臺,預(yù)估2025年底AI PC在全球PC市場中占比將超過20%; AI賦能有望帶來手機(jī)、PC、手表等智能可穿戴設(shè)備、平板、XR等各類數(shù)碼產(chǎn)品、智能攝像頭、智能門禁、智能家居的更新?lián)Q代的熱潮,而AIoT智能物聯(lián)設(shè)備也有望在大模型加持下迎來全面升級,進(jìn)一步通過端側(cè)AI技術(shù)和產(chǎn)品的變革,對安防產(chǎn)業(yè)帶來影響。
這些影響包括:
1、降低整體運(yùn)營成本
一方面,算力上云端算力被邊緣計(jì)算分流,這將減少云端算力的壓力和能源功耗,能夠降低運(yùn)營的成本。另一方面,從運(yùn)維的角度看,端側(cè)AI可以幫助用戶提升自動化網(wǎng)絡(luò)管理和維護(hù)任務(wù)能力,減少人工干預(yù),也將降低運(yùn)營的成本。
2、減少對云端存儲和運(yùn)算需求的依賴
端側(cè)AI普及的另一面,是對云端存儲和運(yùn)算需求的削減,尤其在一些要求實(shí)時交互的場景下,低時延成為重要的參考要素,本地化存儲和運(yùn)算能夠做到更及時的響應(yīng)。
3、推動5G網(wǎng)絡(luò)建設(shè)
大模型本地部署需要更強(qiáng)大的網(wǎng)絡(luò)連接,如AIoT的發(fā)展,將帶動高帶寬低時延廣連接的5G網(wǎng)絡(luò)的發(fā)展。安防廠商可以加快5G、5G-A網(wǎng)絡(luò)的建設(shè),為大模型本地部署提供良好的網(wǎng)絡(luò)基礎(chǔ)。
4、端云協(xié)同催生新業(yè)務(wù)模式
本地AI應(yīng)用將快速發(fā)展,例如本地語音識別、圖像識別、AR/VR等,安防企業(yè)可以抓住機(jī)遇開發(fā)新的AI應(yīng)用和服務(wù)。如:提供本地AI模型的訓(xùn)練和部署服務(wù)、開發(fā)基于本地AI的垂直行業(yè)應(yīng)用、提供本地AI安全和隱私保護(hù)解決方案等。
結(jié)語
大模型本地部署于終端對安防廠商來說是一次機(jī)遇和挑戰(zhàn)并存的變革。需要加強(qiáng)對端側(cè)AI技術(shù)的研發(fā)投入,提升自身技術(shù)實(shí)力。與終端設(shè)備廠商、軟件廠商等合作伙伴展開合作,構(gòu)建端側(cè)AI的生態(tài)體系。積極探索端側(cè)在各領(lǐng)域的應(yīng)用場景,開發(fā)創(chuàng)新型AI應(yīng)用和服務(wù),制定合理的端側(cè)AI商業(yè)模式。安防端側(cè)AI何時能實(shí)現(xiàn)全面普及,安防知識網(wǎng)將繼續(xù)觀察市場動態(tài),保持期待。