6 月 19 日下午,騰訊云召開(kāi)發(fā)布會(huì)。首次正式公布行業(yè)大模型研發(fā)進(jìn)展,并發(fā)布面向 B 端客戶的騰訊云 MaaS(Model-as-a-service,模型即服務(wù))服務(wù)解決方案。
行業(yè)大模型精選店
騰訊云 MaaS 全景圖(圖片源自騰訊云官網(wǎng))
會(huì)上,騰訊首次公布騰訊云 MaaS 服務(wù)解決方案。
騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群 CEO 湯道生介紹,騰訊云 MaaS 是基于 TI 平臺(tái)打造的行業(yè)精選模型商店,覆蓋金融、文旅、政務(wù)、傳媒、教育等 10 大行業(yè),提供超過(guò) 50 個(gè)解決方案。在這些能力模型的基礎(chǔ)上,客戶只需要加入自己獨(dú)有的場(chǎng)景數(shù)據(jù),就可以快速生成自己的「專屬模型」。
比如,騰訊云已經(jīng)和國(guó)內(nèi)某頭部在線旅游公司,基于「文旅大模型」打造了機(jī)器人客服,后者可以自動(dòng)判斷用戶意圖,并調(diào)用相應(yīng)的 API,高質(zhì)量完成用戶咨詢及服務(wù)。
如果一個(gè)用戶問(wèn),「節(jié)假日有哪些比較經(jīng)濟(jì)的旅游景點(diǎn)推薦?」基于通用大模型的客服機(jī)器人,只能給出一些簡(jiǎn)單的景點(diǎn)介紹和路線規(guī)劃。但是當(dāng)使用大量有針對(duì)性的行業(yè)數(shù)據(jù)來(lái)做模型精調(diào)之后,客服機(jī)器人的回答就變得更加細(xì)致,能夠規(guī)劃出每天的交通、景點(diǎn)安排,給出經(jīng)濟(jì)實(shí)惠的定制化推薦方案。
除了提供基礎(chǔ)的行業(yè)模型,數(shù)據(jù)方面,騰訊云同時(shí)推出了基于騰訊云 TI 平臺(tái)的行業(yè)大模型精調(diào)解決方案。
精調(diào)行業(yè)大模型是為了幫助模型開(kāi)發(fā)者與算法工程師,解決數(shù)據(jù)的處理問(wèn)題,高效率、高品質(zhì)、低成本地創(chuàng)建和使用大模型。此外通過(guò) TI 平臺(tái)以及模型的私有化部署、權(quán)限管控和數(shù)據(jù)加密等方式,騰訊云還希望幫助開(kāi)發(fā)者和企業(yè)客戶解決數(shù)據(jù)安全和隱私方面的擔(dān)憂。
比如騰訊云與中央電視臺(tái)打造的「央視人工智能開(kāi)放平臺(tái)」。開(kāi)發(fā)過(guò)程中也面臨數(shù)據(jù)量龐大、形態(tài)復(fù)雜的問(wèn)題,導(dǎo)致傳統(tǒng)的數(shù)據(jù)標(biāo)簽體系都無(wú)法達(dá)標(biāo)。
為此,雙方重新構(gòu)建了一套傳媒專屬的數(shù)據(jù)標(biāo)簽體系,同時(shí)也研發(fā)了創(chuàng)新的「標(biāo)簽權(quán)重引擎」,讓數(shù)據(jù)標(biāo)簽顆粒度更細(xì),并按照核心度排序。在這樣的數(shù)據(jù)標(biāo)簽體系支撐下,視頻編輯用自然語(yǔ)言就能實(shí)現(xiàn)跨模態(tài)檢索。比如,輸入「居民消費(fèi)力」,系統(tǒng)可自動(dòng)提供商場(chǎng)、超市相關(guān)素材,再搭配智能剪輯,就能快速生成視頻。
最后是關(guān)于大模型持續(xù)運(yùn)轉(zhuǎn)的燃料——算力。在大模型的訓(xùn)練和使用過(guò)程中,需要大量異構(gòu)算力的支持,對(duì)網(wǎng)絡(luò)速度與穩(wěn)定性要求也很高,加上 GPU 服務(wù)器比一般服務(wù)器穩(wěn)定性更低一些,服務(wù)器的運(yùn)維、問(wèn)題的排查更頻繁,整體運(yùn)維的難度與工作量會(huì)高很多。
對(duì)此,騰訊云打造了面向模型訓(xùn)練的新一代 HCC(High-Performance Computing Cluster)高性能計(jì)算集群,搭載最新次代 GPU,結(jié)合多層加速的高性能存儲(chǔ)系統(tǒng),加上高帶寬、低延遲的網(wǎng)絡(luò)傳輸,整體性能比過(guò)去提升了 3 倍。湯道生表示,HCC 獲得了很多客戶的高度認(rèn)可,幾家 AI 獨(dú)角獸都與騰訊云展開(kāi)了合作。
除了計(jì)算集群,騰訊云還公布了更適合 AI 運(yùn)算的「軟能力」——向量數(shù)據(jù)庫(kù),它能更高效地處理圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù),支持單索引 10 億級(jí)規(guī)模,比單機(jī)插件式檢索規(guī)模提升 10 倍,數(shù)據(jù)接入 AI 的效率,也比傳統(tǒng)方案提升 10 倍。
值得注意的是,騰訊云并沒(méi)有像此前的谷歌、微軟,或者國(guó)內(nèi)的百度、阿里等大廠一樣,公布一個(gè)基礎(chǔ)的通用大模型。騰訊云 MaaS 的技術(shù)底座是一系列的行業(yè)大模型,包括金融、政府、文旅、傳媒、教育等?;谶@些基礎(chǔ)模型,騰訊云的客戶只要加入自己的場(chǎng)景數(shù)據(jù),就可以生成契合自身業(yè)務(wù)需要的「專屬模型」。
國(guó)內(nèi)通用大模型的研發(fā)進(jìn)程受算力緊張、起步較晚等因素制約,客觀來(lái)說(shuō)與 OpenAI 等全球領(lǐng)先的團(tuán)隊(duì)相比還有一定差距。但大模型在國(guó)內(nèi)落地的需求卻已刻不容緩,為了解決落地問(wèn)題,推出更有針對(duì)性的行業(yè)大模型,并利用數(shù)據(jù)精調(diào)來(lái)滿足業(yè)務(wù)需要,已經(jīng)成為國(guó)內(nèi)云服務(wù)商曲線解決當(dāng)下困境的一種選擇。
這背后的邏輯是:重要的是解決具體場(chǎng)景的需求,只要產(chǎn)品的效果夠好,用戶并不會(huì)關(guān)注技術(shù)底座到底是通用大模型還是行業(yè)大模型。
顯然,騰訊云做出了相當(dāng)務(wù)實(shí)的選擇。會(huì)上,高管們介紹了一系列騰訊云 MaaS 的應(yīng)用案例,其中既有針對(duì)騰訊企業(yè)端 SaaS 產(chǎn)品的智能化升級(jí),也有與央視等外部合作伙伴一起探索的應(yīng)用案例。