首頁 資訊 > 洞察 > 正文

端側(cè)AI大模型很可能是為5G而生?

就在前幾天小米的年度演講中,雷軍提到小米的AI大模型能力,小愛同學(xué)正式升級為生成式大模型,現(xiàn)已經(jīng)進入測試階段。小米高管公式在8月17號表示,小米將會很快實現(xiàn)端側(cè)AI模型能力。


(資料圖片僅供參考)

(圖源:網(wǎng)易新聞網(wǎng))

01.端側(cè)AI的優(yōu)勢

端側(cè)也就是我們常說的邊緣計算,這種模式可以更好的支持AloT場景。也就是:AI+IoT(Internet of Things 物聯(lián)網(wǎng))=AIoT。邊緣計算,是指在靠近物或數(shù)據(jù)源頭的一側(cè),采用網(wǎng)絡(luò)、計算、存儲、應(yīng)用核心能力為一體的開放平臺,就近提供最近端服務(wù)。邊緣計算也是一種分布式計算。它將數(shù)據(jù)資料的處理、應(yīng)用程序的運行甚至一些功能服務(wù)的實現(xiàn),由網(wǎng)絡(luò)中心下放到網(wǎng)絡(luò)邊緣的節(jié)點上,以減少業(yè)務(wù)的多級傳遞,降低核心網(wǎng)和傳輸?shù)呢摀?/strong>它的應(yīng)用程序是在邊緣側(cè)發(fā)起,產(chǎn)生更快的網(wǎng)絡(luò)服務(wù)相應(yīng)。對物聯(lián)網(wǎng)而言,邊緣計算技術(shù)取得突破,意味著許多控制將通過本地設(shè)備實現(xiàn)而無需交由云端,處理過程將在本地邊緣計算層完成。

端側(cè)AI具有如下優(yōu)點:

Al 技術(shù)用于端側(cè)可以第一時間對收集的數(shù)據(jù)進行處理,不需要通過網(wǎng)絡(luò)上傳到云側(cè)的處理中心,極大加快了系統(tǒng)響應(yīng)也減少了系統(tǒng)處理延遲;

端側(cè)計算可以更高效的處理有價值的關(guān)鍵數(shù)據(jù),其余的數(shù)據(jù)只是臨時性的,在端側(cè)結(jié)合 AI 能力,不僅可以更及時處理數(shù)據(jù),而且減輕網(wǎng)絡(luò)帶寬的限制和緩解對中心側(cè)數(shù)據(jù)存儲的壓力;

在端側(cè)的 Al 技術(shù)可以高效地對用戶的源數(shù)據(jù)進行處理,將一些敏感的數(shù)據(jù)進行清洗和保護,端側(cè)設(shè)備只將 Al 處理后的結(jié)果上報云端。

端側(cè)AI的技術(shù)難點:

硬件資源限制存儲、內(nèi)存、計算資源

模型的版本管理、生命周期

終端的種類很多,不同硬件架構(gòu)的適配和模型遷移成本過高

第三點同時導(dǎo)致了端側(cè)AI應(yīng)用復(fù)雜度增加

02.5G和端側(cè)計算相輔相成

5G 是一項長期演進的技術(shù),也許最開始,我們對它的感知只是手機網(wǎng)速更快、時延更低,但 5G 的意義遠不止于此。隨著 5G 標準從 Rel-15、Rel-16 到 Rel-17 等的不斷演進,5G 也將不斷擴展到更多行業(yè)。數(shù)據(jù)顯示,全球有200多家運營商已經(jīng)部署了5G商用網(wǎng)絡(luò),另有將近300家運營商正在投資部署5G技術(shù)。在我國,目前已累計建成5G行業(yè)虛擬專網(wǎng)16000余個,應(yīng)用案例涵蓋交通、醫(yī)療、教育、智慧城市、農(nóng)業(yè)等多個領(lǐng)域。

在5G網(wǎng)絡(luò)在誕生之初,便定義了它的三大應(yīng)用場景:eMBB(增強移動寬帶)、mMTC (海量機器類通信)和 uRLLC(超可靠低時延通信),相應(yīng)的為滿足高清視頻、智慧城市、車聯(lián)網(wǎng)等業(yè)務(wù)需求提供技術(shù)支持。

但值得關(guān)注的是,每個業(yè)務(wù)場景在發(fā)展過程中都有其自身所面臨的一些挑戰(zhàn)。例如,eMBB將對網(wǎng)絡(luò)帶寬產(chǎn)生數(shù)百Gbps的超高需求,從而對回傳網(wǎng)絡(luò)造成巨大傳輸壓力,單方面投資擴容匯聚與城域網(wǎng)絡(luò)將大幅提高單位媒體流傳輸成本,無法實現(xiàn)投資收益;uRLLC需要端到端1ms級超低時延支撐,僅僅依賴無線與固網(wǎng)物理層與傳輸層技術(shù)進步,無法滿足苛刻的時延需求;mMTC將產(chǎn)生海量數(shù)據(jù),導(dǎo)致運營管理的巨大挑戰(zhàn),僅僅由云端集中統(tǒng)一監(jiān)控無法支撐如此復(fù)雜的物聯(lián)系統(tǒng)。

邊緣計算恰好可以為這些問題帶來解決方案。首先,邊緣計算設(shè)備將為新的和現(xiàn)有的邊緣設(shè)備提供連接和保護;其次,盡管5G將為基于云的應(yīng)用程序提供更好的連接性和更低的延遲,但仍然存在處理和存儲數(shù)據(jù)的成本,混合邊緣計算/5G解決方案可以降低這些成本;最后,邊緣計算可以讓更多應(yīng)用程序在邊緣運行,例如分析,網(wǎng)絡(luò)安全或合規(guī)性/監(jiān)管應(yīng)用程序,減短了由數(shù)據(jù)傳輸速度和帶寬限制所帶來的延時,并可對本地數(shù)據(jù)做初步分析,為云分擔了一部分工作。

高通中國區(qū)研發(fā)負責人徐晧認為,面對當前AI技術(shù)取得重大突破,未來AI與5G-Advanced融合發(fā)展,將對智能終端和AI應(yīng)用發(fā)展帶來非常深遠的影響。在5G-Advanced更大帶寬、更低時延的網(wǎng)絡(luò)能力支撐下,未來AI處理將通過“云-邊-網(wǎng)-端”架構(gòu)不斷從云端向邊緣、終端側(cè)擴展,從而在手機、汽車、XR、無人機等多種形式的智能終端上催生出大量新興AI應(yīng)用。而多種形式的智能終端和豐富的AI應(yīng)用又會反過來進一步促進5G-Advanced繁榮發(fā)展。

關(guān)鍵詞:

最近更新

關(guān)于本站 管理團隊 版權(quán)申明 網(wǎng)站地圖 聯(lián)系合作 招聘信息

Copyright © 2005-2023 創(chuàng)投網(wǎng) - 670818.com All rights reserved
聯(lián)系我們:39 60 29 14 2@qq.com
皖I(lǐng)CP備2022009963號-3