首頁(yè) 資訊 > 產(chǎn)業(yè) > 正文

CES 2025前瞻:端側(cè)AI時(shí)代 分布式算力基建亟需重視

全球科技界的目光聚焦即將于拉斯維加斯開(kāi)幕的CES 2025展會(huì)。作為全球技術(shù)趨勢(shì)的風(fēng)向標(biāo),今年展會(huì)的重頭戲無(wú)疑是端側(cè)AI技術(shù)的突破進(jìn)展。英偉達(dá)內(nèi)部專(zhuān)家預(yù)測(cè),端側(cè)AI將在輕量化模型、多設(shè)備協(xié)同和行業(yè)應(yīng)用上實(shí)現(xiàn)跨越式發(fā)展,成為展會(huì)最大的熱點(diǎn)。然而,這場(chǎng)變革也對(duì)算力基礎(chǔ)設(shè)施提出了新要求。

在端側(cè)AI快速發(fā)展的背景下,中國(guó)算力基建是否準(zhǔn)備充分?記者專(zhuān)訪了科默羅技術(shù)的首席運(yùn)營(yíng)官(COO)湯浩。他從分布式算力的角度,分析了當(dāng)前中國(guó)算力基建的誤區(qū),呼吁業(yè)界轉(zhuǎn)變觀念,推動(dòng)集中與分布協(xié)同發(fā)展的算力新生態(tài),以抓住端側(cè)AI帶來(lái)的戰(zhàn)略機(jī)遇。

端側(cè)AI:算力生態(tài)的轉(zhuǎn)折點(diǎn)

“端側(cè)AI的核心特點(diǎn)是低延遲、高實(shí)時(shí)性以及廣泛的設(shè)備分布,這決定了單純依賴(lài)集中式算力模式是遠(yuǎn)遠(yuǎn)不夠的?!睖圃?span id="iksoue8" class="keyword">專(zhuān)訪中開(kāi)門(mén)見(jiàn)山地指出。

端側(cè)AI的典型應(yīng)用場(chǎng)景包括自動(dòng)駕駛、工業(yè)機(jī)器人和物聯(lián)網(wǎng)設(shè)備,這些都對(duì)算力提出了“本地化”需求。例如,自動(dòng)駕駛需要毫秒級(jí)的反應(yīng)速度,工業(yè)機(jī)器人在生產(chǎn)線上的實(shí)時(shí)調(diào)整也要求極高的延遲敏感性。這些任務(wù)如果完全依賴(lài)集中式算力中心處理,受限于數(shù)據(jù)傳輸延遲和網(wǎng)絡(luò)帶寬,很難實(shí)現(xiàn)理想效果。

“這并不是要否定集中式算力的價(jià)值,”湯浩強(qiáng)調(diào),“在大規(guī)模模型訓(xùn)練、復(fù)雜算法優(yōu)化等領(lǐng)域,集中式算力仍然不可替代。但是端側(cè)AI時(shí)代的需求變化,迫使我們必須重新審視算力基礎(chǔ)設(shè)施的整體布局,推動(dòng)集中式與分布式算力協(xié)同發(fā)展?!?/p>

分布式算力:端側(cè)AI的核心支柱

根據(jù)英偉達(dá)的預(yù)測(cè),分布式算力將在端側(cè)AI時(shí)代扮演關(guān)鍵角色,其核心在于通過(guò)“端-邊-云”協(xié)同架構(gòu),靈活調(diào)度算力資源,以滿足多樣化的場(chǎng)景需求。

湯浩舉例說(shuō)明了分布式算力在具體場(chǎng)景中的價(jià)值。例如,在智能制造領(lǐng)域,工業(yè)機(jī)器人可以通過(guò)邊緣節(jié)點(diǎn)處理實(shí)時(shí)計(jì)算任務(wù),而更復(fù)雜的算法優(yōu)化和數(shù)據(jù)分析則由云端完成。這種分層計(jì)算模式不僅提升了系統(tǒng)的響應(yīng)速度,還有效降低了整體算力成本。

科默羅技術(shù)近年來(lái)一直致力于推動(dòng)分布式算力生態(tài)的落地。湯浩透露,公司除了為客戶(hù)提供AI算法優(yōu)化、芯片集成包等技術(shù)服務(wù)外,還幫助規(guī)模較大的品牌客戶(hù)搭建企業(yè)級(jí)私有分布式算力網(wǎng)絡(luò)。這一網(wǎng)絡(luò)通過(guò)算力動(dòng)態(tài)調(diào)度和資源分布優(yōu)化,能夠顯著降低企業(yè)對(duì)集中式算力中心的依賴(lài),同時(shí)提高計(jì)算效率和數(shù)據(jù)安全性。

“我們的目標(biāo)是為客戶(hù)提供定制化的分布式算力解決方案,讓企業(yè)在端側(cè)AI時(shí)代的競(jìng)爭(zhēng)中占據(jù)主動(dòng)。”湯浩說(shuō)。

集中式算力的價(jià)值與短板

盡管分布式算力的應(yīng)用場(chǎng)景在擴(kuò)大,但集中式算力中心在許多領(lǐng)域仍然具有不可替代的核心作用。湯浩指出,集中式算力目前是支持大規(guī)模AI模型訓(xùn)練和復(fù)雜數(shù)據(jù)處理的關(guān)鍵設(shè)施。例如,像GPT-4這樣的大型語(yǔ)言模型,需要集中式算力中心的高密度資源才能實(shí)現(xiàn)高效訓(xùn)練。

然而,他也坦言,集中式算力模式在以下幾個(gè)方面存在明顯短板:

? 網(wǎng)絡(luò)延遲:對(duì)于實(shí)時(shí)性要求高的場(chǎng)景,例如自動(dòng)駕駛,數(shù)據(jù)傳輸?shù)难舆t會(huì)直接影響決策速度。

? 能源與成本問(wèn)題:集中式算力中心的建設(shè)和運(yùn)營(yíng)成本高昂,尤其是在能耗和碳排放方面,限制了其規(guī)模化發(fā)展。

? 資源分布不均:在地理分布廣泛的場(chǎng)景中(如遠(yuǎn)程工業(yè)物聯(lián)網(wǎng)設(shè)備),集中式算力的覆蓋效率較低。

“集中式算力的價(jià)值在于提供頂層資源支持,但我們不能因?yàn)樗?span id="q846ukq" class="keyword">重要性而忽略了分布式算力的潛能?!睖?span id="imyo8ye" class="keyword">總結(jié)。

分布式算力:技術(shù)實(shí)現(xiàn)的關(guān)鍵點(diǎn)

推動(dòng)分布式算力大規(guī)模落地仍然面臨許多技術(shù)挑戰(zhàn)。湯浩進(jìn)一步分析了當(dāng)前的技術(shù)瓶頸:

1. 邊緣設(shè)備性能優(yōu)化

邊緣節(jié)點(diǎn)往往受限于硬件性能,難以完成復(fù)雜的AI推理任務(wù)。解決這一問(wèn)題需要依賴(lài)低功耗AI芯片的進(jìn)一步發(fā)展,以及量化(Quantization)、剪枝(Pruning)等模型優(yōu)化技術(shù)。

2. 算力調(diào)度與負(fù)載均衡

分布式算力網(wǎng)絡(luò)中,各節(jié)點(diǎn)間的任務(wù)調(diào)度和資源分配需要高效的算法支持。這涉及動(dòng)態(tài)負(fù)載均衡、容錯(cuò)機(jī)制以及實(shí)時(shí)資源監(jiān)控等技術(shù)。

3. 數(shù)據(jù)一致性與隱私保護(hù)

在分布式環(huán)境下,如何實(shí)現(xiàn)數(shù)據(jù)傳輸?shù)囊恢?span id="eawi8us" class="keyword">性和隱私保護(hù)是一個(gè)重要問(wèn)題。技術(shù)手段包括聯(lián)邦學(xué)習(xí)(Federated Learning)、同態(tài)加密(Homomorphic Encryption)等。

湯浩表示,科默羅技術(shù)正積極探索這些領(lǐng)域的解決方案,并希望通過(guò)與產(chǎn)業(yè)鏈上下游的合作,加速分布式算力技術(shù)的成熟與普及。

中國(guó)算力基建的戰(zhàn)略調(diào)整:從集中執(zhí)念到協(xié)同平衡

在談到中國(guó)當(dāng)前的算力基建現(xiàn)狀時(shí),湯浩毫不掩飾自己的擔(dān)憂。他指出,近年來(lái),各地政府在推動(dòng)算力基礎(chǔ)設(shè)施建設(shè)時(shí),出現(xiàn)了一種“算力崇拜”的傾向,盲目追求投資規(guī)模和“大算力中心”的虛名,而忽視了實(shí)際需求和技術(shù)應(yīng)用的多樣性。這種做法不僅導(dǎo)致資源的浪費(fèi),還可能給未來(lái)的發(fā)展埋下隱患。

“不能為了搞算力而搞算力,算力基礎(chǔ)設(shè)施的建設(shè)應(yīng)該服務(wù)于實(shí)際的場(chǎng)景需求,而不是成為政績(jī)工程的工具?!睖婆u(píng)說(shuō),一些地方政府醉心于建設(shè)大型算力中心,熱衷于宣傳自己擁有多少PFlops的算力規(guī)模,卻缺乏對(duì)算力分布優(yōu)化的系統(tǒng)性思考和對(duì)分布式技術(shù)的投入。這樣的單一化發(fā)展路徑,不僅偏離了端側(cè)AI時(shí)代的需求,還可能在未來(lái)造成算力資源的結(jié)構(gòu)性浪費(fèi)。

湯浩進(jìn)一步指出,大型集中式算力中心雖然看上去“高端大氣”,但并非越大越好。很多地方算力中心在建成后,實(shí)際利用率極低,出現(xiàn)“算力閑置”甚至“閑而無(wú)用”的現(xiàn)象,同時(shí)又承擔(dān)著高昂的運(yùn)營(yíng)成本和能耗負(fù)擔(dān)。他呼吁地方政府在規(guī)劃算力基建時(shí),必須跳出“貪大求全”的誤區(qū),更加注重投資的實(shí)際效益與算力布局的科學(xué)性。

“算力基建的目標(biāo)是為產(chǎn)業(yè)提供支撐,而不是為了炫耀大算力集群的數(shù)據(jù)指標(biāo)?!睖?span id="kmsmoq6" class="keyword">總結(jié)道,“端側(cè)AI時(shí)代,只有在集中式與分布式算力之間找到平衡,才能真正讓技術(shù)為社會(huì)發(fā)展服務(wù),否則,我們可能既耗費(fèi)了資源,又錯(cuò)失了全球競(jìng)爭(zhēng)的先機(jī)?!?/p>

構(gòu)建端側(cè)AI時(shí)代的算力新生態(tài)

在CES 2025即將揭示端側(cè)AI未來(lái)格局的關(guān)鍵時(shí)刻,中國(guó)的算力基礎(chǔ)設(shè)施建設(shè)也正處在一個(gè)至關(guān)重要的轉(zhuǎn)折點(diǎn)上。正如湯浩所言,端側(cè)AI的全面爆發(fā)要求我們從“集中執(zhí)念”中走出,以更加科學(xué)、平衡的方式構(gòu)建集中與分布協(xié)同發(fā)展的算力新生態(tài)。這不僅是推動(dòng)技術(shù)落地的需要,更是中國(guó)在國(guó)際競(jìng)爭(zhēng)中搶占制高點(diǎn)的必由之路。

在這場(chǎng)智能革命的浪潮中,算力基建絕不能淪為簡(jiǎn)單的投資規(guī)模比拼和大集群的虛名追逐。相反,它應(yīng)當(dāng)是一場(chǎng)扎根實(shí)際需求、服務(wù)產(chǎn)業(yè)發(fā)展的深刻變革。未來(lái)的算力布局,不僅要滿足端側(cè)AI多樣化的需求,更要體現(xiàn)技術(shù)與資源的最佳結(jié)合。

正如湯浩總結(jié)的那樣,“算力的意義在于支撐技術(shù)創(chuàng)新和產(chǎn)業(yè)升級(jí),而不是為了‘規(guī)?!?。只有真正跳出盲目求大的誤區(qū),構(gòu)建協(xié)同平衡的算力生態(tài),中國(guó)才能在端側(cè)AI時(shí)代占得先機(jī)?!?/p>

免責(zé)聲明:市場(chǎng)有風(fēng)險(xiǎn),選擇需謹(jǐn)慎!此文僅供參考,不作買(mǎi)賣(mài)依據(jù)。

關(guān)鍵詞:

最近更新

關(guān)于本站 管理團(tuán)隊(duì) 版權(quán)申明 網(wǎng)站地圖 聯(lián)系合作 招聘信息

Copyright © 2005-2023 創(chuàng)投網(wǎng) - 670818.com All rights reserved
聯(lián)系我們:39 60 29 14 2@qq.com
皖I(lǐng)CP備2022009963號(hào)-3