久久99国产亚洲高清观看首页 ,亚洲国产激情一区二区三区,欧洲精品免费一区二区三区,国产10000部拍拍拍免费视频

低時延+高安全 邊緣算力重要性凸顯 智能模組或成AI“毛細血管” 每日熱點

來源:科創(chuàng)板日報


(資料圖)

《科創(chuàng)板日報》4月22日訊日前,上海市經(jīng)濟信息化委印發(fā)《上海市推進算力資源統(tǒng)一調(diào)度指導意見》的通知,提出九項重點任務。任務之一要求形成樞紐型數(shù)據(jù)中心集群、城市數(shù)據(jù)中心集聚區(qū)、邊緣數(shù)據(jù)中心梯次布局,并引導根據(jù)應用場景,利用存量通信機房、變電站等設施按需靈活部署邊緣數(shù)據(jù)中心。

對此,近日國盛證券發(fā)布相關研究報告稱,規(guī)劃凸顯出未來的算力將呈現(xiàn)從云端到邊緣梯度分布的格局。云端算力負責復雜科學計算,大模型運算推理等任務,邊緣側則憑借隱私、時延與成本三大優(yōu)勢,成為小模型與AI應用觸及萬千用戶與場景的通道。

據(jù)介紹,目前,無論是需要超強硬件支撐的AI迭代與訓練,還是運行要求相對較低、需求相對分散的AI推理,均在超算中心內(nèi)進行,采用云生成然后發(fā)送到端的形式運作。

但隨著AIGC內(nèi)容愈加豐富,從文本發(fā)展到圖像、視頻等多模態(tài)內(nèi)容,上述模式引發(fā)了一系列的問題,例如網(wǎng)絡帶寬成本高昂、時延較為嚴重等,進而影響到AI大模型的商業(yè)化進程與用戶使用體驗。

而作為算力體系的重要一環(huán),邊緣算力具有低時延、安全性高等優(yōu)勢。因此,國盛證券、中信證券、中金公司等機構一致認為,邊緣算力不僅能夠分擔云端推理計算的壓力,且由于其安全性高,還能夠符合未來AI創(chuàng)作對于所有權和隱私權的要求。

圖|來源于中金公司研報

智能模組則為邊緣算力的最佳載體,有機構稱其為AI的“毛細血管”。智能模組是指融入了算力或通用處理芯片的通訊模組,已經(jīng)應用于車機、消費等多個領域。目前,已有廠商嘗試相關方案:

3月2日,高通中國公眾號發(fā)布了全球首個運行于安卓手機上的Stable Diffusion終端側演示。此前,Stable Diffusion只能在云端計算集群內(nèi)運行。

3月23日,華為推出“智能搜圖”功能,基于多模態(tài)大模型技術,在手機端側對模型進行小型化處理。

中信證券認為,華為與高通一定程度上驗證了高性能邊緣AI的可行性,通過模型壓縮疊加聯(lián)網(wǎng)智能的方式有望在邊緣端實現(xiàn)AI大模型的體驗。在兩者的示范效應下,智能物聯(lián)網(wǎng)模組相關企業(yè)有望獲得發(fā)展。

據(jù)《科創(chuàng)板日報》不完全整理,布局邊緣算力、邊緣IDC、模組相關業(yè)務的企業(yè)主要有:

標簽:

精彩放送
頭條