“邊緣計算和機器視覺技術已經相當成熟
，未來可能會將更多的關注和資源投入到大語言模型和AI的開發與應用中。AI模mo型xing可ke能neng會hui逐zhu步bu從cong雲yun端duan向xiang邊bian緣yuan端duan轉zhuan移yi。我wo們men可ke以yi預yu見jian到dao一yi場chang巨ju大da的de創chuang新xin浪lang潮chao正zheng在zai醞yun釀niang。目mu前qian市shi場chang上shang已yi經jing出chu現xian了le許xu多duo成cheng熟shu的de解jie決jue方fang案an，我wo們men正zheng處chu於yu這zhe一yi轉zhuan變bian的de關guan鍵jian時shi刻ke。”2024英特爾網絡與邊緣計算行業大會期間
，英特爾公司高級副總裁兼網絡與邊緣事業部總經理Sachin Katti在接受財聯社記者采訪時表示。

近日財聯社記者從業內多方獲悉
，從算力、邊緣推理能力
、成本綜合考量來講

，人工智能在邊緣領域的滲透將成關鍵趨勢，多家巨頭入局該賽道，不少成熟解決方案湧現，邊緣AI方興未艾
，2030年全球邊緣市場規模或將達千億美金規模。

瞄準邊緣AI 成熟解決方案湧現

財聯社記者最新從英特爾方麵了解到，今年上半年英特爾中國區邊緣端業務同比保持增長，公司預期這一趨勢將保持。邊緣AI一直是英特爾過去多年來的關注重點
，部署領域涉及零售、醫藥、物流、農業、交通、製造業等。

Sachin Katti告訴財聯社記者，“現在我們講的邊緣AI其實已經從邊緣的機器視覺，逐步進展到比如大語言模型、邊緣應用以及生成式AI等

，因此英特爾就要不斷地提供相關能力
，加速在邊緣端的生成式AI以及大語言模型的部署。我們已經不僅僅局限於硬件供應
，還擴展到了應用層、軟件以及客戶服務支持等多個維度。”

（財聯社記者攝）

今年MWC期間，英特爾方麵稱，已在邊緣端完成九萬多個實際部署。Sachin Katti在大會上則表示
，英特爾將采取以開放、模塊化
、統一平台為核心的方法加快邊緣Al解決方案的部署進程。“硬件側
，我們會提供有足夠內存的GPU以及NPU解決方案，很多模型如Llama 2、Llama 3等可以在本地運行。”生態方麵，截至目前英特爾網絡與邊緣事業部在中國已與500多家OEM/ODM和150多家ISV建立了合作關係。

實際上不僅英特爾，AMD、英偉達、高通等巨頭，雲天勵飛（688343.SH）
、中科創達（300496.SZ）、國科微（300672.SZ）等A股上市公司均已瞄準邊緣端做出動作。

同時財聯社記者在大會展區注意到，機器人（300024.SZ）、深信服（300454.SZ）
、數碼視訊（300079.SZ）、中科創達等A股廠商均展示了各自邊緣AI成果。

財聯社記者在展區注意到了模型訓練過程中通過自動化手段做數據標注的案例。展台工作人員告訴記者

，基於英特爾酷睿處理器、英特爾銳炫獨立顯卡ARC770打造的CNN邊緣訓推方案，借助視覺大模型實現了圖片自動標注和基於MLFlow的模型自動重訓。“原來訓練模型要找算法公司

，標注都需要人來完成

，現在可以使用機器標注，訓練成本、人力成本都極大降低
，現在業界慢慢都出現了這種訓推的方案。”

此次英特爾最新打造的3D虛擬數智人“小英”亦展出。展台工作人員稱
，“小英”同樣基於酷睿處理器、ARC770顯卡打造，完全部署於邊緣端，還在本地集成了大語言模型和RAG技術。據悉，其可以勝任營業廳客服、商場導購、博物館講解員等角色。

（受訪者供圖）

AI Agent苗頭已現 邊緣部署有何動因？

站在行業發展視角，英特爾對於AIGC及大語言模型發展做了三階段總結：第一階段是AI輔助時代（Age of AI Co-Pilots）
，第二階段是AI助手時代（Age of AI Agents），第三階段是全功能AI時代（Age of AI Functions）。

“從中國來看，我們的創新速度非常快，很多AI Agent的功能在當下可能已經看到發展苗頭了，有關AI Agent的案例實際在我們身邊已經慢慢出現。”英特爾中國區網絡與邊緣事業部首席技術官、英特爾高級首席AI工程師張宇對財聯社記者表示。

他(ta)舉(ju)例(li)稱(cheng)，電(dian)信(xin)企(qi)業(ye)網(wang)安(an)和(he)網(wang)絡(luo)運(yun)營(ying)類(lei)產(chan)品(pin)已(yi)經(jing)可(ke)以(yi)基(ji)於(yu)大(da)模(mo)型(xing)對(dui)網(wang)絡(luo)日(ri)誌(zhi)文(wen)件(jian)進(jin)行(xing)分(fen)析(xi)，以(yi)便(bian)網(wang)絡(luo)管(guan)理(li)人(ren)員(yuan)及(ji)時(shi)根(gen)據(ju)分(fen)析(xi)結(jie)果(guo)采(cai)取(qu)措(cuo)施(shi)等(deng)。Sachin Katti則表示，預計在未來一到兩年內會看到更多AI Agent的出現。

英特爾高管在大會上提及，中國生成式人工智能市場規模今年預計達33億美元。而據Gartner預測，到2026年，80%的全球企業將使用生成式AI
，50%的全球邊緣部署將包含AI。STL Partners報告顯示，2030年全球邊緣服務市場規模會達到4450億美元，其中AI是第一大邊緣工作負載。

邊緣AI市場持續升溫，而驅動企業在邊緣側部署的實際原因何在
？

“一yi是shi數shu據ju的de安an全quan性xing，是shi不bu是shi放fang心xin把ba數shu據ju都dou放fang到dao雲yun端duan

，還hai是shi在zai邊bian緣yuan端duan更geng合he理li。第di二er，隨sui著zhe邊bian緣yuan數shu據ju量liang越yue來lai越yue大da，整zheng個ge傳chuan輸shu帶dai寬kuan是shi個ge問wen題ti，雖sui然ran國guo內nei在zai整zheng個ge基ji礎chu建jian設she傳chuan輸shu帶dai寬kuan建jian設she是shi全quan球qiu最zui領ling先xian的de
，但dan當dang大da量liang數shu據ju在zai邊bian緣yuan產chan生sheng時shi
，仍reng然ran可ke能neng引yin發fa網wang絡luo風feng暴bao，我wo們men仍reng需xu要yao進jin一yi步bu優you化hua網wang絡luo管guan理li和he數shu據ju傳chuan輸shu策ce略lve。第di三san

，實shi時shi性xing
，很hen多duo東dong西xi隻zhi能neng在zai邊bian緣yuan做zuo才cai能neng解jie決jue實shi時shi性xing的de要yao求qiu。”英特爾公司市場營銷集團副總裁、英特爾中國網絡與邊緣及渠道數據中心事業部總經理郭威向財聯社記者分析了三點原因。

Sachin Katti告訴財聯社記者，目前AI主要在雲端運行，然而隨著邊緣設備在本地產生大量數據，將所有數據傳輸至雲端的成本變得相當高昂。“一yi些xie工gong廠chang可ke能neng無wu法fa承cheng擔dan訓xun練lian超chao大da規gui模mo行xing業ye級ji大da模mo型xing的de成cheng本ben，因yin為wei這zhe些xie模mo型xing的de參can數shu量liang可ke能neng高gao達da萬wan億yi級ji別bie。因yin此ci他ta們men往wang往wang選xuan擇ze訓xun練lian中zhong等deng規gui模mo的de模mo型xing，並bing結jie合he自zi身shen數shu據ju進jin行xing定ding製zhi化hua調tiao整zheng。”

財聯社記者了解到，當前大模型訓練、推理、調用、部署均在雲端完成
，對算力（集群）規模、網絡穩定性、能效等方麵都提出極高要求
，隨著大模型進入比拚落地階段
，就要求所有分析處理都在本地完成。

張宇認為，“邊緣的特點就是碎片化。不同用戶對於算力、性(xing)能(neng)有(you)不(bu)同(tong)要(yao)求(qiu)，有(you)些(xie)性(xing)能(neng)要(yao)求(qiu)很(hen)高(gao)
，必(bi)須(xu)要(yao)有(you)集(ji)群(qun)來(lai)承(cheng)載(zai)


，有(you)些(xie)性(xing)能(neng)可(ke)能(neng)通(tong)過(guo)幾(ji)個(ge)小(xiao)設(she)備(bei)就(jiu)能(neng)夠(gou)承(cheng)載(zai)，跨(kua)度(du)非(fei)常(chang)大(da)。邊(bian)緣(yuan)往(wang)往(wang)最(zui)終(zhong)部(bu)署(shu)的(de)是(shi)業(ye)務(wu)
，並(bing)不(bu)是(shi)追(zhui)求(qiu)一(yi)個(ge)技(ji)術(shu)方(fang)案(an)。”