[技術(shù)前沿]協(xié)作邊緣計(jì)算：一種人工智能計(jì)算新范式
人工智能因其對(duì)工業(yè)和社會(huì)數(shù)字化、智能化的變革作用而受到全球范圍內(nèi)的廣泛關(guān)注。過(guò)去十年，云計(jì)算已成為人工智能應(yīng)用的通用計(jì)算范式。未來(lái)，人工智能計(jì)算范式將從集中式的云走向協(xié)作式的邊緣計(jì)算。
計(jì)算范式的遷移：從云到邊
云計(jì)算是一種計(jì)算范式，它把物聯(lián)網(wǎng)（IoT）設(shè)備（手機(jī)、可穿戴設(shè)備、智能家電、智能汽車等）產(chǎn)生的數(shù)據(jù)收集到遠(yuǎn)程云數(shù)據(jù)中心，并順利獲得相關(guān)算法（例如人工智能模型）來(lái)分析數(shù)據(jù)并給予服務(wù)。過(guò)去十年，云計(jì)算已成為人工智能應(yīng)用的關(guān)鍵使能技術(shù)，為智能醫(yī)療、智能家居，智能交通等諸多應(yīng)用賦能。然而，由于大量數(shù)據(jù)傳輸?shù)竭h(yuǎn)程云端，云計(jì)算存在響應(yīng)延遲長(zhǎng)、帶寬成本高等問(wèn)題。除此以外，部分?jǐn)?shù)據(jù)私密程度較高，如醫(yī)院、銀行、個(gè)人手機(jī)數(shù)據(jù)等。傳輸這些數(shù)據(jù)到云計(jì)算中心容易造成隱私泄露風(fēng)險(xiǎn)。
為分析決以上問(wèn)題，邊緣計(jì)算（Edge Computing）的概念在近幾年被提出。它是一種將計(jì)算和資源放在網(wǎng)絡(luò)的邊緣，在更靠近數(shù)據(jù)源的邊緣節(jié)點(diǎn)（例如智能手機(jī)、邊緣網(wǎng)關(guān)、邊緣服務(wù)器、基站等）上處理數(shù)據(jù)的一種計(jì)算范式，能夠?yàn)樾聲r(shí)代的多種人工智能應(yīng)用給予更低時(shí)延和更安全的服務(wù)。服務(wù)從云平臺(tái)到邊緣節(jié)點(diǎn)的這次遷移，也代表了計(jì)算模式的新一次蛻變。
20世紀(jì)70年代，大型機(jī)（Mainframe Computing）是主流的計(jì)算設(shè)備。其體積巨大，甚至能占據(jù)整棟辦公樓。到了80年代，個(gè)人電腦（PC）開始出現(xiàn)， ■十大网投正规信誉官网■十大网投靠谱平台 用個(gè)人電腦處理日常數(shù)據(jù)。新世紀(jì)后，以亞馬遜2005年發(fā)布云服務(wù)為標(biāo)志， ■十大网投正规信誉官网■十大网投靠谱平台 進(jìn)入到了云計(jì)算時(shí)代。云計(jì)算代表著一種以算力為核心的新的生產(chǎn)力，深刻改變了 ■十大网投正规信誉官网■十大网投靠谱平台 的生產(chǎn)生活。但是云計(jì)算難以支持時(shí)延和隱私要求高的應(yīng)用，因此就有了邊緣計(jì)算，它最早的雛形可以追溯到內(nèi)容分發(fā)網(wǎng)絡(luò)（CDN），即將數(shù)據(jù)緩存在靠近用戶的地方以給予更快的響應(yīng)速度。
邊緣計(jì)算前景廣闊，它是使能萬(wàn)物互聯(lián)的核心技術(shù)，許多政府和組織都將其視為新型數(shù)字基礎(chǔ)設(shè)施的重要部分。思科預(yù)測(cè)，到2025年，75%的物聯(lián)網(wǎng)數(shù)據(jù)將在邊緣設(shè)備和節(jié)點(diǎn)上生成和處理。高德納咨詢公司（Gartner）也預(yù)計(jì)邊緣計(jì)算將成為技術(shù)革新和產(chǎn)業(yè)升級(jí)的重要驅(qū)動(dòng)力。
在過(guò)去幾年里，邊緣計(jì)算領(lǐng)域有很多的研究和應(yīng)用。比如說(shuō)，在智慧家居場(chǎng)景中利用邊緣控制器（邊緣網(wǎng)關(guān)、微程序控制器等）智能地控制臺(tái)燈和電視的開關(guān)、調(diào)節(jié)冰箱的溫度和工作模式等。智能視頻監(jiān)控也受益于邊緣計(jì)算。傳統(tǒng)的基于云的解決方案需要將視頻上傳到云服務(wù)器，利用人工智能模型分析這些數(shù)據(jù)，然后發(fā)回響應(yīng)。它會(huì)導(dǎo)致長(zhǎng)時(shí)間的響應(yīng)延遲和隱私問(wèn)題。順利獲得邊緣計(jì)算，原始視頻數(shù)據(jù)可以由部署在邊緣節(jié)點(diǎn)上的人工智能模型進(jìn)行處理，從而節(jié)省帶寬成本并實(shí)現(xiàn)實(shí)時(shí)響應(yīng)。
然而，現(xiàn)有的邊緣計(jì)算依然不足以支撐一些高級(jí)的人工智能應(yīng)用。這些應(yīng)用對(duì)服務(wù)質(zhì)量有一些新的要求。一是超低時(shí)延，比如自動(dòng)駕駛場(chǎng)景下時(shí)延要低于5毫秒；二是大規(guī)模的應(yīng)用部署，用于連接大量的物聯(lián)網(wǎng)設(shè)備，比如智能制造下大量工業(yè)元器件的監(jiān)測(cè)和控制、虛擬現(xiàn)實(shí)/增強(qiáng)現(xiàn)實(shí)（VR/AR）和元宇宙場(chǎng)景下在不同區(qū)域的海量用戶同時(shí)在線互動(dòng)；三是移動(dòng)場(chǎng)景下的動(dòng)態(tài)接入，比如智能車和智能手機(jī)；四是可靠的服務(wù)供應(yīng)。
現(xiàn)有的工作側(cè)重于單個(gè)邊緣節(jié)點(diǎn)的功能及其與云和終端設(shè)備的協(xié)作。主要有以下兩方面的不足：
（1）邊緣節(jié)點(diǎn)之間缺乏協(xié)作。現(xiàn)有的工作忽視了分布在不同區(qū)域的邊緣節(jié)點(diǎn)之間的橫向協(xié)作，導(dǎo)致邊緣資源的利用未得到優(yōu)化、服務(wù)區(qū)域的覆蓋范圍受到限制以及可擴(kuò)展性有限，使得性能不均勻。
（2）缺乏對(duì)人工智能應(yīng)用程序的支持。不同邊緣節(jié)點(diǎn)給予商的異構(gòu)執(zhí)行環(huán)境使應(yīng)用程序開發(fā)和部署變得復(fù)雜，導(dǎo)致服務(wù)質(zhì)量和應(yīng)用程序性能較差。現(xiàn)在缺乏統(tǒng)一的應(yīng)用執(zhí)行環(huán)境和應(yīng)用接口。此外，邊緣資源是受限的、異構(gòu)的，資源感知的人工智能模型訓(xùn)練和推理機(jī)制需要進(jìn)一步研究。
新范式：協(xié)作邊緣計(jì)算
針對(duì)現(xiàn)在存在的問(wèn)題， ■十大网投正规信誉官网■十大网投靠谱平台 提出了一種新范式以支持新型的高級(jí)人工智能應(yīng)用——協(xié)作邊緣計(jì)算（CEC）。如圖1所示，來(lái)自不同利益相關(guān)者（參與方）的邊緣節(jié)點(diǎn)和云服務(wù)器等計(jì)算節(jié)點(diǎn)順利獲得Wi-Fi、基站、邊緣網(wǎng)關(guān)等通信設(shè)備相互連接，共同構(gòu)建跨邊緣網(wǎng)絡(luò)的聯(lián)邦資源池，協(xié)同執(zhí)行計(jì)算任務(wù)，從而為應(yīng)用給予服務(wù)。協(xié)作邊緣計(jì)算致力于實(shí)現(xiàn)計(jì)算節(jié)點(diǎn)和設(shè)備之間的廣泛協(xié)作，不僅包括云、邊、端設(shè)備之間的縱向協(xié)作，也包括邊緣節(jié)點(diǎn)之間的橫向合作。協(xié)作邊緣計(jì)算是一種新的計(jì)算基礎(chǔ)設(shè)施， 用戶可以接入邊緣網(wǎng)絡(luò)并即時(shí)訪問(wèn)計(jì)算能力、數(shù)據(jù)處理和人工智能服務(wù)。
相比于傳統(tǒng)的邊緣計(jì)算，協(xié)作邊緣計(jì)算具有以下優(yōu)點(diǎn)：
（1）擴(kuò)大的資源池。人工智能應(yīng)用通常需要大量的計(jì)算資源，但受到設(shè)備體積和功耗的限制，邊緣節(jié)點(diǎn)的計(jì)算能力通常有限，難以處理大量的人工智能應(yīng)用計(jì)算需求，從而影響服務(wù)體驗(yàn)。在協(xié)作邊緣計(jì)算中，大量的邊緣計(jì)算節(jié)點(diǎn)和云服務(wù)器相互連接，共享資源，從而使得資源池變大，更好地處理資源貪婪和計(jì)算密集型的人工智能應(yīng)用。
（2）擴(kuò)展的服務(wù)區(qū)域。受到通信能力和距離的限制，單個(gè)邊緣節(jié)點(diǎn)的服務(wù)范圍通常有限。在協(xié)作邊緣計(jì)算中，分布在不同區(qū)域的計(jì)算節(jié)點(diǎn)連接起來(lái)共同給予計(jì)算服務(wù)，使得應(yīng)用的服務(wù)范圍變大，更適合需要大規(guī)模部署的應(yīng)用。
（3）統(tǒng)一的服務(wù)標(biāo)準(zhǔn)。在傳統(tǒng)邊緣計(jì)算中，邊緣節(jié)點(diǎn)通常來(lái)自不同的參與方，比如中國(guó)移動(dòng)、電信等運(yùn)營(yíng)商，華為云、阿里云等云廠商。不同的參與方通常有自己的一套服務(wù)標(biāo)準(zhǔn)，部署在一方計(jì)算節(jié)點(diǎn)的應(yīng)用很難在線遷移到另一方。協(xié)作邊緣計(jì)算致力于連接這些由不同參與方擁有的計(jì)算節(jié)點(diǎn)，給予統(tǒng)一的服務(wù)，使得用戶和開發(fā)者專注于應(yīng)用的核心功能和業(yè)務(wù)邏輯，而不必?fù)?dān)心應(yīng)用的部署問(wèn)題。
（4）高效的人工智能服務(wù)。邊緣計(jì)算節(jié)點(diǎn)經(jīng)常是資源受限的、異構(gòu)的，并且分布在不同的區(qū)域。這給人工智能模型的訓(xùn)練和推理造成了困難。協(xié)作邊緣計(jì)算致力于為人工智能應(yīng)用給予高效的訓(xùn)練和推理支持，簡(jiǎn)化人工智能模型的開發(fā)和部署。
協(xié)作邊緣計(jì)算的挑戰(zhàn)
要想實(shí)現(xiàn)協(xié)作邊緣計(jì)算的愿景，需要解決許多科學(xué)挑戰(zhàn)，包括可擴(kuò)展的資源管理方案、準(zhǔn)確高效的網(wǎng)絡(luò)測(cè)量和算力度量、大規(guī)模高性能的任務(wù)調(diào)度，以及用戶友好的人工智能運(yùn)行時(shí)支持。
（1）可擴(kuò)展的資源管理。如何在地理分布區(qū)域的眾多邊緣節(jié)點(diǎn)上管理資源并部署應(yīng)用程序？現(xiàn)有方法通常使用集中式資源管理，如業(yè)界廣泛采用的Kubernetes、華為開發(fā)的KubeEdge、阿里云開發(fā)的OpenYurt等。集中式的資源管理采用一個(gè)中心化的控制器去感知分布式的資源并作出管理決策，但是其可擴(kuò)展性有限，難以管理大規(guī)模的分布式邊緣節(jié)點(diǎn)。此外，邊緣節(jié)點(diǎn)可能屬于不同的利益相關(guān)者， 集中管理會(huì)導(dǎo)致可信度和隱私問(wèn)題。
（2）網(wǎng)絡(luò)測(cè)量和算力度量。如何高效準(zhǔn)確地測(cè)量網(wǎng)絡(luò)和算力資源以支持智能的計(jì)算任務(wù)調(diào)度？網(wǎng)絡(luò)測(cè)量（如帶寬、網(wǎng)絡(luò)拓?fù)?、丟包率等）和算力度量（如計(jì)算能力強(qiáng)弱、資源多寡、資源使用率等）是在不同計(jì)算點(diǎn)間分配計(jì)算任務(wù)的基礎(chǔ)。但是邊緣節(jié)點(diǎn)是資源異構(gòu)的，且經(jīng)常位于異構(gòu)網(wǎng)絡(luò)中，這給準(zhǔn)確高效的網(wǎng)絡(luò)測(cè)量和算力度量帶來(lái)了困難。
（3）大規(guī)模高性能任務(wù)調(diào)度。邊緣節(jié)點(diǎn)需要共享資源來(lái)執(zhí)行協(xié)同計(jì)算任務(wù)。如何智能調(diào)度邊緣資源來(lái)滿足應(yīng)用的性能需求？現(xiàn)有的集中式任務(wù)調(diào)度導(dǎo)致大規(guī)模邊緣節(jié)點(diǎn)的任務(wù)調(diào)度算法開銷較高。當(dāng)前也有一些去中心化的方法，但是去中心化的方法只能感知局部網(wǎng)絡(luò)資源，導(dǎo)致調(diào)度性能較差。設(shè)計(jì)高效、高性能的任務(wù)調(diào)度解決方案至關(guān)重要。
（4）人工智能應(yīng)用的通用編程和運(yùn)行時(shí)支持。協(xié)作邊緣計(jì)算旨在支持各種人工智能賦能的應(yīng)用程序。然而，邊緣資源異構(gòu)，人工智能模型訓(xùn)練和推理范式多種多樣。如何設(shè)計(jì)通用的編程模型并給予資源感知的運(yùn)行時(shí)支持以實(shí)現(xiàn)高效的人工智能模型訓(xùn)練和推理是一個(gè)新的挑戰(zhàn)。
協(xié)作邊緣計(jì)算是一種新型的計(jì)算范式，它順利獲得整合云端邊計(jì)算節(jié)點(diǎn)的計(jì)算能力，來(lái)協(xié)作處理計(jì)算任務(wù)，以更好地支持新型人工智能應(yīng)用。協(xié)作邊緣計(jì)算前景廣闊，開展?jié)摿薮蟆．?dāng)前，許多政府和組織都在推進(jìn)新型計(jì)算基礎(chǔ)設(shè)施的建設(shè)，主張順利獲得整合無(wú)處不在的計(jì)算能力來(lái)構(gòu)建城市規(guī)模的算力網(wǎng)絡(luò)。算力網(wǎng)絡(luò)（CPN）已被列入國(guó)家“十四五”規(guī)劃，協(xié)作邊緣計(jì)算為算力網(wǎng)絡(luò)給予了一種系統(tǒng)可行的方法。
致謝：感謝香港研究資助局主題研究計(jì)劃項(xiàng)目“高性能協(xié)作邊緣計(jì)算框架、方法及其在智慧城市中的應(yīng)用”（項(xiàng)目編號(hào)：T43-513/23-N）的支持。
本文刊登于IEEE Spectrum中文版《科技縱覽》2024年2月刊。
關(guān)注微博
關(guān)注微信
關(guān)注公眾號(hào)
關(guān)注抖音號(hào)