隨著越來越強(qiáng)大的AI/ML算法重新定義“智能”以及更便宜、更強(qiáng)大的“邊緣”設(shè)備的可用性，這種炒作在很大程度上是真實(shí)的。但是，如果要考慮邊緣計(jì)算的歷史，它會比最近的興趣讓我們相信的更早。
事實(shí)上，計(jì)算和智能最初始于邊緣，當(dāng)時大多數(shù)應(yīng)用程序幾乎不存在高帶寬網(wǎng)絡(luò)連接。即使在1990年代后期，遠(yuǎn)程部署在工廠或現(xiàn)場的關(guān)鍵測量設(shè)備通常也具有處理傳入傳感器數(shù)據(jù)的專用計(jì)算能力。然而，這些設(shè)備中的算法在“智能”方面只是初級的：主要是信號處理或數(shù)據(jù)轉(zhuǎn)換。
隨著網(wǎng)絡(luò)能力的提高和連接性的提高，基于云的計(jì)算在2000年代后期開始受到關(guān)注。與此同時，強(qiáng)大的人工智能算法作為一種從大量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)中解鎖有意義信息的手段而備受關(guān)注。在短短十年內(nèi)，云AI已成為AI應(yīng)用程序的首選。
但是，向云的轉(zhuǎn)變也帶來了幾個問題：數(shù)據(jù)上傳和下載成本、網(wǎng)絡(luò)可靠性和數(shù)據(jù)安全等等。與此同時，隨著價格實(shí)惠但功能強(qiáng)大的邊緣設(shè)備的興起，邊緣計(jì)算在處理能力和成本或占地面積之間的權(quán)衡正在減少。似乎我們現(xiàn)在又回到了考慮“邊緣計(jì)算”作為構(gòu)建智能應(yīng)用程序的可行且有吸引力的選擇。
隨著關(guān)于邊緣人工智能和云人工智能哪個更好的辯論越來越激烈，任何熟悉這兩個框架的人都可能會回答“這要看情況了！”。原因是邊緣和云基礎(chǔ)設(shè)施不是競爭的，而是互補(bǔ)的框架。
在過去的幾年里，兩者都經(jīng)歷了巨大的發(fā)展和完善，特別是作為人工智能開發(fā)和部署的基礎(chǔ)。與任何技術(shù)選擇一樣，選擇實(shí)際上可歸結(jié)為具體的應(yīng)用:目標(biāo)、價值驅(qū)動因素、經(jīng)濟(jì)性以及對功耗、尺寸和連接性的任何限制。因此，在嘗試建立正確的基礎(chǔ)設(shè)施之前，必須了解云和邊緣人工智能的利弊。
當(dāng)尋求靈活性、可擴(kuò)展性和易于部署時，基于云的人工智能是一個有吸引力的選擇。如今，大多數(shù)云服務(wù)提供商為人工智能模型的培訓(xùn)和部署提供了強(qiáng)大的框架，并提供了按需付費(fèi)的包，幾乎沒有前期承諾或投資。云提供了幾乎沒有限制的計(jì)算和存儲選項(xiàng)，使其特別適合大型人工智能模型。
但對于需要連續(xù)評估傳感器或圖像數(shù)據(jù)的實(shí)時應(yīng)用程序來說，這可能會成為一個笨拙的選擇，因?yàn)樗鼈儽仨殎砘貍鬏敂?shù)據(jù)，從而導(dǎo)致巨大的成本。這種數(shù)據(jù)傳輸也使得云在很大程度上不適合需要閉環(huán)控制或即時行動的低延遲應(yīng)用程序。
另一方面，邊緣人工智能是自動報(bào)警或閉環(huán)控制的實(shí)時數(shù)據(jù)分析的合理選擇。雖然邊緣基礎(chǔ)設(shè)施確實(shí)需要在邊緣硬件上進(jìn)行前期投資，但運(yùn)營成本與云相比要低得多。
今天，有各種各樣的邊緣人工智能硬件選項(xiàng)可用，包括npu(神經(jīng)處理單元)、TPU(張量處理單元)以及帶有專用人工智能加速器的SOC(片上系統(tǒng))和SoMs(模塊上系統(tǒng))。人工智能的低成本和低功耗硬件是一個活躍的研究領(lǐng)域，并有可能提供更好的選擇。另一方面，基于人工智能的消費(fèi)應(yīng)用必須處理相當(dāng)多樣化的邊緣設(shè)備(手機(jī)、平板電腦、個人電腦等)，這使得邊緣部署成為一個潛在的令人生畏的前景。
因此，邊緣基礎(chǔ)設(shè)施可能不利于快速原型開發(fā)，也不容易擴(kuò)展。雖然聯(lián)合學(xué)習(xí)，AI模型的分布式訓(xùn)練的概念允許在邊緣進(jìn)行訓(xùn)練和部署，但云仍然是訓(xùn)練需要足夠計(jì)算能力的大型模型的邏輯選擇。
但解決方案不一定是非此即彼的選擇。隨著應(yīng)用程序過渡到更多基于微服務(wù)的架構(gòu)，它們可以分解為具有自己特定部署框架的更小的功能或微服務(wù)。因此，不必在云和邊緣之間進(jìn)行選擇，重點(diǎn)可以放在針對特定應(yīng)用程序優(yōu)化使用兩者。
例如，一個應(yīng)用程序可能從云上的快速原型開始。隨著它的發(fā)展，需要低延遲和實(shí)時決策的功能可以轉(zhuǎn)移到邊緣，而那些需要規(guī)模和靈活性的功能可以保留在云中。模型訓(xùn)練或再訓(xùn)練可以在云端集中管理，而邊緣的一些聯(lián)邦學(xué)習(xí)可以在本地提高準(zhǔn)確性。同樣，敏感數(shù)據(jù)可以在邊緣處理，更通用的數(shù)據(jù)可以轉(zhuǎn)移到云端。
組織、開發(fā)人員和從業(yè)者最好不要將云和邊緣視為不同的替代方案，而是將其視為從邊緣到云的連續(xù)統(tǒng)一體，中間有許多不同的基礎(chǔ)設(shè)施選項(xiàng)。這包括不同類型的邊緣——運(yùn)營邊緣、網(wǎng)絡(luò)邊緣、移動端點(diǎn)等，以及網(wǎng)絡(luò)上不同類型的分布式處理——私有云、公共云、小云、霧計(jì)算等。
雖然復(fù)雜性可能是一個挑戰(zhàn)，但找到正確的技術(shù)組合開始為組織提供一個獨(dú)特的機(jī)會，以最大限度地提高人工智能的價值，同時最大限度地降低成本和風(fēng)險。?
