摘要:近幾年行動(dòng)通訊人工智能物聯(lián)網(wǎng)及相關(guān)是熱門應(yīng)用,而且未來也展現(xiàn)出萬物皆智能的趨勢。這其中邊緣運(yùn)算也稱邊緣計(jì)算是一股即將興起的風(fēng)潮。甚至應(yīng)用于物聯(lián)網(wǎng)非實(shí)時(shí)性小型傳感器網(wǎng)絡(luò)的智能邊緣運(yùn)算的普通單芯片如系列也可都算是邊緣運(yùn)算。
近幾年行動(dòng)通訊、人工智能、物聯(lián)網(wǎng)及相關(guān)是熱門應(yīng)用,而且未來也展現(xiàn)出「萬物皆智能(AIoT = AI + IoT)」的趨勢。
不論是家電、交通、零售、虛擬擴(kuò)增實(shí)境(AR/VR/XR)、人機(jī)互動(dòng)、醫(yī)療、食安、農(nóng)業(yè)、金融、安全監(jiān)控、電商平臺(tái)及城市環(huán)境等等,無一沒有智能管理、分析及預(yù)測。這其中「邊緣運(yùn)算」(Edge Computing)(也稱「邊緣計(jì)算」)是一股即將興起的風(fēng)潮。
「邊緣運(yùn)算」即將興起
云端及邊緣運(yùn)算
2012年「深度學(xué)習(xí)(類神經(jīng)網(wǎng)絡(luò))」技術(shù)的突破帶動(dòng)了新一波「人工智能」崛起,其中最大功臣莫過于繪圖芯片(GPU)。接踵而來的是大量的建置以GPU為主的深度學(xué)習(xí)計(jì)算用服務(wù)器來進(jìn)行高速運(yùn)算,不論是影像(對象)辨識(shí)、人臉(性別、年紀(jì)、情緒)識(shí)別、自然語言分析、語言翻譯、文義提取、文藝創(chuàng)作等等都要靠強(qiáng)大的云端(無論公有云或私有云)計(jì)算才能完成。
雖然云端可獲得接近無限的計(jì)算能力,但有太多場合基于個(gè)人隱私(資料保密)問題不能上網(wǎng),或者是計(jì)算延遲性太高不符實(shí)務(wù)需求,更重要的是一直上網(wǎng)利用云端服務(wù)(計(jì)算、儲(chǔ)存)要一直付錢,這可是使用者最不樂見的,因而在此需求下「邊緣運(yùn)算」應(yīng)運(yùn)而生。
邊緣計(jì)算強(qiáng)調(diào)可針對特定需求只作單一或少量功能,因此不需像訓(xùn)練時(shí)所需的巨量運(yùn)算,只需利用訓(xùn)練好的模型在特定排程或時(shí)間內(nèi)完成推論(Inference)即可,運(yùn)算量相對減少很多,所以大多數(shù)情況下可利用AI芯片(或神經(jīng)網(wǎng)絡(luò)加速)(CPU, GPU, FPGA, ASIC, SoC等)即可達(dá)成。(有興趣的朋友可參考之前的文章「人工智能AI芯片與Maker創(chuàng)意接軌(上)(中)(下)」)。
AI芯片類型
到底要多邊緣才叫邊緣運(yùn)算?
目前業(yè)界所謂的邊緣運(yùn)算并沒有一個(gè)標(biāo)準(zhǔn)定義。
各家公司自定義的邊緣運(yùn)算也有極大的算力差異。有的把GPU服務(wù)器不上公有云就算是邊緣運(yùn)算(私有云的概念),有的把單板計(jì)算機(jī)(小型工業(yè)計(jì)算機(jī)、NAS等)加上GPU卡算成邊緣運(yùn)算(個(gè)人計(jì)算機(jī)概念)。而繪圖芯片(GPU)最知名供貨商N(yùn)VIDIA也把旗下的TX2及Xavier這類SoC(內(nèi)含多核CPU+GPU)所組成小型(超)高階單板計(jì)算機(jī)也稱為邊緣運(yùn)算。
當(dāng)然也有一般我們較常聽到用于嵌入式系統(tǒng)(如樹莓派、Arm等級(jí)的開發(fā)板)配合AI芯片(如Intel Movidius等)的邊緣運(yùn)算。甚至應(yīng)用于物聯(lián)網(wǎng)(IoT)非實(shí)時(shí)性小型傳感器網(wǎng)絡(luò)的智能邊緣運(yùn)算的普通單芯片MCU(如Cortex-M系列)也可都算是邊緣運(yùn)算。
綜合以上所述,只要AI推論計(jì)算部份不上網(wǎng)都可以算是邊緣運(yùn)算。但個(gè)人比較傾向功率小于10瓦(或許小到1W)、算力小于1TFlops(或許小到10GFlop)、可利用行動(dòng)電源(5V/2A)供電并可放到口袋中(100x100mm)的裝置才算是邊緣運(yùn)算裝置。
或許有人會(huì)問這么低的算力能作什么應(yīng)用,舉例來說,要花一小時(shí)走路才能到的地方,開法拉利或許很帥氣,但若不趕時(shí)間時(shí),騎個(gè)共享單車不用花什么錢、也不會(huì)花太久就可以到,還可順便運(yùn)動(dòng)一下。
但若要到50公里遠(yuǎn)的地方,那腳踏車可能就不怎么方便了,此時(shí)可能要考慮機(jī)車或轎車才較能符合需求。同樣地當(dāng)人工智能應(yīng)用場景明確時(shí),計(jì)算量、反應(yīng)時(shí)間、硬件成本就可以較容易估算出來,此時(shí)如何選擇適當(dāng)?shù)倪吘夁\(yùn)算平臺(tái)就顯而易見了。
未來「邊緣運(yùn)算」雖可解決網(wǎng)絡(luò)巨量通訊、儲(chǔ)存空間、信息隱私、推論延遲及持續(xù)付費(fèi)等問題,但需有更多解決方案來強(qiáng)化硬件算力(AI芯片加速)及算法優(yōu)化(模型減量)。另外整體開發(fā)環(huán)境(AI框架、工具包)、設(shè)備體積、執(zhí)行功耗及銷售價(jià)格也是影響這項(xiàng)技術(shù)是否能普及的重要因素。
相信不久的將來大家就會(huì)更加了解如何依自身的場景需求找到云端及本地端(邊緣)計(jì)算的合理配比,而不是全部都在云端或邊緣端,如此就能讓更多AI應(yīng)用落地。
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://specialneedsforspecialkids.com/yun/5299.html
摘要:什么是邊緣計(jì)算邊緣計(jì)算,其定義也比較寬泛,可以理解為最近端的云計(jì)算,但是邊緣計(jì)算從許多共識(shí)來看,并不隸屬于云計(jì)算,而是云計(jì)算的補(bǔ)充或者云計(jì)算的預(yù)處理。 計(jì)算是互聯(lián)網(wǎng)中一個(gè)永恒的話題,設(shè)備的所有運(yùn)行都可以看成是 0 和 1 的運(yùn)算。在計(jì)算中近些年有兩個(gè)越來越響亮的技術(shù):云計(jì)算和邊緣計(jì)算。現(xiàn)如今是云計(jì)算方興未艾,邊緣計(jì)算已經(jīng)有了燎原之勢,本文將對這兩種技術(shù)做下簡單的對比介紹,讓大家能夠?qū)?..
摘要:云計(jì)算的潮流仍方興未艾,而邊緣計(jì)算又從何說起提到邊緣計(jì)算,還得從物聯(lián)網(wǎng)說起。事實(shí)上,邊緣計(jì)算的模型與云計(jì)算模型不是非此即彼的關(guān)系,而是相輔助相成的。搭載物聯(lián)網(wǎng)的發(fā)展,邊緣計(jì)算也迎來了大好春天。云計(jì)算的潮流仍方興未艾,而邊緣計(jì)算又從何說起?提到邊緣計(jì)算,還得從物聯(lián)網(wǎng)說起。時(shí)至今日,物聯(lián)網(wǎng)在IT領(lǐng)域的發(fā)展趨勢已然成型,且前景依然廣闊。有人稱物聯(lián)網(wǎng)是人類繼工業(yè)革命和信息革命后的又一場偉大革命。當(dāng)然...
摘要:不只云端電信業(yè)者紛紛押寶邊緣計(jì)算的市場,連全球較大開源社群基金會(huì)今年月也決定成立新項(xiàng)目來大力推動(dòng)邊緣計(jì)算,要打造一套通用物聯(lián)網(wǎng)邊緣計(jì)算框架,超過家軟硬件廠商和新創(chuàng)加入,包括等。為何有人開始主張邊緣計(jì)算將會(huì)吃掉云計(jì)算,也有人相信純云計(jì)算時(shí)代正邁向終結(jié),而且不只云端龍頭、商用軟件巨頭都搶著要押寶,連全球較大開源社群也大力支持,原因是什么? 云端服務(wù)龍頭Amazon每年冬天在美國拉斯韋加斯舉...
摘要:不只云端電信業(yè)者紛紛押寶邊緣計(jì)算的市場,連全球較大開源社群基金會(huì)今年月也決定成立新項(xiàng)目來大力推動(dòng)邊緣計(jì)算,要打造一套通用物聯(lián)網(wǎng)邊緣計(jì)算框架,超過家軟硬件廠商和新創(chuàng)加入,包括等。 為何有人開始主張邊緣計(jì)算將會(huì)吃掉云計(jì)算,也有人相信純云計(jì)算時(shí)代正邁向終結(jié),而且不只云端龍頭、商用軟件巨頭都搶著要押寶,連全球較大開源社群也大力支持,原因是什么?云端服務(wù)龍頭Amazon每年冬天在美國拉斯韋加斯舉行的r...
摘要:邊緣計(jì)算,讓園區(qū)充滿智慧邊緣計(jì)算是指在靠近物或數(shù)據(jù)源頭的一側(cè),采用網(wǎng)絡(luò)計(jì)算存儲(chǔ)應(yīng)用核心能力為一體的開放平臺(tái),就近提供最近端服務(wù)。公布十大技術(shù)趨勢,邊緣計(jì)算位列其中。邊緣計(jì)算可廣泛應(yīng)用于在智慧園區(qū)工業(yè)制造商超車聯(lián)網(wǎng)等領(lǐng)域。 邊緣計(jì)算,讓園區(qū)充滿智慧邊緣計(jì)算是指在靠近物或數(shù)據(jù)源頭的一側(cè),采用網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用核心能力為一體的開放平臺(tái),就近提供最近端服務(wù)。其應(yīng)用程序在邊緣側(cè)發(fā)起,產(chǎn)生更快...
閱讀 2431·2021-11-22 13:53
閱讀 1125·2021-09-22 16:06
閱讀 1369·2021-09-02 15:21
閱讀 1895·2019-08-30 15:55
閱讀 3116·2019-08-29 11:19
閱讀 1911·2019-08-26 13:23
閱讀 930·2019-08-23 18:23
閱讀 1746·2019-08-23 16:06