在互聯(lián)網(wǎng)時(shí)代，伴隨著5G技術(shù)發(fā)展的越來(lái)越成熟，邊緣計(jì)算作為5G的核心，各個(gè)垂直行業(yè)都在考慮對(duì)垂直行業(yè)的邊緣計(jì)算資源進(jìn)行投資。與此同時(shí)，人工智能、邊緣計(jì)算與物聯(lián)網(wǎng)的融合越來(lái)越受到重視，邊緣計(jì)算正迅速成為生成數(shù)據(jù)的設(shè)備和處理數(shù)據(jù)的公共云之間的渠道。

在機(jī)器學(xué)習(xí)和人工智能的背景下，公共云用于訓(xùn)練模型，邊緣用于推理。谷歌TPU和“珊瑚邊緣平臺(tái)”打開(kāi)了谷歌邊緣AI賦能的典型案例。

為了加速M(fèi)achine Learning訓(xùn)練，包括AWS、Azure、谷歌云平臺(tái)（GCP）等公有云服務(wù)提供商都會(huì)提供一個(gè)由GPU支持的虛擬機(jī)。目前，Nvidia的GPU是ML研究人員和數(shù)據(jù)科學(xué)家云中訓(xùn)練的首選加速器。

 
谷歌許多產(chǎn)品和服務(wù)的核心都會(huì)基于其機(jī)器學(xué)習(xí)的能力。為此，谷歌構(gòu)建了一個(gè)稱為Tensor Processing Unit（TPU）的定制ASIC（專用集成電路）。與GPU不同，TPU主要針對(duì)神經(jīng)網(wǎng)絡(luò)所需的大規(guī)模并行計(jì)算進(jìn)行了高度優(yōu)化。 谷歌一直在將TPU用于各種應(yīng)用，例如搜索，照片和翻譯。 TPU的整體設(shè)計(jì)都是基于ML進(jìn)行設(shè)計(jì)，具有谷歌在機(jī)器學(xué)習(xí)方面的豐富經(jīng)驗(yàn)和領(lǐng)導(dǎo)力?，F(xiàn)在谷歌的TPU3.0芯片具有8倍性能、快速迭代的特點(diǎn)，各方面都比以往的TPU2.0更上一層樓。

與此同時(shí)，在云計(jì)算方面，谷歌也一直在向GCP客戶展示一些內(nèi)部工具和平臺(tái)。那么自然而然的，基于云的TPU能力成為GCP用戶可以使用的服務(wù)之一?？蛻敉ㄟ^(guò)TensorFlow便能在谷歌的TPU加速器硬件上運(yùn)行機(jī)器學(xué)習(xí)工作負(fù)載。 云TPU旨在實(shí)現(xiàn)最高性能和靈活性，以幫助研究人員，開(kāi)發(fā)人員和企業(yè)構(gòu)建TensorFlow計(jì)算群集。高級(jí)Tensorflow API可幫助開(kāi)發(fā)人員在云TPU硬件上運(yùn)行模型。云TPU能夠以合理的價(jià)格提供TensorFlow模型建立最佳的性能培訓(xùn)。目前綜合來(lái)看，云TPU的確是公有云產(chǎn)品中成本最低的ML加速器。

而更讓人振奮的是，近期，谷歌宣布推出Edge TPU，這是一款專為單板計(jì)算機(jī)和片上系統(tǒng)設(shè)備設(shè)計(jì)的微型云TPU。盡管Edge TPU可用于訓(xùn)練ML模型，但事實(shí)上，邊緣的價(jià)值是專為推理而設(shè)計(jì)的。

Google建議使用其云服務(wù)來(lái)訓(xùn)練TensorFlow模型并將其轉(zhuǎn)換為在Edge TPU上運(yùn)行。 TensorFlow Lite作為TensorFlow的一種形態(tài)，適用于移動(dòng)設(shè)備和低功耗環(huán)境?，F(xiàn)有TensorFlow模型可以轉(zhuǎn)換為在iOS和Android上運(yùn)行的TensorFlow Lite格式。針對(duì)邊緣TPU進(jìn)一步優(yōu)化TensorFlow Lite模型。Edge TPU模塊體積小，非常適合用于無(wú)人機(jī)，相機(jī)和掃描儀等設(shè)備中。

為了使開(kāi)發(fā)人員能夠輕松地編程和調(diào)試用于推理的模型，谷歌已經(jīng)構(gòu)建了一個(gè)名為“珊瑚”的平臺(tái)。它結(jié)合了硬件和軟件，使開(kāi)發(fā)人員能夠快速構(gòu)建AI解決方案原型。

目前，有兩種“珊瑚”方案可供開(kāi)發(fā)人員在邊緣編程AI，它們是 Coral Dev Board和USB Accelerator。Coral Dev Board是一款單板計(jì)算機(jī)，帶有可移動(dòng)的模塊化系統(tǒng)（SOM），采用Edge TPU，而且是一款獨(dú)立設(shè)備，擁有獨(dú)立的相機(jī)模塊，用于實(shí)時(shí)顯示圖像和視頻。 它還有一組與Raspberry Pi標(biāo)頭兼容的GPIO。 針對(duì)Edge TPU優(yōu)化的TensorFlow Lite模型可以在設(shè)備上本機(jī)運(yùn)行。 Coral Dev Board的關(guān)鍵用例是使用TensorFlow模型解決計(jì)算機(jī)視覺(jué)問(wèn)題的邊緣解決方案。

谷歌還有另一款配備Edge TPU的設(shè)備，稱為USB Accelerator。 類似于USB記憶棒，該設(shè)備可以插入任何Debian主機(jī)的USB端口，包括Raspberry Pi。 它配有USB-C連接器，可提供更高的吞吐量和功率。 主機(jī)只需要運(yùn)行Coral SDK就可以將TF Lite模型轉(zhuǎn)移到Edge TPU。 開(kāi)發(fā)人員可以使用USB加速器在任何現(xiàn)有Linux主機(jī)上對(duì)AI解決方案進(jìn)行原型設(shè)計(jì)。

在未來(lái)，AI+EC+IOT逐漸成為一種趨勢(shì)，是需要運(yùn)用到更多的應(yīng)用場(chǎng)景中，比如車聯(lián)網(wǎng)、智慧城市、智能家居等，這樣也會(huì)使我們的生活更加便利。