Google发布Edge TPU加速器，秋季上线！
谷歌最近宣布已將其用于神經網絡的開源TensorFlow機器智能（ML）庫移植到Raspberry Pi，這是谷歌及其首席人工智能競爭對手Nvidia的一系列國際象棋移動中的最新一項，以贏得嵌入式Linux的核心和鍵盤開發人員。此次競賽是與亞馬遜，微軟，英特爾和其他公司展開更廣泛戰斗的一部分，旨在將云分析帶入物聯網網絡的邊緣，以減少延遲，提高可靠性并提高安全性。
由于與Raspberry Pi Foundation的合作，最新的TensorFlow 1.9版本現在可以使用Python的pip包系統從預構建的二進制文件安裝在Raspberry Pi 2或3 SBC上。 Raspbian 9用戶可以使用兩個簡單的命令安裝它。
將TensorFlow模型集成到嵌入式項目中提出了進一步的挑戰。然而，正如谷歌已經展示了用于Raspberry Pi的AIY Projects套件，你可以在基于Raspberry Pi的機器人，視覺系統和其他嵌入式設備中添加一些ML智能，而沒有巨大的學習曲線。
在Raspberry Pi教育社區中，TensorFlow端口應該特別受歡迎。正如RPi基金會的Eben Upton在關于“大量新聞”的祝賀推文中寫道，TensorFlow端口將實現“酷機器學習教育內容”。
TensorFlow本質上是在Linux上運行，但在服務器或臺式機上運行，而不是像Raspberry Pi那樣適度的SBC。它現在可以在所有主要的服務器和桌面平臺上運行，并已移植到Android和iOS。然而，Raspberry Pi是一個特別嚴峻的挑戰，谷歌TensorFlow開發商Pete Warden在公告中寫道。在Raspberry Pi 2和3配備更快的四核處理器之前，它甚至無法實現。
一年前，Warden和他的團隊設法在RPi 3上交叉編譯TensorFlow，但這是一個緩慢，復雜，容易崩潰的過程。從預先構建的二進制文件安裝的新功能現在使更多的開發人員可以加入該聚會。
雖然谷歌的AIY項目試圖將基于云的平臺壓縮到一個簡單的黑客板上，但其團隊開始使用低成本紙板構建的套件，其附加板用于連接與谷歌云相關的嵌入式技術。其中包括用于Raspberry Pi Zero W和WH的AIY Vision Kit，它可以執行基于TensorFlow的視覺識別。它包含一個“VisionBonnet”板和一個Intel Myriad 2神經網絡加速器芯片。 AIY Projects還推出了具有相同RPi Zero WH目標的AIY Voice Kit，可讓您通過Google智能助理支持構建語音控制揚聲器。
正如這篇關于Alasdair Allan港口的Hackster.io帖子所述，AIY Vision Kit在本地運營時難以表現良好。 Voice Kit因其更加依賴Google Cloud而做得更好。
Google的Edge TPU加速器
根據Warden發布的推文，TensorFlow目前還沒有利用Broadcom VideoCore圖形處理器的潛在ML功能，因為Nvidia使用更強大的Pascal GPU。他接著建議，可能有可能為單核Raspberry Pi Zero電路板開發一個特殊的GPU相關端口，但目前Pi的四個CPU內核上有足夠的電量。談到GPU的潛在鉤子，他寫道：“在最新的Pi上使用四核CPU和Neon，雖然在Pi Zeroes上仍然很有趣，但沒有那么大的優勢。”
另一種解釋是谷歌正在跳過GPU，因為它希望Raspberry Pi用戶和其他嵌入式開發商能夠利用其最近宣布的，適用于TensorFlow的Linux友好型Edge TPU ML加速器芯片。今年秋季將推出Edge TPU以及基于恩智浦i.MX8M的Linux開發套件和Edge TPU加速器USB加密狗，它可以適用于包括Pi在內的任何Linux計算機。
Edge TPU是其企業級云量程處理單元（Cloud TPU）AI協處理器的輕量級嵌入式版本。與新的Cloud IoT Edge堆棧相結合，該芯片設計用于在基于ARM Linux或Android Things的物聯網網關上運行TensorFlow Lite ML模型，這些網關連接到Google Cloud服務。
Nvidia推出工業TX2i和八核Xavier Jetson模塊
Nvidia在嘗試將其Pascal / CUDA相關的AI技術引入嵌入式Linux開發人員方面走得更遠。其Jetson TX1和TX2計算機模塊已經在ML應用程序的嵌入式Linux項目中得到廣泛采用。 Jetson TX2最近出現在設備中，包括Axiomtek的eBOX560-900-FL盒式計算機，以及即將推出的支持FPGA的AIR-T Mini-ITX板，用于支持AI的SDR應用。
最近幾個月，Nvidia開始在TX2上推出針對工業應用的Jetson TX2i旋轉產品。 TX2i增加了-40至85°C的支持，抗振性和更寬的濕度范圍。還支持ECC RAM，10年的運行供應生命周期和3年保修。
與Jetson TX2一樣，TX2i提供雙端高端Denver 2 Arm內核，四核Cortex-A57模塊以及帶有CUDA庫的256核Pascal GPU，用于運行AI和ML算法。與TX2一樣，該模塊還提供8GB的LPDDR4 RAM，32GB的eMMC 5.1，以及802.11ac WiFi和藍牙。
現有的Jetson載板與TX2i配合使用。 Aetina剛剛宣布推出適用于所有Jetson模塊的ACE-N310運營商，該模塊與TX2i的工業溫度支持相匹配，并支持六個同步高清攝像機。
Jetson TX2最近加入了更強大的新Jetson Xavier模塊。 Xavier核心已經在Nvidia的Drive PX Pegasus自動駕駛汽車電腦板上使用，具有8個ARMv8.2核心和帶有張量核心的高端512核Nvidia Volta GPU。它還提供2x NVDLA深度學習引擎和7路VLIW視覺芯片。 Xavier附帶16GB 256位LPDDR4和32GB eMMC 5.1。
谷歌和Nvidia并不是唯一一個將云AI分析帶到邊緣的運動。例如，英特爾的Movidius 2神經網絡加速器芯片正在廣泛采用。然而，據推測，任何未來的AIY Projects套件都將用Edge TPU取代Movidius 2。
盡管亞馬遜尚未發布自己的神經加速器，但由于其AWS IoT堆棧及其AWS Greengrass軟件在Linux上本地處理云分析軟件的普及，它可能仍然是物聯網邊緣分析的更大競爭中的領導者設備。與此同時，微軟也將其基于Arm Linux的Azure Sphere發行版和物聯網框架作為物聯網領域的目標。 Azure Sphere最初將針對在Cortex-A7芯片上運行的低功耗應用程序。然而，未來的版本可能更強大，可能包括本土的AI組件。
由于與Raspberry Pi Foundation的合作，最新的TensorFlow 1.9版本現在可以使用Python的pip包系統從預構建的二進制文件安裝在Raspberry Pi 2或3 SBC上。 Raspbian 9用戶可以使用兩個簡單的命令安裝它。
將TensorFlow模型集成到嵌入式項目中提出了進一步的挑戰。然而，正如谷歌已經展示了用于Raspberry Pi的AIY Projects套件，你可以在基于Raspberry Pi的機器人，視覺系統和其他嵌入式設備中添加一些ML智能，而沒有巨大的學習曲線。
在Raspberry Pi教育社區中，TensorFlow端口應該特別受歡迎。正如RPi基金會的Eben Upton在關于“大量新聞”的祝賀推文中寫道，TensorFlow端口將實現“酷機器學習教育內容”。
TensorFlow本質上是在Linux上運行，但在服務器或臺式機上運行，而不是像Raspberry Pi那樣適度的SBC。它現在可以在所有主要的服務器和桌面平臺上運行，并已移植到Android和iOS。然而，Raspberry Pi是一個特別嚴峻的挑戰，谷歌TensorFlow開發商Pete Warden在公告中寫道。在Raspberry Pi 2和3配備更快的四核處理器之前，它甚至無法實現。
一年前，Warden和他的團隊設法在RPi 3上交叉編譯TensorFlow，但這是一個緩慢，復雜，容易崩潰的過程。從預先構建的二進制文件安裝的新功能現在使更多的開發人員可以加入該聚會。
雖然谷歌的AIY項目試圖將基于云的平臺壓縮到一個簡單的黑客板上，但其團隊開始使用低成本紙板構建的套件，其附加板用于連接與谷歌云相關的嵌入式技術。其中包括用于Raspberry Pi Zero W和WH的AIY Vision Kit，它可以執行基于TensorFlow的視覺識別。它包含一個“VisionBonnet”板和一個Intel Myriad 2神經網絡加速器芯片。 AIY Projects還推出了具有相同RPi Zero WH目標的AIY Voice Kit，可讓您通過Google智能助理支持構建語音控制揚聲器。
正如這篇關于Alasdair Allan港口的Hackster.io帖子所述，AIY Vision Kit在本地運營時難以表現良好。 Voice Kit因其更加依賴Google Cloud而做得更好。
Google的Edge TPU加速器
根據Warden發布的推文，TensorFlow目前還沒有利用Broadcom VideoCore圖形處理器的潛在ML功能，因為Nvidia使用更強大的Pascal GPU。他接著建議，可能有可能為單核Raspberry Pi Zero電路板開發一個特殊的GPU相關端口，但目前Pi的四個CPU內核上有足夠的電量。談到GPU的潛在鉤子，他寫道：“在最新的Pi上使用四核CPU和Neon，雖然在Pi Zeroes上仍然很有趣，但沒有那么大的優勢。”
另一種解釋是谷歌正在跳過GPU，因為它希望Raspberry Pi用戶和其他嵌入式開發商能夠利用其最近宣布的，適用于TensorFlow的Linux友好型Edge TPU ML加速器芯片。今年秋季將推出Edge TPU以及基于恩智浦i.MX8M的Linux開發套件和Edge TPU加速器USB加密狗，它可以適用于包括Pi在內的任何Linux計算機。
Edge TPU是其企業級云量程處理單元（Cloud TPU）AI協處理器的輕量級嵌入式版本。與新的Cloud IoT Edge堆棧相結合，該芯片設計用于在基于ARM Linux或Android Things的物聯網網關上運行TensorFlow Lite ML模型，這些網關連接到Google Cloud服務。
Nvidia推出工業TX2i和八核Xavier Jetson模塊
Nvidia在嘗試將其Pascal / CUDA相關的AI技術引入嵌入式Linux開發人員方面走得更遠。其Jetson TX1和TX2計算機模塊已經在ML應用程序的嵌入式Linux項目中得到廣泛采用。 Jetson TX2最近出現在設備中，包括Axiomtek的eBOX560-900-FL盒式計算機，以及即將推出的支持FPGA的AIR-T Mini-ITX板，用于支持AI的SDR應用。
最近幾個月，Nvidia開始在TX2上推出針對工業應用的Jetson TX2i旋轉產品。 TX2i增加了-40至85°C的支持，抗振性和更寬的濕度范圍。還支持ECC RAM，10年的運行供應生命周期和3年保修。
與Jetson TX2一樣，TX2i提供雙端高端Denver 2 Arm內核，四核Cortex-A57模塊以及帶有CUDA庫的256核Pascal GPU，用于運行AI和ML算法。與TX2一樣，該模塊還提供8GB的LPDDR4 RAM，32GB的eMMC 5.1，以及802.11ac WiFi和藍牙。
現有的Jetson載板與TX2i配合使用。 Aetina剛剛宣布推出適用于所有Jetson模塊的ACE-N310運營商，該模塊與TX2i的工業溫度支持相匹配，并支持六個同步高清攝像機。
Jetson TX2最近加入了更強大的新Jetson Xavier模塊。 Xavier核心已經在Nvidia的Drive PX Pegasus自動駕駛汽車電腦板上使用，具有8個ARMv8.2核心和帶有張量核心的高端512核Nvidia Volta GPU。它還提供2x NVDLA深度學習引擎和7路VLIW視覺芯片。 Xavier附帶16GB 256位LPDDR4和32GB eMMC 5.1。
谷歌和Nvidia并不是唯一一個將云AI分析帶到邊緣的運動。例如，英特爾的Movidius 2神經網絡加速器芯片正在廣泛采用。然而，據推測，任何未來的AIY Projects套件都將用Edge TPU取代Movidius 2。
盡管亞馬遜尚未發布自己的神經加速器，但由于其AWS IoT堆棧及其AWS Greengrass軟件在Linux上本地處理云分析軟件的普及，它可能仍然是物聯網邊緣分析的更大競爭中的領導者設備。與此同時，微軟也將其基于Arm Linux的Azure Sphere發行版和物聯網框架作為物聯網領域的目標。 Azure Sphere最初將針對在Cortex-A7芯片上運行的低功耗應用程序。然而，未來的版本可能更強大，可能包括本土的AI組件。