邊緣計算與本地AI，Google Coral硬件的智能解決方案
邊緣計算與本地AI，比起英特爾，Google Coral硬件太低調了
AI使機器能夠執行過去僅屬于人類領域的各種任務。例如：是否需要在工廠生產線上進行質量控制？設置AI驅動的攝像頭以發現產品缺陷。如何分析醫療數據？機器學習可以從掃描中識別出潛在的腫瘤并將其標記給醫生。
但是，只有這樣的應用程序既快速又安全，它們才有用。在工廠中使用AI攝像頭花費幾分鐘來處理圖像的設備并不多，而且如果將其發送到云端進行分析，沒有患者愿意冒著暴露其醫療數據的風險。
這些是Google嘗試通過一項名為Coral的計劃來解決的問題。
image1
“傳統上，AI設備的數據被發送到大型計算實例，這些實例位于集中的數據中心，機器學習模型可以快速運行，” Coral產品經理Vikram Tank通過電子郵件向The Verge解釋。 “ Coral是Google的硬件和軟件組件平臺，可幫助你使用本地AI構建設備-在邊緣設備上為神經網絡提供硬件加速。”
你可能以前從未聽說過Coral（去年10月才從Beta版“畢業”），但它是快速發展的AI領域的一部分。市場分析師預測，到2020年，將售出7.5億多塊邊緣AI芯片和計算機，到2024年將增長到15億塊。盡管其中大多數將安裝在諸如電話之類的消費類設備中，但很大一部分是面向行業中的企業客戶的：如汽車和醫療保健。
為了滿足客戶的需求，Coral提供了兩種主要類型的產品：用于制作新創意原型的加速器和開發板，以及旨在為智能相機和傳感器等生產設備的AI大腦提供動力的模塊。這兩種設備，硬件的核心都是Google的Edge TPU，這是一種經過優化以運行輕量級機器學習算法的ASIC芯片-與Google的云服務器中使用的水冷TPU相似。
Tank說，雖然單個的工程師可以使用其硬件來創建有趣的項目（例如，Coral提供了有關如何構建AI棉花糖分揀機和智能鳥喂食器的指南），但長期的重點是企業客戶汽車界和醫療保健等行業。
作為Coral定位的解決方案的一個示例，Tank提供了一種自動駕駛汽車的場景，該場景使用機器視覺來識別街道上的物體。
他說：“以65英里/小時的速度行駛的汽車將在100毫秒內橫穿近10英尺，因此，例如由緩慢的移動連接引起的任何“處理延遲”都會“增加關鍵用例的風險。”Coral可以在設備上進行分析，而不必等待緩慢的連接來確定是停車牌還是前面的路燈亮起來。這要安全得多。
Tank說，在改善隱私方面也存在類似的好處。他說：“考慮要使用圖像識別對超聲圖像進行實時分析的醫療設備制造商。”將這些圖像發送到云端會為黑客定位提供潛在的薄弱環節，但是對設備上的圖像進行分析可以使患者和醫生“確信設備上處理的數據不會超出他們的控制范圍。”
Google的Edge TPU，一種針對AI優化的微型處理芯片，是大多數Coral產品的核心。
Tank表示，盡管Coral的目標市場是企業界，但該項目實際上源于Google的“ AIY”DIY機器學習套件。 AIY套件于2017年推出，由Raspberry Pi計算機提供支持，可讓任何人構建自己的智能揚聲器和智能相機，并且在STEM玩具和制造商市場取得了巨大成功。
Tank表示，AIY團隊很快注意到，雖然有些客戶只是想按照說明進行操作并制造玩具，但其他客戶卻想通過硬件以制作自己的設備原型。創建Coral就是為了迎合這些客戶。
Google的問題在于，有數十家公司的業務與Coral相似。這些公司的業務范圍從諸如西雅圖的Xnor這樣的初創公司開始，這些公司使AI攝像頭的效率足以依靠太陽能來運行，再到像英特爾這樣的強大公司，英特爾在2017年推出了首批企業USB加速器之一，并于去年12月以20億美元的價格收購了該公司。芯片制造商Habana Labs改善其邊緣AI產品（以及其他功能）。
鑒于競爭對手眾多，Coral團隊表示，通過將其硬件與Google的AI服務生態系統緊密集成，可以與眾不同。
包括芯片，云訓練，開發工具等在內的這一系列產品，長期以來一直是Google人工智能系列的主要力量。就Coral而言，這里有一個專門為其硬件編譯的AI模型庫，以及Google Cloud上的AI服務，這些服務直接與各個Coral模塊（例如其環境傳感器）集成。
實際上，Coral與Google的AI生態系統緊密集成，以Edge TPU為動力的硬件只能與Google的機器學習框架TensorFlow配合使用，Verge談及AI邊緣市場的競爭對手，這可能是一個限制因素。
“邊緣產品專門針對其平臺進行處理，而我們的產品則支持市場上所有主要的AI框架和模型，” AI邊緣公司Kneron的發言人告訴The Verge。 （Kneron說，它的評估沒有“否定性”，并且Google進入市場是受歡迎的，因為它“驗證并推動了該領域的創新”。）
對于Google而言，Coral的吸引力可能不一定是收入，而只是了解有關AI在重要領域如何應用的更多信息。在當今的實用機器學習世界中，所有道路無可避免地涌向了邊緣人工智能。
所有全新硬件已經在Google Coral代理商Gravitylink在線商城上架售賣。如果您對Google Coral Edge TPU系列硬件產品感興趣，歡迎訪問 https://store.gravitylink.com/global 進行訂購。目前Gravitylink商城正在進行優惠活動，購買任意產品可免費贈送超過50個AI models和transfer learning（遷移學習）工具。企業用戶也可通過郵件([email protected] / [email protected])咨詢獲取批量訂購優惠價格。
AI使機器能夠執行過去僅屬于人類領域的各種任務。例如：是否需要在工廠生產線上進行質量控制？設置AI驅動的攝像頭以發現產品缺陷。如何分析醫療數據？機器學習可以從掃描中識別出潛在的腫瘤并將其標記給醫生。
但是，只有這樣的應用程序既快速又安全，它們才有用。在工廠中使用AI攝像頭花費幾分鐘來處理圖像的設備并不多，而且如果將其發送到云端進行分析，沒有患者愿意冒著暴露其醫療數據的風險。
這些是Google嘗試通過一項名為Coral的計劃來解決的問題。
image1
“傳統上，AI設備的數據被發送到大型計算實例，這些實例位于集中的數據中心，機器學習模型可以快速運行，” Coral產品經理Vikram Tank通過電子郵件向The Verge解釋。 “ Coral是Google的硬件和軟件組件平臺，可幫助你使用本地AI構建設備-在邊緣設備上為神經網絡提供硬件加速。”
你可能以前從未聽說過Coral（去年10月才從Beta版“畢業”），但它是快速發展的AI領域的一部分。市場分析師預測，到2020年，將售出7.5億多塊邊緣AI芯片和計算機，到2024年將增長到15億塊。盡管其中大多數將安裝在諸如電話之類的消費類設備中，但很大一部分是面向行業中的企業客戶的：如汽車和醫療保健。
為了滿足客戶的需求，Coral提供了兩種主要類型的產品：用于制作新創意原型的加速器和開發板，以及旨在為智能相機和傳感器等生產設備的AI大腦提供動力的模塊。這兩種設備，硬件的核心都是Google的Edge TPU，這是一種經過優化以運行輕量級機器學習算法的ASIC芯片-與Google的云服務器中使用的水冷TPU相似。
Tank說，雖然單個的工程師可以使用其硬件來創建有趣的項目（例如，Coral提供了有關如何構建AI棉花糖分揀機和智能鳥喂食器的指南），但長期的重點是企業客戶汽車界和醫療保健等行業。
作為Coral定位的解決方案的一個示例，Tank提供了一種自動駕駛汽車的場景，該場景使用機器視覺來識別街道上的物體。
他說：“以65英里/小時的速度行駛的汽車將在100毫秒內橫穿近10英尺，因此，例如由緩慢的移動連接引起的任何“處理延遲”都會“增加關鍵用例的風險。”Coral可以在設備上進行分析，而不必等待緩慢的連接來確定是停車牌還是前面的路燈亮起來。這要安全得多。
Tank說，在改善隱私方面也存在類似的好處。他說：“考慮要使用圖像識別對超聲圖像進行實時分析的醫療設備制造商。”將這些圖像發送到云端會為黑客定位提供潛在的薄弱環節，但是對設備上的圖像進行分析可以使患者和醫生“確信設備上處理的數據不會超出他們的控制范圍。”
Google的Edge TPU，一種針對AI優化的微型處理芯片，是大多數Coral產品的核心。
Tank表示，盡管Coral的目標市場是企業界，但該項目實際上源于Google的“ AIY”DIY機器學習套件。 AIY套件于2017年推出，由Raspberry Pi計算機提供支持，可讓任何人構建自己的智能揚聲器和智能相機，并且在STEM玩具和制造商市場取得了巨大成功。
Tank表示，AIY團隊很快注意到，雖然有些客戶只是想按照說明進行操作并制造玩具，但其他客戶卻想通過硬件以制作自己的設備原型。創建Coral就是為了迎合這些客戶。
Google的問題在于，有數十家公司的業務與Coral相似。這些公司的業務范圍從諸如西雅圖的Xnor這樣的初創公司開始，這些公司使AI攝像頭的效率足以依靠太陽能來運行，再到像英特爾這樣的強大公司，英特爾在2017年推出了首批企業USB加速器之一，并于去年12月以20億美元的價格收購了該公司。芯片制造商Habana Labs改善其邊緣AI產品（以及其他功能）。
鑒于競爭對手眾多，Coral團隊表示，通過將其硬件與Google的AI服務生態系統緊密集成，可以與眾不同。
包括芯片，云訓練，開發工具等在內的這一系列產品，長期以來一直是Google人工智能系列的主要力量。就Coral而言，這里有一個專門為其硬件編譯的AI模型庫，以及Google Cloud上的AI服務，這些服務直接與各個Coral模塊（例如其環境傳感器）集成。
實際上，Coral與Google的AI生態系統緊密集成，以Edge TPU為動力的硬件只能與Google的機器學習框架TensorFlow配合使用，Verge談及AI邊緣市場的競爭對手，這可能是一個限制因素。
“邊緣產品專門針對其平臺進行處理，而我們的產品則支持市場上所有主要的AI框架和模型，” AI邊緣公司Kneron的發言人告訴The Verge。 （Kneron說，它的評估沒有“否定性”，并且Google進入市場是受歡迎的，因為它“驗證并推動了該領域的創新”。）
對于Google而言，Coral的吸引力可能不一定是收入，而只是了解有關AI在重要領域如何應用的更多信息。在當今的實用機器學習世界中，所有道路無可避免地涌向了邊緣人工智能。
所有全新硬件已經在Google Coral代理商Gravitylink在線商城上架售賣。如果您對Google Coral Edge TPU系列硬件產品感興趣，歡迎訪問 https://store.gravitylink.com/global 進行訂購。目前Gravitylink商城正在進行優惠活動，購買任意產品可免費贈送超過50個AI models和transfer learning（遷移學習）工具。企業用戶也可通過郵件([email protected] / [email protected])咨詢獲取批量訂購優惠價格。