3分鐘搞懂AI芯片,人工智能零基礎入門!
人工智能的實現需要依賴三個要素:算法是核心,硬件和數據是基礎。
什么是CPU?
CPU主要包括運算器(ALU,Arithmetic and Logic Unit)和控制器(CU,Control Unit)兩大部件。CPU主要包含運算邏輯器件、寄存器部件以及控制部件等。CPU就像一個有條不紊的管家,我們吩咐的事情總是一步一步來做。但是隨著摩爾定律的推進以及人們對更大規模與更快處理速度的需求的增加,CPU好像執行起任務來就不那么令人滿意了。
什么是GPU?
GPU全稱為Graphics Processing Unit,中文為圖形處理器,就如它的名字一樣,GPU最初是用在個人電腦、工作站、游戲機和一些移動設備(如平板電腦、智能手機等)上運行繪圖運算工作的微處理器。因為對于處理圖像數據來說,圖像上的每一個像素點都有被處理的需要,這是一個相當大的數據,所以對于運算加速的需求圖像處理領域最為強烈,GPU也就應運而生。
這就好比在畫一幅畫的時候CPU是用一支筆一筆一筆的來畫,而GPU則是多支筆對不同的位置同時進行描繪,那自然效率就是突飛猛進的。
什么是TPU?
隨著機器學習算法越來越多的應用在各個領域并表現出優越的性能,例如街景、郵件智能回復、聲音搜索等,對于機器學習算法硬件上的支持也越來越成為一種需要。目前很多的機器學習以及圖像處理算法大部分都跑在GPU與FPGA上面。
TPU的靈感來源于Google開源深度學習框架TensorFlow,所以目前TPU還是只在Google內部使用的一種芯片。TPU也就是TensorProcessorUnit,Google為機器學習定制的專用芯片(ASIC),專為Google的深度學習框架TensorFlow而設計。TPU3.0采用8位低精度計算以節省晶體管,速度能加快最高100PFlops(每秒1000萬億次浮點計算)。
新發布的TPU3.0使用8位低精度計算以節省晶體管,對精度影響很小但可以大幅節約功耗、加快速度,同時還有脈動陣列設計,優化矩陣乘法與卷積運算,并使用更大的偏上內存,減少對系統內存的依賴。
同時,谷歌在Cloud Next 大會上發布了兩款新設備,其可以幫助專業工程師在處理器內核上構建支持設備端機器學習 (ML) 的新產品。這兩款新設備是:AIY Edge TPU Dev 開發板和 AIY Edge TPU 加速器,二者皆采用 Google 的 Edge TPU 芯片。
Edge TPU 是 Google 的特定用途 ASIC 芯片,專為在設備上運行 TensorFlow Lite ML 模型而設計。Edge TPU 的大小不及一美分硬幣,卻能在這兩個方面均有不俗表現。Edge TPU 可以加速設備上的 ML 推理,或與 Google Cloud 配對,創建完整的云到邊緣 ML 堆棧。
AIY Edge TPU Dev 開發板是一體化開發板,可以用來對要求快速 ML 推理的嵌入式系統進行原型設計。其基板可提供您對設備進行高效原型開發所需的全部外設連接,包括一個可與各種電氣元件集成的 40 引腳 GPIO 接頭。其另一特點在于,當您準備好擴展后,可以將其可移動模塊化系統 (SOM) 子板直接集成到您自己的硬件中。
當然,谷歌的TPU針對的是TenserFlow框架。而同樣開源的深度學習框架可不止谷歌一家提供。Facebook今年的F8開發者大會上,Facebook也宣布了即將到來的PyTorch 1.0beta版新框架。深度學習間的框架之爭顯然也會影響到谷歌TPU的發展。
你覺得谷歌TPU瞄準的是誰呢?是同樣致力于提供強大計算能力的云服務商微軟,還是致力于在谷歌之外構建起另一套開源框架、生態的Facebook呢?或者,是發了礦卡財又可能被美國限制非官方合作的英偉達?
什么是CPU?
CPU主要包括運算器(ALU,Arithmetic and Logic Unit)和控制器(CU,Control Unit)兩大部件。CPU主要包含運算邏輯器件、寄存器部件以及控制部件等。CPU就像一個有條不紊的管家,我們吩咐的事情總是一步一步來做。但是隨著摩爾定律的推進以及人們對更大規模與更快處理速度的需求的增加,CPU好像執行起任務來就不那么令人滿意了。
什么是GPU?
GPU全稱為Graphics Processing Unit,中文為圖形處理器,就如它的名字一樣,GPU最初是用在個人電腦、工作站、游戲機和一些移動設備(如平板電腦、智能手機等)上運行繪圖運算工作的微處理器。因為對于處理圖像數據來說,圖像上的每一個像素點都有被處理的需要,這是一個相當大的數據,所以對于運算加速的需求圖像處理領域最為強烈,GPU也就應運而生。
這就好比在畫一幅畫的時候CPU是用一支筆一筆一筆的來畫,而GPU則是多支筆對不同的位置同時進行描繪,那自然效率就是突飛猛進的。
什么是TPU?
隨著機器學習算法越來越多的應用在各個領域并表現出優越的性能,例如街景、郵件智能回復、聲音搜索等,對于機器學習算法硬件上的支持也越來越成為一種需要。目前很多的機器學習以及圖像處理算法大部分都跑在GPU與FPGA上面。
TPU的靈感來源于Google開源深度學習框架TensorFlow,所以目前TPU還是只在Google內部使用的一種芯片。TPU也就是TensorProcessorUnit,Google為機器學習定制的專用芯片(ASIC),專為Google的深度學習框架TensorFlow而設計。TPU3.0采用8位低精度計算以節省晶體管,速度能加快最高100PFlops(每秒1000萬億次浮點計算)。
新發布的TPU3.0使用8位低精度計算以節省晶體管,對精度影響很小但可以大幅節約功耗、加快速度,同時還有脈動陣列設計,優化矩陣乘法與卷積運算,并使用更大的偏上內存,減少對系統內存的依賴。
同時,谷歌在Cloud Next 大會上發布了兩款新設備,其可以幫助專業工程師在處理器內核上構建支持設備端機器學習 (ML) 的新產品。這兩款新設備是:AIY Edge TPU Dev 開發板和 AIY Edge TPU 加速器,二者皆采用 Google 的 Edge TPU 芯片。
Edge TPU 是 Google 的特定用途 ASIC 芯片,專為在設備上運行 TensorFlow Lite ML 模型而設計。Edge TPU 的大小不及一美分硬幣,卻能在這兩個方面均有不俗表現。Edge TPU 可以加速設備上的 ML 推理,或與 Google Cloud 配對,創建完整的云到邊緣 ML 堆棧。
AIY Edge TPU Dev 開發板是一體化開發板,可以用來對要求快速 ML 推理的嵌入式系統進行原型設計。其基板可提供您對設備進行高效原型開發所需的全部外設連接,包括一個可與各種電氣元件集成的 40 引腳 GPIO 接頭。其另一特點在于,當您準備好擴展后,可以將其可移動模塊化系統 (SOM) 子板直接集成到您自己的硬件中。
當然,谷歌的TPU針對的是TenserFlow框架。而同樣開源的深度學習框架可不止谷歌一家提供。Facebook今年的F8開發者大會上,Facebook也宣布了即將到來的PyTorch 1.0beta版新框架。深度學習間的框架之爭顯然也會影響到谷歌TPU的發展。
你覺得谷歌TPU瞄準的是誰呢?是同樣致力于提供強大計算能力的云服務商微軟,還是致力于在谷歌之外構建起另一套開源框架、生態的Facebook呢?或者,是發了礦卡財又可能被美國限制非官方合作的英偉達?