加速運算入門

概述

隨著我們所生活的世界愈趨智慧化，所需的資料處理量也呈指數成長。僅依賴中央處理器 (CPU) 已不再足夠；可能需要加速才能滿足特定應用的需求。

從資料中心到邊緣運算，以及兩者之間的網路，各種應用程式的加速運算都變得越來越普遍。越來越多的應用程式供應商和開發人員將加速運算視為克服其應用程式極限的解決方案。

什麼是加速運算？

加速運算是一種現代的運算方式，也就是將應用程式的資料密集部分獨立出來，並在個別的加速裝置上進行處理，同時讓控制功能保留在 CPU 上處理。如此一來，運算密集型的應用程式就能夠以更快、更有效率的方式執行，因為底層的處理器硬體對於所需的處理類型來說更有效率。擁有不同類型的硬體處理器（包括加速器），這樣的運算機制因為有多種運算資源可供應用程式使用，所以被稱為異構運算。 

一般而言，硬體加速器具有平行處理結構，可讓它們同時執行多項任務，而非以線性或序列方式執行。因此，當 CPU 仍舊繼續執行無法平行執行的控制層程式碼時，它們就能最佳化應用程式中繁重的資料層處理工作。如此便能實現高效率的高效能運算。 

您為什麼需要加速運算？

您需要加速運算，因為現今應用程式需要的速度與效率比傳統 CPU 本身所能提供的還高。考量到人工智慧 (AI) 的作用日益增強時，這點尤其明顯。所有產業的企業為了維持競爭力，都將越來越依賴加速運算。

加速運算用在哪裡？

現今有許多應用和產業都使用加速運算，尤其是在 5G 布署而我們變得更加倚賴物聯網 (IoT) 後。金融交易公司利用此工具加快交易速度，並將延遲時間降到最低。汽車產業將其用於車內監測和先進的駕駛輔助系統。企業組織會用它來解讀資料。電玩遊戲開發人員仰賴它來建立高品質的模擬與圖形。 

由於各種產業都依賴加速運算，為了維持競爭力，現今的應用程式要能夠因應日益增加的資料處理需求。

加速運算有哪些解決方案？

加速運算有各種不同類型的解決方案，每種解決方案都有各自的優缺點。您要選擇的解決方案將取決於應用程式的需求。

圖形處理單元 (GPU)

GPU 是專門的晶片，可加速 CPU 執行效率較低的特定資料處理任務。GPU 與 CPU 配合運作，協助它卸下應用程式中大部分的原始資料處理工作負載。受益於其平行處理架構，GPU 可以同時處理大量資料。 

顧名思義，GPU 是專為加速圖形渲染所設計。現在，GPU 比以往都更加可程式化、更加靈活，而且不同產業的開發人員將它們用於 AI 和創意製作。您也可以在超級電腦和工作站中同時使用好幾個 GPU，來加快視訊處理、3D 渲染、模擬以及機器學習模型的訓練速度。 

Tensor 處理單元 (TPU)

TPU 是一種特殊電路，專門用來實作執行機器學習演算法所必要的控制及算術邏輯。其算術邏輯單元（執行算術與邏輯運算的數位電路）直接彼此相連。如此即可直接傳輸資料，不需要使用任何記憶體。TPU 已針對加速 ML 程式碼進行最佳化，並專為加速 TensorFlow、Google 的開放原始碼 ML 和 AI 軟體程式庫而設計。 

自適應運算

 自適應運算是以現有的技術類型為基礎：現場可程式化閘陣列 (Field Programmable Gate Array, FPGA)。構成 FPGA 的裝置，可在製造後加以調整設定，「現場可程式化」之名便是由此而來。

自適應運算是唯一硬體在製造過程中不會永久定型的加速運算類型。相反地，自適應運算所用到的硬體，可以針對特定應用或特定加速功能進行客製化。透過客製化架構以滿足特定需求，自適應運算解決方案可為各種應用程式提供優異的效率。