設為首頁 | 加入收藏
網站首頁 新聞資訊 產品中心 業務領域 解決方案 成功案例 支持與服務 招賢納士 關于晟啟
公司資訊 行業動態
解惑: GPU產品的關鍵參數和應用場景
2019-04-28 10:00:15

理解 GPU 和 CPU 之間區別的一種簡單方式是比較它們如何處理任務。CPU 由專為順序串行處理而優化的幾個核心組成,而 GPU 則擁有一個由數以千計的更小、更高效的核心(專為同時處理多重任務而設計)組成的大規模并行計算架構。


CPU是一個有多種功能的優秀領導者。它的優點在于調度、管理、協調能力強,計算能力則位于其次。而GPU相當于一個接受CPU調度的“擁有大量計算能力”的員工。

 

 


GPU可以利用多個CUDA核心來做并行計算,而CPU只能按照順序進行串行計算,同樣運行3000次的簡單運算,CPU需要3000個時鐘周期,而配有3000個CUDA核心的GPU運行只需要1個時鐘周期。


簡而言之,CPU擅長統領全局等復雜操作,GPU擅長對大數據進行簡單重復操作。CPU是從事復雜腦力勞動的教援,而GPU是進行大量并行計算的體力勞動者。那么,GPU的重要參數有哪些呢?


評估一個顯卡的性能不能單純看某一個指標的性能,而是結合顯卡的個指標及客戶業務需求的綜合性能。

 

GPU是協處理器,與CPU端存儲是分離的,故GPU運算時必須先將CPU端的代碼和數據傳輸到GPU,GPU才能執行kernel函數。涉及CPU與GPU通信,其中通信接口PCIe的版本和性能會直接影響通信帶寬。

 

GPU的另一個重要參數是浮點計算能力。浮點計數是利用浮動小數點的方式使用不同長度的二進制來表示一個數字,與之對應的是定點數。同樣的長度下浮點數能表達的數字范圍相比定點數更大,但浮點數并不能精確表達所有實數,而只能采用更加接近的不同精度來表達。


FP32單精度計算


單精度的浮點數中采用4個字節也就是32位二進制來表達一個數字,1位符號,8位指數,23位小數,有效位數為7位。


 


FP64雙精度計算


雙精度浮點數采用8個字節也就是64位二進制來表達一個數字,1位符號,11位指數,52位小數,有效位數為16位。


 


FP16半精度計算


半精度浮點數采用2個字節也就是16位二進制來表達一個數字, 1位符號、5位指數、10位小數,有效位數為3位。


 

 

 因為采用不同位數的浮點數的表達精度不一樣,所以造成的計算誤差也不一樣。


對于需要處理的數字范圍大而且需要精確計算的科學計算來說,就要求采用雙精度浮點數,例如:計算化學,分子建模,流體動力學。


對于常見的多媒體和圖形處理計算、深度學習、人工智能等領域,32位的單精度浮點計算已經足夠了。


對于要求精度更低的機器學習等一些應用來說,半精度16位浮點數就可以甚至8位浮點數就已經夠用了。


對于浮點計算來說,CPU可以同時支持不同精度的浮點運算,但在GPU里針對單精度和雙精度就需要各自獨立的計算單元,一般在GPU里支持單精度運算的單精度ALU(算術邏輯單元)稱之為FP32 core,而把用作雙精度運算的雙精度ALU稱之為DP unit或者FP64 core,在Nvidia不同架構不同型號的GPU之間,這兩者數量的比例差異很大。

 

 談到GPUNvidia是行業技術的領先者和技術奠基者,其產品主要分以下幾個系列,分別面向不同的應用類型和用戶群體。


 GeForce系列:主要面向3D游戲應用的GeForce系列,幾個高端型號分別是GTX1080TI、Titan XP和GTX1080,分別采用最新的Pascal架構和Maxwell架構;最新的型號RTX 2080TI,Turing架構。因為面向游戲玩家,對雙精度計算能力沒有需求,出貨量也大,單價相比采用相同架構的Tesla系列產品要便宜很多,也經常被用于深度學習、人工智能、計算機視覺等。


 Quadro系列:主要面向專業圖形工作站應用,具備強大的數據運算與圖形、圖像處理能力。因此常常被用在計算機輔助設計及制造CAD/CAM、動畫設計、科學研究(城市規劃、地理地質勘測、遙感等)、平面圖像處理、模擬仿真等。

 

 GPU加速計算Tesla系列:專用GPU加速計算,Tesla本是第一代產品的架構名稱,后來演變成了這個系列產品的名稱了,包括V100、P100、K40/K80、M40/M60等幾個型號。K系列更適合用作HPC科學計算,M系列則更適合機器學習用途。


Tesla系列高端型號GPU加速器能更快地處理要求超級嚴格的 HPC 與超大規模數據中心的工作負載。從能源探測到深度學習等應用場合,處理速度比使用傳統 CPU 快了一個數量級。

 

• GPU虛擬化系列:Nvidia專門針對虛擬化環境應用設計GRID GPU產品,該產品采用基于 NVIDIA Kepler 架構的 GPU,首次實現了 GPU 的硬件虛擬化。這意味著,多名用戶可以共享單一 GPU。


 


GRID GPU產品主要包含K1和K2兩個型號,同樣采用Kepler架構,實現了GPU的硬件虛擬化,可以讓多個用戶共享使用同一張GPU卡,適用于對3D性能有要求的VDI或云環境下多租戶的GPU加速計算場景。


GPU散熱方式分為散熱片和散熱片配合風扇的形式,也叫作主動式散熱和被動式散熱方式。


一般一些工作頻率較低的顯卡采用的都是被動式散熱,這種散熱方式就是在顯示芯片上安裝一個散熱片即可,并不需要散熱風扇。因為較低工作頻率的顯卡散熱量并不是很大,沒有必要使用散熱風扇,這樣在保障顯卡穩定工作的同時,不僅可以降低成本,而且還能減少使用中的噪音。


NVIDIA Tesla Family采用被動散熱、QUADRO Family和GeForce Family采用主動散熱。

NVIDIA GPU架構的發展類似Intel的CPU,針對不同場景和技術革新,經歷了不同架構的演進。


 

 

 

 

深度學習是模擬人腦神經系統而建立的數學網絡模型,這個模型的最大特點是,需要大數據來訓練。因此,對電腦處理器的要求,就是需要大量的并行的重復計算,GPU正好有這個專長,時勢造英雄,因此,GPU就出山擔當重任了。


訓練:我們可以把深度學習的訓練看成學習過程。人工神經網絡是分層的、是在層與層之間互相連接的、網絡中數據的傳播是有向的。訓練神經網絡的時候,訓練數據被輸入到網絡的第一層。然后所有的神經元,都會根據任務執行的情況,根據其正確或者錯誤的程度如何,分配一個權重參數(權值)。


推理:就是深度學習把從訓練中學習到的能力應用到工作中去。不難想象,沒有訓練就沒法實現推斷。我們人也是這樣,通過學習來獲取知識、提高能力。深度神經網絡也是一樣,訓練完成后,并不需要其訓練時那樣的海量資源。

 

高性能計算應用程序涵蓋了物理、生物科學、分子動力學、化學和天氣預報等各個領域。也都是通過GPU實現加速的。

公司名稱:海南晟啟電腦網絡有限公司
聯系電話:0898-68548041 傳真0898-68548042
QQ號碼:307752331
電子郵箱:[email protected]
公司地址:海口市國貿北路26號金茂大廈18E1室

關于官方微信

在線客服 業務簡介 聯系我們
海南晟啟電腦網絡有限公司 @ 2018-2030 版權所有 技術熱線:13337622668 瓊ICP備18001661號 全程開發設計:海南中立科技:企業郵箱登陸:
内蒙古十一选五开奖号码