英偉達NVIDIA H100 80G GPU顯卡
目前英偉達提供了數種不同的H100計算卡,分別為H100 PCIe、H100 SXM和H100 NVL(雙GPU版本)。其中普通的H100配備了80GB的HBM2E,PCIe和SXM5版本都有,H100 NVL則有著188GB的HBM3,對應每個GPU為94GB。近日更新的PCI ID列表顯示,英偉達很快會為H100帶來94GB和64GB的SXM版本,其中前者還會有針對中國市場的版本,型號為H800L 94GB。
64GB很好理解,但是94GB并不是尋常的數字,與H100 NVL的情況類似,英偉達并沒有解釋這種容量具體如何配置的。去年還有報道稱,英偉達還準備了一款120GB的PCIe版本,不過至今還沒有得到官方的確認,有可能只是在實驗室測試的工程樣品,終不會出現在任何市場。
完整的GH100芯片配置了8組GPC、72組TPC、144組SM、共18432個FP32 CUDA核心,采用了第四代Tensor Core,共576個,并配有60MB的L2緩存。不過實際產品中沒有全部打開,其中SXM5版本中啟用了132組SM,共16896個FP32 CUDA核心,528個Tensor Core以及50MB的L2緩存,而PCIe 5.0版本則啟用了114組SM,FP32 CUDA核心數量只有14592個。暫時不清楚擁有更大顯存的H100的核心規格,估計會延續現有的配置。