顯示卡的 NvLink 頻寬

顯示卡的 NvLink 頻寬

我正在讀NVLink 規格有一張桌子寫著

Semiconductor|Interconnect| Sublink data-rate per data direction | Total data rate (out+in)
Nvidia V100  |NVLink 2.0  | 200 Gbit/s = 25 GByte/s              | 300 GByte/s

這是否意味著 NVLink 只能輸出 25 GB/s方向(例如輸入到GPU)?如果有 GPU(例如最新的RTX 2080)具有 616 GB/s 的規定頻寬,這是否意味著它將只能使用這 616 個記憶體傳輸中的 25 GB?

答案1

這是否意味著它只能使用這 616 個記憶體傳輸中的 25 GB?

不,您引用的限制適用於 Nvidia 的上一代 GPU (Volta)。它不適用於當前一代(圖靈)。

這是否意味著 NVLink 只能在一個方向上輸出 25 GB/s(例如輸入到 GPU)?

在同一篇文章的後面,NVLink 的架構得到了更好的解釋,每個連結為 25 GB/秒。如果 Nvidia V100 具有與 Nvidia P100 (Pascal) 相同的限制,那麼總共會增加 150 GB/秒,另外還會減少 150 GB/秒。

每個 NVLink(連結介面)提供雙向 20 GB/秒向上和 20 GB/秒向下,每個 GP100 GPU 有 4 個鏈路,總頻寬為 80 GB/秒向上和 80 GB/秒向下。

來源

相關內容