我正在讀NVLink 規格有一張桌子寫著
Semiconductor|Interconnect| Sublink data-rate per data direction | Total data rate (out+in)
Nvidia V100 |NVLink 2.0 | 200 Gbit/s = 25 GByte/s | 300 GByte/s
這是否意味著 NVLink 只能輸出 25 GB/s一方向(例如輸入到GPU)?如果有 GPU(例如最新的RTX 2080)具有 616 GB/s 的規定頻寬,這是否意味著它將只能使用這 616 個記憶體傳輸中的 25 GB?
答案1
這是否意味著它只能使用這 616 個記憶體傳輸中的 25 GB?
不,您引用的限制適用於 Nvidia 的上一代 GPU (Volta)。它不適用於當前一代(圖靈)。
這是否意味著 NVLink 只能在一個方向上輸出 25 GB/s(例如輸入到 GPU)?
在同一篇文章的後面,NVLink 的架構得到了更好的解釋,每個連結為 25 GB/秒。如果 Nvidia V100 具有與 Nvidia P100 (Pascal) 相同的限制,那麼總共會增加 150 GB/秒,另外還會減少 150 GB/秒。
每個 NVLink(連結介面)提供雙向 20 GB/秒向上和 20 GB/秒向下,每個 GP100 GPU 有 4 個鏈路,總頻寬為 80 GB/秒向上和 80 GB/秒向下。