Ancho de banda con NvLink para una tarjeta gráfica

Ancho de banda con NvLink para una tarjeta gráfica

estoy leyendo elEspecificaciones de NVLinky hay una mesa que dice

Semiconductor|Interconnect| Sublink data-rate per data direction | Total data rate (out+in)
Nvidia V100  |NVLink 2.0  | 200 Gbit/s = 25 GByte/s              | 300 GByte/s

¿Significa esto que NVLink puede generar solo 25 GB/s enuno¿Dirección (por ejemplo, entrada a la GPU)? Si una GPU (por ejemploel RTX 2080 más nuevo) tiene 616 GB/s de ancho de banda indicado, ¿eso significa que solo podrá usar 25 GB en transferencias de memoria de esos 616?

Respuesta1

¿Eso significa que sólo podrá utilizar 25 GB en transferencias de memoria de esos 616?

No, las limitaciones que citó se aplicaban a la generación anterior de GPU (Volta) de Nvidia. No se aplica a la generación actual (Turing).

¿Significa esto que NVLink solo puede generar 25 GB/s en una dirección (por ejemplo, entrada a la GPU)?

Más abajo en el mismo artículo se explica mejor la arquitectura de NVLink, sería de 25 GB/seg por enlace. Si la Nvidia V100 tiene la misma limitación que la Nvidia P100 (Pascal), entonces sería un total de 150 GB/s de subida y otros 150 GB/s de bajada.

Cada NVLink (interfaz de enlace) ofrece 20 GB/seg de subida y 20 GB/s de bajada, con 4 enlaces por GPU GP100, para un ancho de banda agregado de 80 GB/seg de subida y otros 80 GB/s de bajada.

Fuente

información relacionada