Montar una GPU remota localmente en Rocky Linux

Montar una GPU remota localmente en Rocky Linux

Estoy trabajando en un servidor que tiene 1 TB de RAM, 100 CPU y 1000 TB de almacenamiento. Mi trabajo involucra conjuntos de datos muy grandes.

Un tema específico que estoy intentando ejecutar se beneficiaría enormemente de una GPU: es la inferencia de ML. Sin embargo, mi servidor no tiene GPU.

En casa, tengo una computadora de escritorio que ejecuta Ubuntu con una GPU NVIDIA bastante potente.

¿Hay alguna manera de poder montar la GPU de mi escritorio en el servidor?

Entiendo que habría mucha transferencia de red, sin embargo, aún así vale la pena. Hice una prueba cuando monté el sistema de archivos del servidor usando SSHFS y ejecuté el proceso localmente y se aceleró significativamente incluso con mi CPU de 12 núcleos.

Sin embargo, el proceso que ahora quiero ejecutar requiere mucha RAM y una GPU, por lo que debe ejecutarse en el servidor.

información relacionada