私は 1 TB の RAM、100 個の CPU、1000 TB のストレージを備えたサーバーで作業を行っています。私の作業には非常に大きなデータセットが関係しています。
私が実行しようとしている特定の処理は、GPU から大きな恩恵を受けられる ML 推論です。しかし、私のサーバーには GPU がありません。
自宅には、十分に強力な NVIDIA GPU を搭載した Ubuntu を実行するデスクトップがあります。
デスクトップ上の GPU をサーバーにマウントする方法はありますか?
ネットワーク転送が大量に発生することは承知していますが、それでも価値はあります。SSHFS を使用してサーバー ファイルシステムをマウントし、プロセスをローカルで実行してテストしたところ、12 コアの CPU でも大幅に高速化されました。
ただし、現在実行しようとしているプロセスには、大容量の RAM と GPU の両方が必要なので、サーバー上で実行する必要があります。