저는 1TB RAM, 100CPU, 1000TB 스토리지를 갖춘 서버에서 작업을 수행하고 있습니다. 내 작업에는 매우 큰 데이터 세트가 포함됩니다.
제가 실행하려고 하는 한 가지 구체적인 방법은 GPU의 이점을 크게 누릴 수 있는 ML 추론입니다. 하지만 내 서버에는 GPU가 없습니다.
집에는 충분히 강력한 NVIDIA GPU를 탑재하고 Ubuntu를 실행하는 데스크탑이 있습니다.
데스크탑의 GPU를 서버에 마운트할 수 있는 방법이 있나요?
네트워크 전송이 많이 필요할 것이라는 점을 이해하지만 여전히 그만한 가치가 있습니다. SSHFS를 사용하여 서버 파일 시스템을 마운트하고 프로세스를 로컬로 실행했을 때 테스트를 수행했는데 12코어 CPU에서도 상당히 가속화되었습니다.
그러나 지금 실행하려는 프로세스에는 높은 RAM과 GPU가 모두 필요하므로 서버에서 실행해야 합니다.