Einrichten einer Machine-Learning-Workstation als Server für mehrere Benutzer

Einrichten einer Machine-Learning-Workstation als Server für mehrere Benutzer

Das Unternehmen hat eine Workstation für maschinelles Lernen gekauft und mich mit deren Betrieb und Wartung beauftragt.

Ziel: Entwicklung unserer eigenen ML-Anwendungen und Ermöglichung der Verbindung unserer weltweiten Niederlassungen mit der Workstation, um ihre eigenen Modelle zu trainieren/auszuführen. Ich würde auch Standard-Trainingsframeworks für andere globale Teams einrichten, um mit dem Training von Klassifizierungs- und Objekterkennungsmodellen zu beginnen.

Entwicklungssprache: Python

Workstation-Spezifikationen:

  • Ubuntu 18.04
  • GPU-Treiber und gängige ML-Bibliotheken waren alle vorinstalliert
  • Intel Core i9-9920X, 4x RTX 2080 Ti
  • 128 GB RAM, 2 TB NVMe + 2 TB SATA SSD

Der aktuelle Plan sieht vor, für alle Benutzer unterschiedliche Benutzerkonten einzurichten, die sich dann per SSH mit ihren eigenen Konten verbinden. Ich bin mir jedoch nicht sicher, ob das funktioniert. Was passiert, wenn Benutzer unterschiedliche Bibliotheksversionen usw. wünschen?

Sind Docker-Container die Lösung? Auf diese Weise kann jeder seine eigene isolierte Umgebung haben, die er nach Belieben einrichten kann. Ich habe kürzlich auch etwas über virtuelle Python-Umgebungen gelernt, und das klingt jetzt nach der einfachsten Lösung.

Ich habe nicht viel Erfahrung auf diesem Gebiet und stehe noch ganz am Anfang. Bitte teilen Sie Ihre Erfahrungen/Vorschläge mit und lassen Sie mich wissen, wenn Sie weitere Einzelheiten benötigen. Danke!

Antwort1

Virtuelle Python-Umgebungen sind genau auf Ihre Anwendungsfälle zugeschnitten. Auf diese Weise haben Sie Abhängigkeiten von Python-Paketen für jedes Projekt und vermeiden so globale Installationen und Versionskonflikte.

Jeder Benutzer verfügt über ein eigenes Systemkonto und kann auf eine oder mehrere virtuelle Umgebungen zugreifen.

Pro Projekt sollte eine virtuelle Umgebung in Betracht gezogen werden.

Außerdem können SieAbonnierenum Ihnen das Arbeiten/Wechseln mit mehreren Python-Versionen zu ermöglichen.

Der einzige Nachteil besteht darin, dass Sie zusätzlichen Speicherplatz benötigen.

Antwort2

Docker ist zwar eine Möglichkeit, der Konfigurationsaufwand könnte jedoch zu groß sein.

Jedoch,Conda-Umgebungenkann möglicherweise eine Lösung sein. Diese ermöglichen die Koexistenz verschiedener (Python-)Bibliotheken in isolierten Umgebungen nebeneinander. Am einfachsten ist es, Miniconda systemweit zu installieren und jeden seine eigenen Conda-Umgebungen nach Wunsch erstellen zu lassen.

verwandte Informationen