Linux zu Linux, 10 TB Übertragung?

Linux zu Linux, 10 TB Übertragung?

Ich habe mir alle vorherigen ähnlichen Fragen angesehen, aber die Antworten schienen überall zu sein und niemand bewegte sichvielan Daten (100 GB ist etwas anderes als 10 TB).

Ich habe etwa 10 TB, die ich von einem RAID-Array in ein anderes verschieben muss, Gigabit-Ethernet, die freie Enzyklopädie,XFSDateisysteme. Meine größte Sorge ist, dass die Übertragung mittendrin abbricht und nicht einfach fortgesetzt werden kann. Geschwindigkeit wäre schön, aber die Sicherstellung der Übertragung ist viel wichtiger.

Normalerweise würde ich einfach tar & netcat verwenden, aber das RAID-Array, von dem ich wechsle, war in letzter Zeit sehr unzuverlässig und ich muss in der Lage sein, es wiederherzustellen und fortzusetzen, wenn es mitten im Prozess abstürzt. Sollte ich mir ansehenrsync?

Wenn ich mir das genauer anschaue, denke ich, dass rsync zu langsam sein könnte, und ich möchte vermeiden, dass es 30Tageoder mehr. Jetzt suche ich nach Vorschlägen, wie ich die Übertragung überwachen / fortsetzen kann mitNetzkatze.

Antwort1

ja, rsync

Abgesehen von Oddball, den asynchronen Funktionen, die DRBD kürzlich herausgebracht hat.

Antwort2

Unterschätzen Sie niemals die Bandbreite eines Kombis voller Bänder. 10 TB wären mit relativ billiger NAS-Ausrüstung für den Privatgebrauch machbar, wenn Sie sie in Blöcke (sagen wir 2 TB) aufteilen können. Wenn es sich um eine einmalige Sache handelt, könnte ein halbmanueller Prozess machbar sein, und ein 2-TB-NAS kostet nur ein paar hundert Dollar.

Wenn Sie einen fortlaufenden Prozess benötigen, können Sie RSYNC einrichten, nachdem Sie die erste Übertragung durchgeführt haben.

Antwort3

Ich musste diese Art von Aufgabe vor einigen Monaten erledigen. Ich habe paralleles rsync verwendet, um den Vorgang zu beschleunigen. Es teilt die zu übertragenden/synchronisierenden Dateien in Blöcke auf und kann jederzeit fortgesetzt werden. Siehe Link unten für das parallele rsync-Skript.

https://gist.github.com/rcoup/5358786

Antwort4

Sie könnten versuchen, auf dem Server mit den zu kopierenden Daten einen FTP-Server einzurichten und auf der Empfangsseite einen FTP-Client mit „Fortsetzen“ zu verwenden. Ich verwende den Filezilla-Server und -Client und nutze die „Fortsetzen“-Funktion des Clients recht häufig und es hat immer problemlos funktioniert.

verwandte Informationen