Leistung von verteilten replizierten kleinen Dateien durch Glusterfs

Leistung von verteilten replizierten kleinen Dateien durch Glusterfs

Ich habe 4 verteilte replizierte Server mit Glusterfs auf XFS-Partitionen auf virtuellen Festplatten des Hyper-V-Servers (dynamisches VHDX) eingerichtet. Die Netzwerkkarten sind 6 x 1 Gbit (gemeinsam auf Hyper-V). Ich teile sie über Samba mit Windows-Clients. Das Problem, auf das ich stoße, ist, dass ich bei vielen kleinen Dateien (Lesen und Schreiben) eine wirklich schlechte Leistung habe. Bei vielen 10.000-Dateien habe ich Übertragungsraten von etwa 300 KB (und auf dem nativen Client ist es auch nicht viel schneller). Gibt es eine Lösung für dieses Problem? Oder ist meine Konfiguration schlecht? Die Übertragung großer Dateien ist gut (unter Ausnutzung der gesamten Bandbreite).

Antwort1

Ich habe einmal versucht, GlusterFS für die Bereitstellung von Webanwendungen zu verwenden und eine große Anzahl von von Benutzern hochgeladenen Dateien zwischen mehreren Servern zu teilen. Ich habe wahrscheinlich gute 4 Monate damit verbracht, die Geschwindigkeit angemessen zu gestalten, aber ich habe es nie geschafft. Wenn Sie es wirklich versuchen, können Sie die Geschwindigkeit um etwa 25-40 % steigern, aber es wird immer noch nicht schnell genug sein.

Ich habe die genauen technischen Details vergessen, aber das GlusterFS-Protokoll ist sehr ausführlich, sogar auf Nur-Lese-Systemen. Wie Danila sagte, sind Sie besser dran, wenn Sie das NFS-Protokoll über Gluster verwenden, wenn Sie kleine Dateien teilen möchten. Der große Nachteil dabei ist, dass es sich um NFS handelt.

Eine weitere Option, die Sie in Betracht ziehen sollten, ist Ceph. Es entwickelt sich schnell und ist auf den neuesten Ubuntu-Kerneln gut verwendbar.

Um ehrlich zu sein, würde ich empfehlen, wenn möglich auf ein gemeinsam genutztes FS zu verzichten. Sie werden mir später danken.

Antwort2

Der native FUSE-Client von GlusterFS ist bei einer großen Anzahl kleiner Dateien schrecklich. Sie können versuchen, NFS auch mit GlusterFS zu verwenden. Außerdem glaube ich nicht, dass Ihnen XFS-Partitionen in diesem Setup gegenüber nativem EXT4 überhaupt Vorteile bieten. Weitere Informationen finden Sie in diesem Artikel:

http://lwn.net/Articles/476263/

verwandte Informationen