Производительность распределенных реплицированных небольших файлов Glusterfs

Производительность распределенных реплицированных небольших файлов Glusterfs

Я настроил 4 распределенных реплицированных сервера с glusterfs поверх разделов xfs на виртуальных дисках сервера hyperv (динамический vhdx). Сетевые карты 6x1Gbit (объединены на hyperv). Я делюсь ими через samba с клиентами Windows. Проблема, с которой я столкнулся, заключается в том, что у меня очень плохая производительность с большим количеством маленьких файлов (чтение и запись), когда есть много файлов по 10 тыс., у меня скорость передачи около 300 кбит (и на собственном клиенте она не намного быстрее). Есть ли решение этой проблемы? Или у меня плохая конфигурация? Большие файлы передаются хорошо (используя всю полосу пропускания)

решение1

В какой-то момент я попытался использовать GlusterFS для развертывания веб-приложений и совместного использования большой базы загруженных пользователем файлов между несколькими серверами. Я потратил, наверное, около 4 месяцев, пытаясь добиться приемлемой скорости, но так и не смог. Вы можете настроить его на 25-40% увеличения скорости, если очень постараетесь, но все равно это будет недостаточно быстро.

Я забыл точные технические детали, но протокол GlusterFS очень многословен, даже на системах только для чтения. Как сказал Данила, вам лучше использовать протокол NFS через Gluster, если вы хотите обмениваться небольшими файлами. Огромный недостаток этого в том, что это NFS.

Еще один вариант для рассмотрения — Ceph. Он быстро развивается и вполне пригоден для использования на последних ядрах Ubuntu.

Хотя, честно говоря, я бы рекомендовал отказаться от общей ФС, если можете. Потом скажете мне спасибо.

решение2

GlusterFS native FUSE client ужасен с большим количеством мелких файлов. Вы можете попробовать использовать NFS также с GlusterFS. Также я не думаю, что разделы xfs дают вам какие-либо преимущества в этой настройке по сравнению с native EXT4 вообще. Вы можете прочитать больше информации в этой статье:

http://lwn.net/Articles/476263/

Связанный контент