Я разрабатываю систему видеонаблюдения, которая записывает и транслирует множество видеопотоков с множества удаленных IP-камер.
Один сервер будет работать на одной машине, которая обрабатывает около 500 видеопотоков (250kbps на видеопоток). Один сервер будет частью большой серверной фермы, которая управляется одним простым сервером (здесь это неважно).
Теперь я инженер-программист, и мне поручили найти подходящее оборудование для работы моих серверов... А я понятия не имею, что мне нужно!
Могу ли я установить Linux и настроить несколько быстрых жестких дисков в RAID и получить ту же производительность, что и у какого-нибудь дорогого решения для хранения данных?
Сколько процессоров, материнской платы и прочего мне нужно?
Какая марка жестких дисков лучше всего подойдет для этого?
Существует ли водяное охлаждение для жестких дисков?
Извините за глупые вопросы, но я увлекаюсь написанием программного обеспечения, я используюПКи это все подробности об оборудовании, которые мне нужно знать на работе...:)
решение1
1. Могу ли я установить Linux и настроить несколько быстрых жестких дисков в RAID, и смогу ли я получить ту же производительность, что и какое-нибудь дорогое решение для хранения данных?
Нет. Я бы по крайней мере выбрал приличный аппаратный RAID-контроллер (я бы поставил на Adaptec). Основная причина в том, что ваша установка Linux отстой в настройке просто потому, что у нее нет оптимизированного оборудования. А именно: вы не можете безопасно использовать кэширование с обратной записью, потому что если отключится питание, диски могут выйти из строя. Вы МОЖЕТЕ сделать это в Adaptec 5805Z или 5805 с BBU, потому что если отключится питание, встроенный кэш будет в безопасности (в течение некоторого или более длительного времени - BBU работает 2 дня, модель Z записывает данные на флэш-модуль). Технически, кстати, это все еще Linux (на контроллере).
2.Сколько мне нужно процессоров, материнской платы и прочего?
Довольно неважно. Вы не ограничены процессором, если не делаете сжатие. Любой процессор должен быть достаточно, даже ATOM. Опять же, если вы не делаете намного больше, чем просто пропускаете потоки через диск, у вас вряд ли возникнут проблемы с процессором.
3.Какая марка жестких дисков лучше всего подойдет для этого?
Western Digital. Более конкретно: Velociraptors, если вам нужна достойная производительность за достойную цену. Единственный диск на 10 тыс. об/мин, который не дотягивает до гораздо более дорогого диска SAS. В зависимости от ваших потребностей ввода-вывода вы можете обойтись более крупными и медленными дисками. Это нужно проверить, и многое зависит от вашего кодирования.
Купите сервер от SuperMicro — 2 стойки высотой, место для 24 жестких дисков (форм-фактор 2,5). Достаточно места для расширения. Я бы, возможно, начал с 8 дисков в конфигурации RAID 10. Несколько корзин могут быть подчинены друг другу. Требуется контроллер SAS RAID (как вышеупомянутый Adaptecs).
4.Существует ли водяное охлаждение для жестких дисков?
Да, но это совершенно не имеет значения для сервера. Это в основном для osmoen e, делающих тихий ПК с полным водяным охлаждением и желающих избавиться от тепла HD без вентилятора.
решение2
Я отказываюсь от своего изначального ответа, так как я перепутал 125 Мегабит со 125 Гигабит. Позор мне.
Но, конечно, это все немного облегчает :)
Итак, по вашим вопросам:
Вроде того. Вы можете получить довольно хорошую производительность, которая должна быть более чем достаточной для этого случая. Я бы рекомендовал использовать как можно больше дисков, и, возможно, аппаратный RAID-контроллер. Это позволяет, среди прочих преимуществ, легко заменять сломанные диски без каких-либо проблем со стороны ОС. И, кстати, приобретите корпус с отсеками для дисков с возможностью горячей замены.
Это в основном зависит от того, что вы хотите сделать. Материнская плата серверного уровня с двумя сокетами для 4-ядерных ЦП и соответствующими ЦП должна подойти только для хранения. Я бы рекомендовал много оперативной памяти, чтобы иметь буфер на случай, если по какой-либо причине запись на диск остановится на короткое время. Подумайте как минимум о 16 или 24 ГБ.
Время доступа важно в этом сценарии, поэтому вам следует выбирать жесткие диски серверного уровня с не менее 10 тыс. об/мин или лучше, может быть, даже 15 тыс. Емкость зависит от того, как долго вы хотите хранить данные (при 125Мегав общей сложности бит/с для вашего потока вы получите около 50 ГБ/час).
Почему водяное охлаждение? Я не знаю ни одной системы, которая предлагала бы водяное охлаждение для отсеков с возможностью горячей замены дисков.
решение3
Как долго нужно хранить записи?
Вы будете передавать около 16 МБ в секунду или около 1,25 ТБ в день.
Ваш дисковый массив должен быть большим, но не очень быстрым. Если ваше программное обеспечение для записи немного буферизует, у вас даже не будет много iops. Я легко могу представить, что linux software raid, как вы упомянули, справится с этой нагрузкой, особенно если вы дадите ему пару ГБ оперативной памяти для буферизации. Это предполагает приличное программное обеспечение.
Если вы не перекодируете видео в другой формат, то вам не понадобится много процессора для этого, подойдет любой современный Intel/AMD. Вам понадобится гигабитная сеть.
Theбрендсложно ответить, я бы установил избыточность (raid5) и купил дешевые SATA-диски от любого известного бренда.
Для охлаждения (и надежности) я бы взял шасси sever, в котором размещено необходимое количество дисков. Шасси обеспечит необходимый поток воздуха для охлаждения дисков. С текущей информацией я вижу мало необходимости в использовании водяного охлаждения.
решение4
Предлагаю спросить этих ребят из Массачусетского технологического института: http://www.media.mit.edu/cogmac/projects/hsp.html
В рамках проекта Human Speechome они записывали 3 года с помощью 11 высококачественных камер и 14 микрофонов в одном доме. В доме был дисковый массив на 5 ТБ с кластером из 10 узлов. После сжатия каждый день накапливалось 300 ГБ. Периодически данные переносились на серверную ферму MIT с помощью портативных дисков.
У вас примерно в 100 раз больше видеопотоков, чем у них, но у них все равно может быть важная информация, которую вы, скорее всего, сможете получить через быстрый разговор по электронной почте. Их оборудованию больше 5 с половиной лет.
Вот 20-минутная речь Теда о проекте: http://www.ted.com/talks/deb_roy_the_birth_of_a_word.html (если времени мало, прокрутите до отметки 1 мин 00 с и посмотрите пару минут).
Публикация:http://www.media.mit.edu/cogmac/publications/cogsci06.pdf