Nginx + Gunicorn не справляются с 1000 одновременными пользователями?

Nginx + Gunicorn не справляются с 1000 одновременными пользователями?

Я запускаю сайт с 2 ядрами на машине, а также nginx (2 процесса) и gunicorn (5 рабочих), обслуживающих приложение Flask. Я провел стресс-тест с использованием locust.io, чтобы смоделировать 500 пользователей, и сайт падает при масштабировании свыше 450 пользователей. Я чувствую, что это небольшое количество пользователей, и мне не нужно покупать другую машину, и что я, должно быть, делаю что-то неправильно, раз сломался так рано. Есть идеи?

решение1

Полагаю, проблема может быть в бэкэнд-системе, если таковая имеется, а не в стеке фронтэнда (Nginx).

Сколько одновременных сеансов может обрабатывать ваша БД (если таковые имеются).

Очень распространенной ситуацией является ситуация, когда обработчики запросов переходят в состояние ожидания с бэкэнд-системой и начинают стоять в очереди.

Вы проверили внутреннюю систему?

450 использований само по себе не большое число, но это зависит от того, что делают 450 пользователей. Мы говорим о keepalived сессиях? Активных пользователях? Делают что?

Связанный контент