Nginx + Gunicorn können keine 1000 gleichzeitigen Benutzer verarbeiten?

Nginx + Gunicorn können keine 1000 gleichzeitigen Benutzer verarbeiten?

Ich betreibe eine Site mit 2 Kernen auf der Maschine und nginx (2 Prozesse) und gunicorn (5 Worker), die eine Flask-App bedienen. Ich habe einen Stresstest mit locust.io durchgeführt, um 500 Benutzer zu simulieren, und die Site bricht zusammen, als sie über 450 Benutzer hinaus skaliert. Ich habe das Gefühl, dass das eine kleine Anzahl von Benutzern ist und ich keine weitere Maschine brauche, und dass ich etwas falsch machen muss, um so früh zusammenzubrechen. Irgendwelche Ideen?

Antwort1

Ich vermute, dass das Problem eher beim Backend-System (falls vorhanden) als beim Frontend-Stack (Nginx) liegen könnte.

Wie viele gleichzeitige Sitzungen Ihre Datenbank verarbeiten kann (falls überhaupt).

Eine sehr häufige Situation besteht darin, dass Ihre Anforderungshandler in einen Wartezustand mit dem Backend-System wechseln und mit der Warteschlange beginnen.

Haben Sie das Backend-System überprüft?

450 Verwendungen sind an sich keine große Zahl, aber es hängt davon ab, was die 450 Benutzer tun. Sprechen wir über Keepalived-Sitzungen? Aktive Benutzer? Was tun sie?

verwandte Informationen