Nginx + uWSGI + Django のパフォーマンスが 100rq/s で止まる

Nginx + uWSGI + Django のパフォーマンスが 100rq/s で止まる

CentOS 6 x64 (3.06GHz i3 540、4GB) 上で uWSGI と Django を使用して Nginx を構成しました。これは 2500 rq/s を簡単に処理できるはずですが、ab テスト (ab -n 1000 -c 100) を実行すると、パフォーマンスが 92 - 100 rq/s で停止します。

Nginx:
    user nginx;
    worker_processes 2;
    events {
        worker_connections 2048;
        use epoll;
    }

uWSGI:

    Emperor
    /usr/sbin/uwsgi --master --no-orphans --pythonpath /var/python --emperor /var/python/*/uwsgi.ini


[uwsgi]
socket = 127.0.0.2:3031
master = true
processes = 5

env = DJANGO_SETTINGS_MODULE=x.settings
env = HTTPS=on
module = django.core.handlers.wsgi:WSGIHandler()

disable-logging = true
catch-exceptions = false

post-buffering = 8192
harakiri = 30
harakiri-verbose = true

vacuum = true
listen = 500
optimize = 2

sysclt changes:
# Increase TCP max buffer size setable using setsockopt()
net.ipv4.tcp_rmem = 4096 87380 8388608
net.ipv4.tcp_wmem = 4096 87380 8388608

net.core.rmem_max = 8388608
net.core.wmem_max = 8388608
net.core.netdev_max_backlog = 5000
net.ipv4.tcp_max_syn_backlog = 5000
net.ipv4.tcp_window_scaling = 1
net.core.somaxconn = 2048

# Avoid a smurf attack
net.ipv4.icmp_echo_ignore_broadcasts = 1

# Optimization for port usefor LBs
# Increase system file descriptor limit
fs.file-max = 65535

変更を有効にするために実行しましたsysctl -p

アイドルサーバーの情報:

top - 13:34:58 up 102 days, 18:35,  1 user,  load average: 0.00, 0.00, 0.00

Tasks: 118 total,   1 running, 117 sleeping,   0 stopped,   0 zombie

Cpu(s):  0.0%us,  0.0%sy,  0.0%ni,100.0%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st

Mem:   3983068k total,  2125088k used,  1857980k free,   262528k buffers

Swap:  2104504k total,        0k used,  2104504k free,   606996k cached



free -m

 total       used       free     shared    buffers     cached

Mem:          3889       2075       1814          0        256        592

-/+ buffers/cache:       1226       2663

Swap:         2055          0       2055




**During the test:**

top - 13:45:21 up 102 days, 18:46,  1 user,  load average: 3.73, 1.51, 0.58

Tasks: 122 total,   8 running, 114 sleeping,   0 stopped,   0 zombie

Cpu(s): 93.5%us,  5.2%sy,  0.0%ni,  0.2%id,  0.0%wa,  0.1%hi,  1.1%si,  0.0%st

Mem:   3983068k total,  2127564k used,  1855504k free,   262580k buffers

Swap:  2104504k total,        0k used,  2104504k free,   608760k cached


free -m

total       used       free     shared    buffers     cached

Mem:          3889       2125       1763          0        256        595

-/+ buffers/cache:       1274       2615

Swap:         2055          0       2055


iotop

30141 be/4 nginx       0.00 B/s    7.78 K/s  0.00 %  0.00 % nginx: wo~er process

ボトルネックはどこですか? あるいは、何が間違っているのでしょうか?

答え1

明らかに、使用しているタスクはどれも CPU に依存しています。Django アプリをプロファイリングして、アプリケーションのどこで遅延が発生しているかを調べることを検討してください。Python WSGI アプリケーションには、いくつかのプロファイリング ソリューションがあります (ただし、Django は厳密には WSGI に準拠していないため、特にミドルウェアに関しては、結果は異なる場合があります)。

  1. 線審(恥ずかしげもなく宣伝しますが、これは私のプロジェクトです!)
  2. keas.プロフィール
  3. プロフィール
  4. ブルドーザー(ただし、0.2 アルファを使用する必要があります)

これにより、アプリケーションのボトルネック、つまりアプリケーションがほとんどの時間を費やしている機能を特定できるようになります。

確認すべきもう 1 つの点は、uwsgi/nginx がリクエストを取得するのにどのくらい時間がかかるかということです。リクエストはキューに入れられていますか。リクエストが開始から終了までにかかる平均時間はどのくらいですか。また、さらに重要なのは、ベースラインが何であるかです。これを調べるには、1 人の同時ユーザーで同じテストを実行してみてください。次に、ユーザー数がピークに達する場所を特定できるまで、ユーザー数を徐々に増やします。

この情報を使用して、パターンを確立し始めることができます。これが負荷テストの鍵となります。

幸運を!

関連情報