為什麼 NGINX 超時？

Question

我有一個大約有 20 萬用戶的應用程序，並且正在 AWS EC2 負載平衡器後面運行 NGINX + Gunicorn(Python) 伺服器。

我不明白為什麼我的請求總是 4k/分鐘，但只是有時我的一半流量是超時問題。大多數情況下，所有請求都很好，但有時它開始鎖定，然後幾乎所有請求都會逾時。

我注意到當前連接數的這種模式有一個波動，從 1000 到 0 波動。我如何區分 request_time 來確定是否是 NGINX 配置不正確，或者我的 Python 伺服器只是過於頻繁地呼叫超慢端點。

我附上了 NGINX Amplify 儀表板中其中一台伺服器的螢幕截圖。

我可以調查 NGINX 日誌或 Amplify 的部分內容以確定這是否是 NGINX 設定問題，或者託管的 Python 進程是否被鎖定？謝謝你！

Answer 1

查看您的 CloudWatch 指標，尤其是有關「已刪除」或「失敗」的指標。您可以在此處查看有關負載平衡器和 EC2 執行個體的所有詳細資訊。我不知道您正在使用的實例類型是什麼，但可能是您不斷過度使用 T2/T3 實例並耗盡了信用。我認為您的流程的某些部分由於某種原因而受到限制，這不一定是實例本身的問題。