ネットワークホップごとにリクエストタイムアウトを設定する方法

ネットワークホップごとにリクエストタイムアウトを設定する方法

ネットワーク タイムアウトと、特定のリクエストの各ホップに対してタイムアウトを設定する方法を理解しようとしています。簡単にするために、接続タイムアウトと読み取りタイムアウトと書き込みタイムアウトの内訳は調べず、「タイムアウト」は「最初のパケット受信から最後のパケット送信までの最大許容合計時間 (クライアントの場合はその逆)」を意味するものと想定します。リクエスト フローに次のホップがあるとします。

(client) --> (AWS ALB) --> (nginx) --> (server)

…そして、サーバーが 10 秒後にタイムアウトするように設定されていると仮定します。

私の質問は、各ホップの有効なタイムアウトセットは何でしょうか?

// A
(client, 13s) --> (AWS ALB, 12s) --> (nginx, 11s) --> (server, 10s)

または

// B
(client, 7s) --> (AWS ALB, 8s) --> (nginx, 9s) --> (server, 10s)

それとも(C)何か他のものでしょうか?

もちろん、私はあなたの提案の背後にある論理にも興味があります。

答え1

ハードタイムアウト(目的を述べていない)を検討している場合、各処理段階には少ない前のものよりも時間がかかります。つまり、基本的には A が正しいアプローチです。

ただし、クライアントから AWSALB へのパスは制御できず、比較的長く/遅くなる可能性があります。ステップごとに 1 秒というのは非常に余裕のある値であるため、問題はありません。ただし、ステップごとに 50 ミリ秒または 100 ミリ秒に短縮すると、最初のステップでさらに割り当てが必要になります。

関連情報