Я чего-то не понимаю:
(Десятки/сотни?) тысяч людей одновременно пытаются подключиться к такому сайту, как facebook.com или google.com.
Насколько я понимаю, они все обязательно должны подключаться ктакой жеисходный сервер (поскольку DNS будет возвращать один и тот же IP-адрес многим из них, и поэтому все запросы будут направляться в один и тот же целевой пункт назначения).
Итак,одинокийМашина/маршрутизатор должна обрабатывать все первоначальные запросы, даже если она планирует пересылать их на другие машины.
Почему это единственное устройство не перегружается, когда это происходит?
решение1
Ваше представление о том, что все они подключаются к одному и тому же серверу, неверно, хотя детали того, как вы достигаете этих результатов, сложны. http://highscalability.com/содержит справочную информацию о том, как внедряются некоторые решения по масштабированию.
У них есть гораздо больше, чем просто "один" сервер, к которому подключаются клиенты, даже если публичный IP-адрес выглядит так же. Google, например, активно использует адресацию anycast, чтобы направлять людей, и обычно у них не просто один IP-адрес для каждого клиента - даже если они возвращают только один адрес, когда вы запрашиваете.