O streaming de arquivos de mídia pelo Youtube usa Dynamic Adaptive Streaming over HTTP (DASH). O lado do cliente recebe um arquivo de manifesto, a partir do qual escolhe que tipo de qualidade de vídeo receberá, dependendo do throughput que o cliente possui.
Executei alguns vídeos do youtube, abri a aba Rede para ver o arquivo de manifesto que determina a qualidade do vídeo (para ver o código), mas não sei qual arquivo realiza essa busca. Você sabe qual arquivo serve de manifesto dos vídeos do Youtube?