Como uma possível solução alternativa paraOutro problema, é possível fazerwget
imprimiros URLs encontrados no documento de destino queconsidera como requisitos de página?Prefiro não criar código de raspagem para a tarefa simples em que estou trabalhando.
Responder1
Você poderia fazer algo como:
wget -nv -p -nd --delete-after <url>
O que produzirá algo como:
2017-06-01 21:37:41 URL:<url> [19101] -> "index.html.3" [1]
2017-06-01 21:37:42 URL:<url>robots.txt [24/24] -> "robots.txt" [1]
2017-06-01 21:37:42 URL:<url>rc/1502.css [19106/19106] -> "1502.css" [1]
2017-06-01 21:37:42 URL:<url>favicon.ico [5390/5390] -> "favicon.ico" [1]
2017-06-01 21:37:42 URL:<url>avatar/nopic.jpg [893/893] -> "nopic.jpg
Isso pode ser rapidamente convertido ou filtrado para algo que atenda às suas necessidades.