wget --spider ram consumo de memoria y uso de -c

wget --spider ram consumo de memoria y uso de -c

Estoy usando wget --spider. Está consumiendo mucha memoria ram. ¿Cómo podría limitar el uso de memoria ram desde el comando wget?

wget --spider -r -c http://www.example.org 2>&1 | grep '^--' | awk '{ print $3 }' | grep -v '\.\(css\|js\|png\|gif\|jpg\|JPG\)$' > example.txt

¿"-c" no funciona con --spider? Me gustaría poner los enlaces en ejemplo.txt y poder seguir alimentando el txt con los enlaces en otro momento

información relacionada