web-dev-qa-db-fra.com

Délais entre les demandes dans wget

Je veux télécharger le Web en utilisant wget, mais pour le rendre plus semblable à un vrai utilisateur, je voudrais faire de petits retards aléatoires entre les demandes. J'exécute wget via cmd.

21
Snochacz

Vous pouvez ajouter le code ci-dessous dans votre ligne de commande, ce qui ajoute une attente de dix secondes entre les demandes du serveur.

-w 10

Et vous pouvez également inclure

–– attente aléatoire

Dans votre ligne de commande avec l'option -w qui fera varier l'attente de 0,5 et 1,5 fois la valeur que vous fournissez ici.

30
A.A

Parfait, l'ajout de "-w 3" à l'extrémité avant d'un téléchargement récursif a empêché le serveur d'être surchargé.

un péché

wget -w 3 -m -np -c -R "index.html *" " http: //example.com.wthing/public/files/ "

  • attendez 3
  • mise en miroir pour récapituler toutes les profondeurs de dossier et utiliser les horodatages source
  • pas de parent vers le haut
  • continuer partiellement les téléchargements
  • rejeter tous les fichiers nommés index.html
  • uRL hôte cible avec les fichiers et dossiers récursifs souhaités

j'espère que ceci aide quelqu'un d'autre

2
wkearney99