web-dev-qa-db-fra.com

Le moyen le plus rapide de copier de nombreuses données

Je dois copier beaucoup de fichiers (60000+) entre deux serveurs, ce qui représente environ 5 To de données.

J'ai essayé de monter le serveur de sauvegarde en tant que dossier et de copier les fichiers de cette façon, mais je n'ai pas pu obtenir les autorisations nécessaires pour écrire correctement les fichiers.

J'ai donc pensé à lier les 3 ports nic restants, à connecter des câbles croisés et à utiliser cp/scp pour tout copier. Maintenant, je n'ai aucune expérience avec la liaison de nic et le transfert de données de cette façon.

Serait-ce plus rapide? Quelqu'un peut-il me raconter ou me donner des conseils sur de meilleures solutions? Serait très apprécié.

1
Roffel

Lors de la copie de grandes quantités de fichiers, j'utilise généralement ces commandes:

Cible:

nc -q 1 -l 1234 | pv -pterb -s <filesize>G | tar xv

La source:

tar cv <DIR>  | nc -q 1 <targetip> 1234

Cela diffusera directement toutes les données, sans trop de surcharge de protocole de la source à la cible sur le port 1234. Cela s'est avéré être le moyen le plus rapide pour moi de copier les données dans un réseau local. En complément, j'ai ajouté la commande pv dans la cible, afin que je puisse avoir un aperçu approximatif de la distance entre les fichiers.

Pour un transfert plus avancé, mais peut-être plus lent, je recommanderais d'utiliser rsync.

3
BenSower