Taille: 7945
Commentaire: Mise à jour
|
Taille: 5714
Commentaire: Grosse mise à jour
|
Texte supprimé. | Texte ajouté. |
Ligne 5: | Ligne 5: |
= Serveur de backup hors site = | = Les sauvegardes = |
Ligne 7: | Ligne 7: |
== Le serveur == === Caractéristiques === |
== Crons et tailles des sauvegardes == ||||||||'''Les crons'''||||'''Tailles (en date du 15/06/2012)'''|| ||'''Jour'''||'''Heure'''||'''Serveur'''||'''Durée moyenne'''||'''Backup'''||'''Archive'''|| ||Dimanche||07h00||vz-tech.ca.auf||30min||17G||4,1G|| ||Lundi||18h00||vz-aufhorsite.ca.auf.org||3min||14G||6,8G|| ||<|2>Mardi||18h00||vz-auforg.ca.auf||56min||34G||20G|| ||01h00||toip.ca.auf.org||1min||1,5G||204M|| ||<|2>Mercredi||18h00||vz-intranet.ca.auf||30min||65G||42G|| ||01h00||zeus.auf||3min||1,2G||358M|| ||<|2>Jeudi||18h00||nfs-mtl.ca.auf||4h||588G||175G|| ||18h00||vz-www.ca.auf||50min||77G||60G|| ||Vendredi||01h00||vz-superca.ca.auf||5min||4,1G||1,1G|| ||Samedi||18h00||vz-montreal.ca.auf||2h||184G||100G|| ||1 fois par jour||21h00||maestro.ca.auf||15min||8,8G||8,2G|| * Durée d'un `du -sh /var/lib/BACKUP-RSYNC/*` : 10:55:15 à 12:04:27 == 1h * la commande `rsync` de sauvegarde {{{ # Ex : vz-aufhorsite ... rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-aufhorsite.ca.auf.org/ }}} * fichiers exclus du `rsync`, listés dans le fichier `/etc/rsync-horsite-exclude` {{{ /media/* /dev/* /mnt/* /proc/* /sys/* /net/* /tmp/* /lost+found/* /var/lock/* /var/run/* /var/spool/* "/home/*/{Vid\x{e9}os,Images,Musique}" }}} . + pour les HN openvz {{{ /var/lib/vz/private/* /var/lib/vz/root/*/dev/* /var/lib/vz/root/*/proc/* /var/lib/vz/root/*/sys/* /var/lib/vz/root/*/tmp/* }}} . + `/var/lib/vz/root/502/srv/debmirror/*` pour vz-tech . + `/var/lib/vz/root/205/srv/debmirror/*` pour vz-montreal . + `/var/lib/vz/root/603/var/log/distants/*` pour vz-superca . + pour nfs-mtl {{{ *.avi *.mov *.mpeg "/home/*/{Vid\x{e9}os,Images,Musique}" /home/PARTAGES/commun/* }}} == Diverses considérations == 1. pour solutionner le problème de saturation de la bande passante par le backuppc hors site, on fait maintenant des rsync direct contrôlés à des jours et moments calculés en fonction de la taille des différents serveurs. 1. Ces rsync se font depuis les serveurs vers le backup hors site 1. on fait des rsync avec des delete sur les fichiers qui n'existent dans la source, pour économiser de l'espace 1. le dossier des backups : `/var/lib/BACKUP-RSYNC`, sur le `/dev/md0` raid5 2To 1. on gardera une archive (tar.gz) de chaque serveur pour une durée de 6 mois (dossier `/var/lib/ARCHIVES-BACKUP` (`/dev/md1` raid1 1To) et script `/usr/local/sbin/archivage-backup.sh`). On n'archive pas tout (problème d'espace): {{{ zeus_fichiers="." maestro_fichiers="." nfs_fichiers="boot etc home home-local root usr/local var/lib/git/root var/log" toip_fichiers="boot etc home root srv usr/local var/lib/asterisk var/lib/git/root var/log var/spool/asterisk/voicemail/AUF" les_fichiers_vz="boot etc home root usr/local var/lib/git/root var/lib/vz/root var/lib/vz/template var/log" }}} 1. on verra par la suite s'il est nécessaire de limiter l'utilisation de la bande passante (rsync --bwlimit=nnnn kbps ...) = Le serveur = == Caractéristiques == |
Ligne 20: | Ligne 97: |
=== Installation de Debian === | == Installation de Debian == |
Ligne 40: | Ligne 117: |
=== Configuration réseau === | == Configuration réseau == |
Ligne 58: | Ligne 135: |
== Les sauvegardes == NB : 1. pour solutionner le problème de saturation de la bande passante par le backuppc hors site, on fait maintenant des rsync direct contrôlés à des jours et moments calculés en fonction de la taille des différents serveurs. 1. Ces rsync se font depuis les serveurs vers le backup hors site 1. on fait des rsync avec des delete sur les fichiers qui n'existent dans la source, pour économiser de l'espace 1. le dossier des backups : `/var/lib/BACKUP-RSYNC`, sur le `/dev/md0` raid5 2To 1. on gardera une archive (tar.gz) de chaque serveur pour une durée de 6 mois (dossier `/var/lib/ARCHIVES-BACKUP` (`/dev/md1` raid1 1To) et script `/usr/local/sbin/archivage-backup.sh`). On n'archive pas tout (problème d'espace): {{{ zeus_fichiers="." maestro_fichiers="." nfs_fichiers="boot etc home home-local root usr/local var/lib/git/root var/log" toip_fichiers="boot etc home root srv usr/local var/lib/asterisk var/lib/git/root var/log var/spool/asterisk/voicemail/AUF" les_fichiers_vz="boot etc home root usr/local var/lib/git/root var/lib/vz/root var/lib/vz/template var/log" }}} 1. on verra par la suite s'il est nécessaire de limiter l'utilisation de la bande passante (rsync --bwlimit=nnnn kbps ...) * Les crons {{{ [vz-tech.ca.auf] 0 7 * * 0 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-tech.ca.auf/ [vz-aufhorsite.ca.auf.org] 0 18 * * 1 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-aufhorsite.ca.auf.org/ [toip.ca.auf.org] 0 1 * * 2 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/toip.ca.auf.org/ [vz-auforg.ca.auf] 0 18 * * 2 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-auforg.ca.auf/ [zeus.auf] 0 1 * * 3 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/zeus.auf/ [vz-intranet.ca.auf] 0 18 * * 3 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-intranet.ca.auf/ [vz-www.ca.auf] 0 18 * * 4 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-www.ca.auf/ [vz-superca.ca.auf] 0 1 * * 5 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-superca.ca.auf/ [nfs-mtl.ca.auf] 0 18 * * 5 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/nfs-authnss.ca.auf/ [vz-mail.ca.auf] 0 18 * * 6 root rsync -a -H --numeric-ids --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-mail.ca.auf/ }}} * État {{{ ## 20 mai 2011 backup-horsite:/var/lib/BACKUP-RSYNC# du -sh * 7,8G maestro.ca.auf 472G nfs-authnss.ca.auf 2,9G toip.ca.auf.org 24G vz-aufhorsite.ca.auf.org 38G vz-auforg.ca.auf 61G vz-intranet.ca.auf 215G vz-mail.ca.auf 50G vz-superca.ca.auf 277G vz-tech.ca.auf 105G vz-www.ca.auf 1,8G zeus.auf ## 11 août 2011 backup-horsite:/var/lib/BACKUP-RSYNC# du -sh * 7,8G maestro.ca.auf 428G nfs-authnss.ca.auf 2,0G toip.ca.auf.org 16G vz-aufhorsite.ca.auf.org 34G vz-auforg.ca.auf 61G vz-intranet.ca.auf 191G vz-mail.ca.auf 53G vz-superca.ca.auf 164G vz-tech.ca.auf 55G vz-www.ca.auf 796M zeus.auf backup-horsite:/var/lib/ARCHIVES-BACKUP# du -sh * 7,7G archive-maestro.ca.auf-09082011.tar.gz 146G archive-nfs-authnss.ca.auf-09082011.tar.gz 170M archive-toip.ca.auf.org-09082011.tar.gz 9,0G archive-vz-aufhorsite.ca.auf.org-09082011.tar.gz 18G archive-vz-auforg.ca.auf-09082011.tar.gz 51G archive-vz-intranet.ca.auf-09082011.tar.gz 181G archive-vz-mail.ca.auf-10082011.tar.gz 6,4G archive-vz-superca.ca.auf-10082011.tar.gz (exclut les logs centralisés) 151G archive-vz-tech.ca.auf-10082011.tar.gz 39G archive-vz-www.ca.auf-10082011.tar.gz 354M archive-zeus.auf-10082011.tar.gz }}} ---- '''ABANDONNE''' : Backuppc * installation classique de backuppc * ensuite copie des config du backuppc sur site * changements : * full backup : 1 fois par mois * increment backup : 1 fois par semaine * serveurs sauvegardés (taille total d'environ 330GB au départ): * tous les vz (auforg, intranet, tech, www, superca, mail) * nfs-auth.ca.auf * fw.ca.auf * toip.ca.auf.org * pour éviter de bouffer toute la bande passante, on limite le débit du rsync en ajoutant l'option `--bwlimit=2048` (en KBytes par seconde) * serveur web * accessible en https uniquement (avec certificat serveur-ssl PKI-AUF, compte backup-horsite.ca-auf-org.https) * http redirigé vers www.auf.org |
Sommaire
Les sauvegardes
Crons et tailles des sauvegardes
Les crons |
Tailles (en date du 15/06/2012) |
||||
Jour |
Heure |
Serveur |
Durée moyenne |
Backup |
Archive |
Dimanche |
07h00 |
vz-tech.ca.auf |
30min |
17G |
4,1G |
Lundi |
18h00 |
vz-aufhorsite.ca.auf.org |
3min |
14G |
6,8G |
Mardi |
18h00 |
vz-auforg.ca.auf |
56min |
34G |
20G |
01h00 |
toip.ca.auf.org |
1min |
1,5G |
204M |
|
Mercredi |
18h00 |
vz-intranet.ca.auf |
30min |
65G |
42G |
01h00 |
zeus.auf |
3min |
1,2G |
358M |
|
Jeudi |
18h00 |
nfs-mtl.ca.auf |
4h |
588G |
175G |
18h00 |
vz-www.ca.auf |
50min |
77G |
60G |
|
Vendredi |
01h00 |
vz-superca.ca.auf |
5min |
4,1G |
1,1G |
Samedi |
18h00 |
vz-montreal.ca.auf |
2h |
184G |
100G |
1 fois par jour |
21h00 |
maestro.ca.auf |
15min |
8,8G |
8,2G |
Durée d'un du -sh /var/lib/BACKUP-RSYNC/* : 10:55:15 à 12:04:27 == 1h
la commande rsync de sauvegarde
# Ex : vz-aufhorsite ... rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-aufhorsite.ca.auf.org/
fichiers exclus du rsync, listés dans le fichier /etc/rsync-horsite-exclude
/media/* /dev/* /mnt/* /proc/* /sys/* /net/* /tmp/* /lost+found/* /var/lock/* /var/run/* /var/spool/* "/home/*/{Vid\x{e9}os,Images,Musique}"
- + pour les HN openvz
/var/lib/vz/private/* /var/lib/vz/root/*/dev/* /var/lib/vz/root/*/proc/* /var/lib/vz/root/*/sys/* /var/lib/vz/root/*/tmp/*
+ /var/lib/vz/root/502/srv/debmirror/* pour vz-tech
+ /var/lib/vz/root/205/srv/debmirror/* pour vz-montreal
+ /var/lib/vz/root/603/var/log/distants/* pour vz-superca
- + pour nfs-mtl
*.avi *.mov *.mpeg "/home/*/{Vid\x{e9}os,Images,Musique}" /home/PARTAGES/commun/*
Diverses considérations
- pour solutionner le problème de saturation de la bande passante par le backuppc hors site, on fait maintenant des rsync direct contrôlés à des jours et moments calculés en fonction de la taille des différents serveurs.
- Ces rsync se font depuis les serveurs vers le backup hors site
- on fait des rsync avec des delete sur les fichiers qui n'existent dans la source, pour économiser de l'espace
le dossier des backups : /var/lib/BACKUP-RSYNC, sur le /dev/md0 raid5 2To
on gardera une archive (tar.gz) de chaque serveur pour une durée de 6 mois (dossier /var/lib/ARCHIVES-BACKUP (/dev/md1 raid1 1To) et script /usr/local/sbin/archivage-backup.sh). On n'archive pas tout (problème d'espace):
zeus_fichiers="." maestro_fichiers="." nfs_fichiers="boot etc home home-local root usr/local var/lib/git/root var/log" toip_fichiers="boot etc home root srv usr/local var/lib/asterisk var/lib/git/root var/log var/spool/asterisk/voicemail/AUF" les_fichiers_vz="boot etc home root usr/local var/lib/git/root var/lib/vz/root var/lib/vz/template var/log"
- on verra par la suite s'il est nécessaire de limiter l'utilisation de la bande passante (rsync --bwlimit=nnnn kbps ...)
Le serveur
Caractéristiques
- S/N : 0099806463; P/N : 52100-00909-RS
- Firmeware : v3.2.4 Build 0315 (à la date du 27 avril 2010)
Touche d'accès au BIOS : DEL
- Processeur : Intel Processor Core 2 Duo 2.8 GHz
- RAM : 2GB DDRII RAM
- Disques durs :
- Disque Flash : 128MB DOM
- Disque SATA : 4 x 1TB x Western Digital Caviar Black WD1001FALS.
- On a 4 disques identiques de réserve
Installation de Debian
.. ça n'a pas été facile, mais ts-809-u a été dompté ...
- partitionnement :
- /boot : /dev/sde1 (flash disk) (128 MB)
- /dev/md0 (RAID5 [sda1,sdb1,sdc1] + spare [sdd1]) : LVM
- lvm vg : auf
- lvm lv :
- / : /dev/auf/racine (2Go)
- /var : /dev/auf/var (2Go)
- /var/lib/backuppc : /dev/auf/var-lib-backuppc (2000Go)
- swap : 2Go
- pour partitionner : on boote normalement le NAS et ensuite on s'y connecte en ssh (ssh admin:admin@IP). Ensuite :
- on supprime les partitions du disque flash (bien sûr on a fait un backup préalable). Et on crée notre /dev/sde1 pour le /boot
- avec mdadm on crée notre RAID5.
- la suite (/dev/md0 en LVM) se passe lors de l'installation de Debian
PARTICULARITE ou bizarrerie : GRUB est dans /boot/boot/grub
- au boot, après l'installation de Debian, "error 15" de grub
- une ré-installation du grub (grub-install), depuis un liveCD, crée un dossier boot/grub sur la partition /boot (dev/sde1). Il a aussi fallu corriger le disque de démarrage (remplacer (hd4,0) par (hd0,0))
conclusion : /boot/grub et /boot/boot/grub existent mais c'est le second qui est utilisé.
Configuration réseau
- IP publique : 204.136.13.26/255.255.255.192
- hostname : backup-horsite.ca.auf.org
- Tunnel openvpn
- connecté sur new-openvpn
- IP openvpn : 10.36.8.5
- certificat PKI-AUF utilisateur : backup-horsite.ca-auf-org
- accessible en toc-toc-toc ssh (nc -w 1 backup-horsite.ca-auf-org port1 port2 port3 ; ssh backup-horsite.ca-auf-org)
Firewall
- règles de base :
- tous les INPUT sont rejetés par défaut
- tous les OUPUT sont autorisés
- tous les FORWARD sont entièrement fermés
- les accès
- tout depuis le gateway de Montréal (199.84.140.254) est accepté
- tout depuis le RPV AUF (10.0.0.0/8) est accepté
- le ssh est accepté en port knocking