Modifications entre les versions 12 et 13
Version 12 à la date du 2011-08-11 18:27:07
Taille: 7945
Éditeur: MoussaNombre
Commentaire: Mise à jour
Version 13 à la date du 2012-06-15 16:14:55
Taille: 5714
Éditeur: MoussaNombre
Commentaire: Grosse mise à jour
Texte supprimé. Texte ajouté.
Ligne 5: Ligne 5:
= Serveur de backup hors site = = Les sauvegardes =
Ligne 7: Ligne 7:
== Le serveur ==
=== Caractéristiques ===
== Crons et tailles des sauvegardes ==

||||||||'''Les crons'''||||'''Tailles (en date du 15/06/2012)'''||
||'''Jour'''||'''Heure'''||'''Serveur'''||'''Durée moyenne'''||'''Backup'''||'''Archive'''||
||Dimanche||07h00||vz-tech.ca.auf||30min||17G||4,1G||
||Lundi||18h00||vz-aufhorsite.ca.auf.org||3min||14G||6,8G||
||<|2>Mardi||18h00||vz-auforg.ca.auf||56min||34G||20G||
||01h00||toip.ca.auf.org||1min||1,5G||204M||
||<|2>Mercredi||18h00||vz-intranet.ca.auf||30min||65G||42G||
||01h00||zeus.auf||3min||1,2G||358M||
||<|2>Jeudi||18h00||nfs-mtl.ca.auf||4h||588G||175G||
||18h00||vz-www.ca.auf||50min||77G||60G||
||Vendredi||01h00||vz-superca.ca.auf||5min||4,1G||1,1G||
||Samedi||18h00||vz-montreal.ca.auf||2h||184G||100G||
||1 fois par jour||21h00||maestro.ca.auf||15min||8,8G||8,2G||

 * Durée d'un `du -sh /var/lib/BACKUP-RSYNC/*` : 10:55:15 à 12:04:27 == 1h

 * la commande `rsync` de sauvegarde
   {{{
# Ex : vz-aufhorsite
... rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-aufhorsite.ca.auf.org/
   }}}
 * fichiers exclus du `rsync`, listés dans le fichier `/etc/rsync-horsite-exclude`
   {{{
/media/*
/dev/*
/mnt/*
/proc/*
/sys/*
/net/*
/tmp/*
/lost+found/*
/var/lock/*
/var/run/*
/var/spool/*
"/home/*/{Vid\x{e9}os,Images,Musique}"
   }}}

   . + pour les HN openvz
    {{{
/var/lib/vz/private/*
/var/lib/vz/root/*/dev/*
/var/lib/vz/root/*/proc/*
/var/lib/vz/root/*/sys/*
/var/lib/vz/root/*/tmp/*
    }}}
    . + `/var/lib/vz/root/502/srv/debmirror/*` pour vz-tech
    . + `/var/lib/vz/root/205/srv/debmirror/*` pour vz-montreal
    . + `/var/lib/vz/root/603/var/log/distants/*` pour vz-superca
   . + pour nfs-mtl
     {{{
*.avi
*.mov
*.mpeg
"/home/*/{Vid\x{e9}os,Images,Musique}"
/home/PARTAGES/commun/*
     }}}


== Diverses considérations ==
 
 1. pour solutionner le problème de saturation de la bande passante par le backuppc hors site, on fait maintenant des rsync direct contrôlés à des jours et moments calculés en fonction de la taille des différents serveurs.
 1. Ces rsync se font depuis les serveurs vers le backup hors site
 1. on fait des rsync avec des delete sur les fichiers qui n'existent dans la source, pour économiser de l'espace
 1. le dossier des backups : `/var/lib/BACKUP-RSYNC`, sur le `/dev/md0` raid5 2To
 1. on gardera une archive (tar.gz) de chaque serveur pour une durée de 6 mois (dossier `/var/lib/ARCHIVES-BACKUP` (`/dev/md1` raid1 1To) et script `/usr/local/sbin/archivage-backup.sh`). On n'archive pas tout (problème d'espace):
  {{{
zeus_fichiers="."
maestro_fichiers="."
nfs_fichiers="boot etc home home-local root usr/local var/lib/git/root var/log"
toip_fichiers="boot etc home root srv usr/local var/lib/asterisk var/lib/git/root var/log var/spool/asterisk/voicemail/AUF"
les_fichiers_vz="boot etc home root usr/local var/lib/git/root var/lib/vz/root var/lib/vz/template var/log"
  }}}
 1. on verra par la suite s'il est nécessaire de limiter l'utilisation de la bande passante (rsync --bwlimit=nnnn kbps ...)


= Le serveur =
== Caractéristiques ==
Ligne 20: Ligne 97:
=== Installation de Debian === == Installation de Debian ==
Ligne 40: Ligne 117:
=== Configuration réseau === == Configuration réseau ==
Ligne 58: Ligne 135:

== Les sauvegardes ==

NB :
 1. pour solutionner le problème de saturation de la bande passante par le backuppc hors site, on fait maintenant des rsync direct contrôlés à des jours et moments calculés en fonction de la taille des différents serveurs.
 1. Ces rsync se font depuis les serveurs vers le backup hors site
 1. on fait des rsync avec des delete sur les fichiers qui n'existent dans la source, pour économiser de l'espace
 1. le dossier des backups : `/var/lib/BACKUP-RSYNC`, sur le `/dev/md0` raid5 2To
 1. on gardera une archive (tar.gz) de chaque serveur pour une durée de 6 mois (dossier `/var/lib/ARCHIVES-BACKUP` (`/dev/md1` raid1 1To) et script `/usr/local/sbin/archivage-backup.sh`). On n'archive pas tout (problème d'espace):
  {{{
zeus_fichiers="."
maestro_fichiers="."
nfs_fichiers="boot etc home home-local root usr/local var/lib/git/root var/log"
toip_fichiers="boot etc home root srv usr/local var/lib/asterisk var/lib/git/root var/log var/spool/asterisk/voicemail/AUF"
les_fichiers_vz="boot etc home root usr/local var/lib/git/root var/lib/vz/root var/lib/vz/template var/log"
  }}}
 1. on verra par la suite s'il est nécessaire de limiter l'utilisation de la bande passante (rsync --bwlimit=nnnn kbps ...)

 * Les crons

  {{{
[vz-tech.ca.auf]
0 7 * * 0 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-tech.ca.auf/

[vz-aufhorsite.ca.auf.org]
0 18 * * 1 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-aufhorsite.ca.auf.org/

[toip.ca.auf.org]
0 1 * * 2 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/toip.ca.auf.org/

[vz-auforg.ca.auf]
0 18 * * 2 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-auforg.ca.auf/

[zeus.auf]
0 1 * * 3 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/zeus.auf/

[vz-intranet.ca.auf]
0 18 * * 3 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-intranet.ca.auf/

[vz-www.ca.auf]
0 18 * * 4 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-www.ca.auf/

[vz-superca.ca.auf]
0 1 * * 5 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-superca.ca.auf/

[nfs-mtl.ca.auf]
0 18 * * 5 root rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/nfs-authnss.ca.auf/

[vz-mail.ca.auf]
0 18 * * 6 root rsync -a -H --numeric-ids --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-mail.ca.auf/
  }}}

 * État
  {{{
## 20 mai 2011
backup-horsite:/var/lib/BACKUP-RSYNC# du -sh *
7,8G maestro.ca.auf
472G nfs-authnss.ca.auf
2,9G toip.ca.auf.org
24G vz-aufhorsite.ca.auf.org
38G vz-auforg.ca.auf
61G vz-intranet.ca.auf
215G vz-mail.ca.auf
50G vz-superca.ca.auf
277G vz-tech.ca.auf
105G vz-www.ca.auf
1,8G zeus.auf


## 11 août 2011

backup-horsite:/var/lib/BACKUP-RSYNC# du -sh *
7,8G maestro.ca.auf
428G nfs-authnss.ca.auf
2,0G toip.ca.auf.org
16G vz-aufhorsite.ca.auf.org
34G vz-auforg.ca.auf
61G vz-intranet.ca.auf
191G vz-mail.ca.auf
53G vz-superca.ca.auf
164G vz-tech.ca.auf
55G vz-www.ca.auf
796M zeus.auf

backup-horsite:/var/lib/ARCHIVES-BACKUP# du -sh *
7,7G archive-maestro.ca.auf-09082011.tar.gz
146G archive-nfs-authnss.ca.auf-09082011.tar.gz
170M archive-toip.ca.auf.org-09082011.tar.gz
9,0G archive-vz-aufhorsite.ca.auf.org-09082011.tar.gz
18G archive-vz-auforg.ca.auf-09082011.tar.gz
51G archive-vz-intranet.ca.auf-09082011.tar.gz
181G archive-vz-mail.ca.auf-10082011.tar.gz
6,4G archive-vz-superca.ca.auf-10082011.tar.gz (exclut les logs centralisés)
151G archive-vz-tech.ca.auf-10082011.tar.gz
39G archive-vz-www.ca.auf-10082011.tar.gz
354M archive-zeus.auf-10082011.tar.gz
  }}}
 
----

'''ABANDONNE''' : Backuppc
 * installation classique de backuppc
 * ensuite copie des config du backuppc sur site
 * changements :
  * full backup : 1 fois par mois
  * increment backup : 1 fois par semaine
  * serveurs sauvegardés (taille total d'environ 330GB au départ):
   * tous les vz (auforg, intranet, tech, www, superca, mail)
   * nfs-auth.ca.auf
   * fw.ca.auf
   * toip.ca.auf.org
  * pour éviter de bouffer toute la bande passante, on limite le débit du rsync en ajoutant l'option `--bwlimit=2048` (en KBytes par seconde)
 * serveur web
  * accessible en https uniquement (avec certificat serveur-ssl PKI-AUF, compte backup-horsite.ca-auf-org.https)
  * http redirigé vers www.auf.org

Les sauvegardes

Crons et tailles des sauvegardes

Les crons

Tailles (en date du 15/06/2012)

Jour

Heure

Serveur

Durée moyenne

Backup

Archive

Dimanche

07h00

vz-tech.ca.auf

30min

17G

4,1G

Lundi

18h00

vz-aufhorsite.ca.auf.org

3min

14G

6,8G

Mardi

18h00

vz-auforg.ca.auf

56min

34G

20G

01h00

toip.ca.auf.org

1min

1,5G

204M

Mercredi

18h00

vz-intranet.ca.auf

30min

65G

42G

01h00

zeus.auf

3min

1,2G

358M

Jeudi

18h00

nfs-mtl.ca.auf

4h

588G

175G

18h00

vz-www.ca.auf

50min

77G

60G

Vendredi

01h00

vz-superca.ca.auf

5min

4,1G

1,1G

Samedi

18h00

vz-montreal.ca.auf

2h

184G

100G

1 fois par jour

21h00

maestro.ca.auf

15min

8,8G

8,2G

  • Durée d'un du -sh /var/lib/BACKUP-RSYNC/* : 10:55:15 à 12:04:27 == 1h

  • la commande rsync de sauvegarde

    • # Ex : vz-aufhorsite
      ... rsync -a --numeric-ids -H --delete --delete-excluded --exclude-from=/etc/rsync-horsite-exclude / backup-horsite.ca.auf.org:/var/lib/BACKUP-RSYNC/vz-aufhorsite.ca.auf.org/
  • fichiers exclus du rsync, listés dans le fichier /etc/rsync-horsite-exclude

    • /media/*
      /dev/*
      /mnt/*
      /proc/*
      /sys/*
      /net/*
      /tmp/*
      /lost+found/*
      /var/lock/*
      /var/run/*
      /var/spool/*
      "/home/*/{Vid\x{e9}os,Images,Musique}"
    • + pour les HN openvz
      • /var/lib/vz/private/*     
        /var/lib/vz/root/*/dev/*
        /var/lib/vz/root/*/proc/*
        /var/lib/vz/root/*/sys/*
        /var/lib/vz/root/*/tmp/*
      • + /var/lib/vz/root/502/srv/debmirror/* pour vz-tech

      • + /var/lib/vz/root/205/srv/debmirror/* pour vz-montreal

      • + /var/lib/vz/root/603/var/log/distants/* pour vz-superca

    • + pour nfs-mtl
      • *.avi
        *.mov
        *.mpeg
        "/home/*/{Vid\x{e9}os,Images,Musique}"
        /home/PARTAGES/commun/*

Diverses considérations

  1. pour solutionner le problème de saturation de la bande passante par le backuppc hors site, on fait maintenant des rsync direct contrôlés à des jours et moments calculés en fonction de la taille des différents serveurs.
  2. Ces rsync se font depuis les serveurs vers le backup hors site
  3. on fait des rsync avec des delete sur les fichiers qui n'existent dans la source, pour économiser de l'espace
  4. le dossier des backups : /var/lib/BACKUP-RSYNC, sur le /dev/md0 raid5 2To

  5. on gardera une archive (tar.gz) de chaque serveur pour une durée de 6 mois (dossier /var/lib/ARCHIVES-BACKUP (/dev/md1 raid1 1To) et script /usr/local/sbin/archivage-backup.sh). On n'archive pas tout (problème d'espace):

    • zeus_fichiers="."
      maestro_fichiers="."
      nfs_fichiers="boot etc home home-local root usr/local var/lib/git/root var/log"
      toip_fichiers="boot etc home root srv usr/local var/lib/asterisk var/lib/git/root var/log var/spool/asterisk/voicemail/AUF"
      les_fichiers_vz="boot etc home root usr/local var/lib/git/root var/lib/vz/root var/lib/vz/template var/log"
  6. on verra par la suite s'il est nécessaire de limiter l'utilisation de la bande passante (rsync --bwlimit=nnnn kbps ...)

Le serveur

Caractéristiques

  • QNAP TS-809U-RP turbo NAS

    • S/N : 0099806463; P/N : 52100-00909-RS
    • Firmeware : v3.2.4 Build 0315 (à la date du 27 avril 2010)
    • Touche d'accès au BIOS : DEL

  • Processeur : Intel Processor Core 2 Duo 2.8 GHz
  • RAM : 2GB DDRII RAM
  • Disques durs :
    • Disque Flash : 128MB DOM
    • Disque SATA : 4 x 1TB x Western Digital Caviar Black WD1001FALS.
      • On a 4 disques identiques de réserve

Installation de Debian

.. ça n'a pas été facile, mais ts-809-u a été dompté ...

  • partitionnement :
    • /boot : /dev/sde1 (flash disk) (128 MB)
    • /dev/md0 (RAID5 [sda1,sdb1,sdc1] + spare [sdd1]) : LVM
      • lvm vg : auf
      • lvm lv :
        • / : /dev/auf/racine (2Go)
        • /var : /dev/auf/var (2Go)
        • /var/lib/backuppc : /dev/auf/var-lib-backuppc (2000Go)
        • swap : 2Go
    • pour partitionner : on boote normalement le NAS et ensuite on s'y connecte en ssh (ssh admin:admin@IP). Ensuite :
      • on supprime les partitions du disque flash (bien sûr on a fait un backup préalable). Et on crée notre /dev/sde1 pour le /boot
      • avec mdadm on crée notre RAID5.
      • la suite (/dev/md0 en LVM) se passe lors de l'installation de Debian
  • PARTICULARITE ou bizarrerie : GRUB est dans /boot/boot/grub

    • au boot, après l'installation de Debian, "error 15" de grub
    • une ré-installation du grub (grub-install), depuis un liveCD, crée un dossier boot/grub sur la partition /boot (dev/sde1). Il a aussi fallu corriger le disque de démarrage (remplacer (hd4,0) par (hd0,0))
    • conclusion : /boot/grub et /boot/boot/grub existent mais c'est le second qui est utilisé.

Configuration réseau

  • IP publique : 204.136.13.26/255.255.255.192
  • hostname : backup-horsite.ca.auf.org
  • Tunnel openvpn
    • connecté sur new-openvpn
    • IP openvpn : 10.36.8.5
    • certificat PKI-AUF utilisateur : backup-horsite.ca-auf-org
  • accessible en toc-toc-toc ssh (nc -w 1 backup-horsite.ca-auf-org port1 port2 port3 ; ssh backup-horsite.ca-auf-org)

Firewall

  • règles de base :
    • tous les INPUT sont rejetés par défaut
    • tous les OUPUT sont autorisés
    • tous les FORWARD sont entièrement fermés
  • les accès
    • tout depuis le gateway de Montréal (199.84.140.254) est accepté
    • tout depuis le RPV AUF (10.0.0.0/8) est accepté
    • le ssh est accepté en port knocking

ZA/Montréal/ServeursHorsSite/Backup (dernière édition le 2015-03-20 16:25:18 par MoussaNombre)