Greboca  

Planet Libre  -  Ulrich Van Den Hekke : Woodstock Backup v1.0.0

 -  20 septembre - 

Bonjour à tous,

Un projet s'en va et un autre commence. Je suis heureux de vous présenter ce nouveau projet: Woodstock Backup.

Genèse du projet

Mes problèmes

Pour faire des sauvegardes, j'utilisais jusqu'ici BackupPC. C'est un très bon logiciel pour effectuer des sauvegardes de plusieurs machines sur une instance centralisée.

BackupPC est écrit en Perl avec des partie en C. En effet il se base sur un fork de rsync qui permet d'enregistrer le résultat des sauvegardes dans un format qui lui est propre. Malgré qu'il fonctionne très bien j'ai eu plusieurs problèmes avec récemment.

Il permet de faire des sauvegardes lancées depuis un serveur centralisé. Ce dernier vérifie régulièrement si les différents PC à sauvegarder sont présents sur le réseau et s'y connecte pour faire les sauvegardes sur la base d'un calendrier.

Le serveur a besoin de pouvoir se connecter sur tous les clients (incovénient que je suis prêt à accepter) mais les clients n'ont du coup pas besoin de devoir se connecter au serveur (avec le risque qu'un client compromis, compromette le serveur).

BackupPC est également capable de décider de l'heure de la sauvegarde en fonction de la date de la dernière sauvegarde ainsi que de la présence du PC sur le réseau. Ainsi si un PC est toujours présent, il peut être sauvegardé tout en préservant les heures où la personne a besoin de toute la puissance de son PC, sauf si la sauvegarde date de trop.

Je vous invite fortement à aller à l'adresse https://backuppc.github.io/backuppc/ pour en savoir plus sur BackupPC.

BackupPC

Voici les quelques problèmes que j'ai eu récemment avec les dernières versions de BackupPC :

  • Lors du passage de la version v3 à la version v4, et alors que le pool de sauvegarde était stocké sur un partage NFS, je me suis mis à perdre des fichiers: Impossible de restaurer des fichiers.

Après quelques recherches j'ai découvert que BackupPC v4 n'était pas compatible avec NFS, et j'ai dû basculer toute mon installation sur un disque iSCSI sur mon NAS.

J'ai alors perdu mon historique de sauvegarde (je n'avais alors pas assez de place pour faire faire mes sauvegardes dans un coin et des expérimentations/migrations de l'autre).

  • Une fois les sauvegardes effectuées je souhaite pouvoir copier le résultat sur un disque dur USB (qui contient donc alors la dernière version). Cette archive est alors déposée régulièrement hors site afin de minimiser le risque de perte de données.

BackupPC permet de le faire nativement en exportant des archives au format TAR sur ce disque dur USB (moyennant une pré-étape pour monter le disque, et une post-étape pour le démonter).

Cela me pose problème, en effet je veux pouvoir facilement accéder au contenu de l'archive (donc sans ouvrir le tar), et cette dernière est également très longue à créer. De plus il m'est déjà arrivé d'ouvrir un tar et de me rendre compte que l'archive était corrompue (tronquée) soit par manque de place soit car l'archivage n'avait pas fonctionné correctement mais sans avertissement.

Je m'emploie donc à créer un script qui à l'aide d'un connecteur Fuse BackupPC me permet de synchroniser les dernières versions des sauvegardes avec rsync vers le disque dur USB.

Malheureusement le script FUSE n'est pas très maintenu, et pose problème avec des fichiers de plusieurs centaines de gigaoctets, ou avec les permissions de fichiers sauvegardés avec des machines Windows. J'ai donc adapté le script Fuse à mes problèmes pour régler uniquement le problème de droits.

La modification n'est pas super propre: je squeeze les droits si l'utilisateur à un uid particulier.

Vous pouvez retrouver ma modification ici.

Le fait est que même si la solution continue de tourner actuellement et fonctionne bien, j'ai perdu une partie de la confiance que j'ai en ce produit.

Etudes des autres solutions

Quelques critères:

  • Déjà un premier critère est que la solution doit être Open Source.
  • Je ne veux pas de client lourd pour visualiser mes sauvegardes (seul un client léger pour y accéder de n'importe où).
  • Je veux pouvoir facilement créer des archives sur des disques durs USB à plat (sans format spécial comme zip, tar, ...)
  • Je dois pouvoir sauvegarder des machines sous Windows ou sous Linux.
  • Je suis prêt à installer un client lourd sur le client qui est sauvegardé.
  • Je dois sauvegarder 6 machines (1 serveur dédié, 2 Vieux PC portable, 2 Vieux PC Fixe, 1 Vieux NAS) sans que les utilisateurs (ma femme, moi) n'aient à y penser.
  • Si le logiciel est facilement contrôlable par API et via une IHM simple d'utilisation, c'est un grand plus.

J'ai regardé plusieurs solutions et voici les deux solutions qui m'ont tapé dans l'oeil (et ça fait mal) en plus de BackupPC que j'utilse déjà.

Je précise que mes tests sont alors limités car je n'ai pas assez d'espace de stockage pour avoir à la fois le pool de BackupPC de environ 2To et le pool d'un autre gestionnaire de sauvegarde en même temps.

UrBackup

J'ai alors installé UrBackup.

J'ai apprécié l'utiliser en utilisant le stockage btrfs. Il permet aussi d'utiliser un système de stockage qui lui est propre.

Je n'ai pas trouvé de méthode pour effectuer de l'archivage sur disque dur USB des dernières sauvegardes uniquement (et pas l'ensemble du pool) pour stockage off-site. Ce point pourrait être resolvable en utilisant justement le stockage Btrfs et en écrivant mes propres scripts.

Sous Windows, il permet aussi de créer des Snapshots (équivalent LVM) pour permettre de faire des sauvegardes de fichier en lecture.

Il aussi capable de faire des images disque des machines Windows.

UrBackup utilise un client à installer sur chaque ordinateur à sauvegarder. Cela ne pose pas de problème et peut permettre d'optimiser la vitesse de sauvegarde par rapport à un simple rsync, et d'avoir un format de stockage propre pour optimiser la taille occupé.

Bref, sur le papier UrBackup a tout pour plaire.

Pourquoi ne pas l'utiliser ? Bonne question :).

La migration de mon historique de sauvegarde de BackupPC vers UrBackup n'était pas possible facilement. Il aurait fallu pour cela qu'en plus de générer la structure Btrfs qui va bien créer la structure dans la base Sqlite, ce que je n'ai pas forcément trouvé pratique.

Il me semble aussi que je ne trouvais pas l'interface très pratique (entre autres pour la restauration de fichiers).

Je n'ai pas plus de raisons que cela de ne pas l'utiliser, donc si vous cherchez un logiciel pour faire des sauvegardes n'hésitez pas à le tester.

Borg

J'ai aimé utiliser également Borg.

Surtout la possibilité de pouvoir chiffrer les sauvegardes, ainsi que les performances de Borg mêmes.

Malheureusement, je souhaite pouvoir facilement déchiffrer le contenu depuis le serveur principal pour archiver plusieurs sauvegardes de plusieurs machines en même temps.

Je souhaite également pouvoir sauvegarder toute sortes d'ordinateurs. Certains appartenant au réseau local, d'autres se trouvant être des dédiés sur Internet. Des PC sous Linux mais aussi un PC sous Windows.

Borg m'aurait alors posé quelques soucis sous Windows.

Je ne souhaite pas que mes serveurs dédiés aient accès à mon réseau local pour faire les sauvegardes, ni aient accès aux serveurs de backup directement au risque de compromettre la sécurité. Il faut alors paramétrer le serveur de backup pour gérer cela au niveau de ssh

Il n'est pas possible non plus de mutualiser les sauvegardes dans un seul repo, ce qui au delà des problèmes de sécurité, pose également des problèmes de lock.

Je pense que Borg est par contre un très bon logiciel pour faire une sauvegarde de son PC perso quand on ne s'occupe que de soi et qu'on a qu'un seul PC.

Autres tests

J'ai également testé rapidement Burp pour lequel je jette un oeil également régulièrement, mais l'IHM non intégré était alors très lente lors de mes tests, et la ligne de commande me rendait la restauration de fichiers complexe lors du peu de fois que je l'ai utilisé.

Il est alors difficile de trouver un concurrent qui me convienne pour remplacer BackupPC.

Si vous pensez que je me suis trompé sur les tests que j'ai fait ci-dessus, ou que vous voyez un autre logiciel de sauvegardes qui pourrait me convenir, n'hésitez pas à m'envoyer un mail.

A l'heure actuelle j'ai décidé d'écrire mon propre système de sauvegarde que j'ai nommé Woodstock Backup.

Woodstock Backup

A défaut de tourner en rond et de ne pas être complètement satisfait, j'ai décidé de développer ma propre solution. Ainsi si je n'ai pas toutes les fonctionnalités que je désire, je n'ai qu'à m'en prendre à moi-même et les développer.

Il n'est pas facile de choisir un nom pour un logiciel.

Lors du développement de cette application de sauvegarde, je regardais un épisode d'une série dont l'histoire se passait à Woodstock, d'où le nom :).

Les fonctionnalités

Quels sont les fonctionnalités à l'heure actuelle :

  • Faire des sauvegardes de façon régulière (par exemple une fois par jour) et lors de la dispo de l'ordinateur.
  • Pour chaque sauvegarde il est possible d'éxecuter des étapes en amont et en aval, voir de faire plusieurs sauvegardes de plusieurs dossiers.
  • On peut lister les sauvegardes pour chaque hôte.
  • On peut télécharger les fichiers un par un ou en téléchargeant un fichier Zip.
  • Les sauvegardes sont stockées sur un système de fichier Btrfs ce qui permet de bénéficier du système de Snapshot pour la déduplication, et de pouvoir accéder (à des fins d'archivage) directement aux sauvegardes sans contrainte.
  • Btrfs permet également de compresser les sauvegardes (avec les bonnes options au montage).
  • Comme RSync est utilisé, il est installé sur tous les clients (même windows), ce qui facilite son utilisation1.
  • L'application possède une interface moderne (à mon goût)2
  • L'application est contrôlable via une API Rest et via une API GraphQL.

Quelques captures d'écran

DashboardHostsRunningTask

Comment l'installer ?

J'ai écrit un site Internet pour présenter Woodstock: https://woodstock.shadoware.org/ et porter la documentation.

Vous pouvez retrouver les liens de téléchargement depuis le repository de code sources :

L'installation se fait très simplement, j'ai écrit un peu de documentation pour expliquer cela.

Il est possible d'effectuer une installation via:

  • les sources
  • un paquet debian/ubuntu
  • l'image docker (c'est l'installation que j'utilise moi-même)

Par rapport à mon besoin

Reprenons mes critères :

  • Open Source: Check
  • Client léger: Check
  • Archivage sur disque dur USB à plat: Partiel (Btrfs me permet de le faire manuellement à l'aide d'un script maison)
  • Compatible Windows/Linux: Check (via rsync)
  • Sauvegarde sans y penser (automatique): Check
  • API ou IHM simple d'utilisation: Milk Check. L'API est là. Il est simple d'utilisation pour moi, mais peut encore être amélioré

Donc pour l'instant il répond à mes besoins mais reste améliorable.

Roadmap

  • Avoir un outil d'archivage automatique intégré.
  • Les suppressions automatiques de sauvegardes sont à prévoir également.
  • Peut-être remplacer Btrfs par autre chose, car actuellement
  • Sans Btrfs, le logiciel ne peut pas fonctionner, donc cela limite les OS du serveur de sauvegarde.
  • Il y aurait des problèmes de performances avec Btrfs en cas de trop grand nombre de snapshots et de l'utilisation des qgroups. Pour l'instant je n'ai ce genre de problème que lors de la suppression de sauvegarde.
  • Il n'est pas possible de faire de la déduplication inter-machines simplement.
  • L'utilisation d'un système de fichier unique empêche l'utilisation de plusieurs serveurs de backups, synchronisés. (Je me dis que sur les grosses infrastructures, il peut-être intéressant de scaler horizontalement)

  • Par contre, si je remplace Btrfs par autre chose, les questions sont alors

    • par quoi ?
    • Comment fais-je pour Rsync ?
    • Dois-je le remplacer aussi ?
    • Avoir mon propre client de sauvegarde (comme UrBackup) ?

Si vous avez des éléments de réponses, ou des idées là aussi, n'hésitez pas non plus à m'envoyer un mail. Si vous aussi n'êtes pas satisfaits de votre solution de sauvegardes, contactez-moi pour me dire ce qu'il vous faudrait, voir même pour contribuer.

Quelques chiffres

À l'heure actuelle, je suis passé à Woodstock Backup pour mes sauvegardes en ayant migré toutes mes sauvegardes depuis BackupPC.

Je peux donc faire quelques comparaisons rapides (Woodstock Backup méritant encore quelques évolutions pour atteindre le niveau de BackupPC dans certains domaines).

Je possède 6 machines dont l'espace est répartit comme suite :

Machine Stockage
pc-windows 260.8 Gb 
pc-portable-1 148.1 Gb
pc-portable-2 41.0 Gb
pc-linux 153.3 Gb
nas 1.4 Tb
server-ovh 189.6 Gb

Certains fichiers (comme les photos de vacances, ...) peuvent être sur plusieurs machines (nas + pc fixe).

Comparaison BackupPC Woodstock
Pool de sauvegarde le stockage optimisé 1,88 To  Le stockage btrfs avec compression prend 2,1 To
Compression pc-windows 357 Go non compressé 326 Go non compressé
246 Go compressé 245 Go compressé
Compression pc-portable-1 74 Go non compressé 79 Go non compressé
70 Go compressé 75 Go compressé
Temps de sauvegarde incrémental NAS  21 minutes en moyenne 15 minutes en moyenne
Temps de sauvegarde incrémental pc-linux 30 minutes en moyenne 7 minutes en moyenne

J'ai l'impression que la notion de compress-force n'est pas prise en compte, et que la compression n'est pas des plus efficaces.

Pour la taille du pool de sauvegarde cela ne m'étonne pas vu que la déduplication n'est pas cross-machine.

Pour le temps de sauvegarde c'est une bonne surprise mais là aussi, je pense que c'est normal vu que rsync ne doit pas faire de déduplication à son niveau.


  1. A voir si je conserve ce mode de fonctionnement pour le futur. J'envisage de peut-être prendre un client lourd. 

  2. Mais si un UI/UX souhaite améliorer l'interface, je suis preneur. 

Gravatar de Ulrich Van Den Hekke
Original post of Ulrich Van Den Hekke.Votez pour ce billet sur Planet Libre.

Articles similaires

par Ulrich Van Den Hekke

Planet Libre

Le Planet sur Linux et les Logiciels Libres

genma : Linux - Accéder aux données d'une partition Windows chiffrées avec Bitlocker

 -  25 septembre - 

Merci à Neil et Brume, invité.e.s de ce blog, pour avoir rédigé ce tutoriel, complété par mes soins, bien utile pour le double boot de ma machine (...)


blog-libre : Désactiver un service avec systemd

 -  4 septembre - 

Sujet simple en apparence, plus complexe en réalité. La documentation en Français chez Red Hat pour Désactiver un service. Empêcher un service de se (...)


Eddy33 : Maixduino : processeur RISC-V K210

 -  16 juin - 

Salut. Le kit Maixduino de Sipeed est équipé d'un processeur RISC-V développé par la société chinoise Canaan et appelé K210 (K pour Kendryte). Ce (...)


Framablog : Nos plans pour PeerTube v3 : collecte perlée, du live pour cet automne

 -  26 mai - 

Nous dévoilons aujourd’hui la feuille de route des six prochains mois de développement de PeerTube. Avec votre soutien, nous voulons poursuivre les (...)


antistress : L'extension du jour : Request Blocker pour Firefox

 -  19 avril - 

Captain Extensions recommande Request Blocker Pfiou… Les gens ordinaires n'imaginent pas la difficulté d'être un super-héros. Prenez mon cas : la (...)