Skip to content

Restic - Migrate

Restic
  • Man kann ein altes Repo mit Version 1 in ein Repo mit Version 2 migrieren. Ein erster Versuch von mir.

    Schauen wir uns die Hilfe an.

    [frank-ms7c92 ~]# restic migrate -h 
    
    The "migrate" command checks which migrations can be applied for a repository
    and prints a list with available migration names. If one or more migration
    names are specified, these migrations are applied.
    
    EXIT STATUS
    ===========
    
    Exit status is 0 if the command was successful, and non-zero if there was any error.
    
    Usage:
      restic migrate [flags] [migration name] [...]
    
    Flags:
      -f, --force   apply a migration a second time
      -h, --help    help for migrate
    
    Global Flags:
          --cacert file                file to load root certificates from (default: use system certificates)
          --cache-dir directory        set the cache directory. (default: use system default cache directory)
          --cleanup-cache              auto remove old cache directories
          --compression mode           compression mode (only available for repository format version 2), one of (auto|off|max) (default auto)
          --insecure-tls               skip TLS certificate verification when connecting to the repository (insecure)
          --json                       set output mode to JSON for commands that support it
          --key-hint key               key ID of key to try decrypting first (default: $RESTIC_KEY_HINT)
          --limit-download int         limits downloads to a maximum rate in KiB/s. (default: unlimited)
          --limit-upload int           limits uploads to a maximum rate in KiB/s. (default: unlimited)
          --no-cache                   do not use a local cache
          --no-lock                    do not lock the repository, this allows some operations on read-only repositories
      -o, --option key=value           set extended option (key=value, can be specified multiple times)
          --pack-size uint             set target pack size in MiB, created pack files may be larger (default: $RESTIC_PACK_SIZE)
          --password-command command   shell command to obtain the repository password from (default: $RESTIC_PASSWORD_COMMAND)
      -p, --password-file file         file to read the repository password from (default: $RESTIC_PASSWORD_FILE)
      -q, --quiet                      do not output comprehensive progress report
      -r, --repo repository            repository to backup to or restore from (default: $RESTIC_REPOSITORY)
          --repository-file file       file to read the repository location from (default: $RESTIC_REPOSITORY_FILE)
          --tls-client-cert file       path to a file containing PEM encoded TLS client certificate and private key
      -v, --verbose n                  be verbose (specify multiple times or a level using --verbose=n, max level/times is 3)
    

    Dort findet man alles, was man wissen muss 😉

    Als erstes macht Restic einen Test um zu klären, ob man migrieren kann.

    [frank-ms7c92 ~]# restic migrate -r /mnt/Backup/Datensicherung_Home_Restic_UI/
    enter password for repository: 
    repository 50a2a753 opened (repository version 1) successfully, password is correct
    available migrations:
      upgrade_repo_v2       upgrade a repository to version 2
    

    Nun zeigt er uns die Migrationsmöglichkeit an, hier

    upgrade_repo_v2
    

    Der Migrationsvorgang

    [frank-ms7c92 ~]# restic migrate upgrade_repo_v2 -r /mnt/Backup/Datensicherung_Home_Restic_UI/
    enter password for repository: 
    repository 50a2a753 opened (repository version 1) successfully, password is correct
    checking repository integrity...
    using temporary cache in /tmp/restic-check-cache-3584864968
    enter password for repository: 
    repository 50a2a753 opened (repository version 1) successfully, password is correct
    created new cache in /tmp/restic-check-cache-3584864968
    load indexes
    check all packs
    check snapshots, trees and blobs
    [0:05] 100.00%  13 / 13 snapshots
    no errors were found
    applying migration upgrade_repo_v2...
    migration upgrade_repo_v2: success
    

    Der Migrations Prozeß war erfolgreich.

    migration upgrade_repo_v2: success
    

    Danach hatte ich ein Problem, weil ich das alles mal wieder als Root gemacht hatte und nun die Dateiberechtigungen falsch waren. Kurz geändert, dann kann es weiter gehen 🙂

    [frank-ms7c92 ~]# ls -lha /mnt/Backup/Datensicherung_Home_Restic_UI/
    insgesamt 32K
    drwx------   7 frankm frankm 4,0K 25. Aug 22:10 .
    drwxr-xr-x   8 frankm frankm 4,0K 24. Jul 10:37 ..
    -r--------   1 root   root    155 25. Aug 22:10 config
    drwx------ 258 frankm frankm 4,0K 10. Jul 2021  data
    drwx------   2 frankm frankm 4,0K 25. Aug 21:02 index
    drwx------   2 frankm frankm 4,0K 10. Jul 2021  keys
    drwx------   2 frankm frankm 4,0K 25. Aug 22:10 locks
    drwx------   2 frankm frankm 4,0K 25. Aug 21:02 snapshots
    [frank-ms7c92 ~]# chown -R frankm:frankm /mnt/Backup/Datensicherung_Home_Restic_UI/
    [frank-ms7c92 ~]# ls -lha /mnt/Backup/Datensicherung_Home_Restic_UI/
    insgesamt 32K
    drwx------   7 frankm frankm 4,0K 25. Aug 22:10 .
    drwxr-xr-x   8 frankm frankm 4,0K 24. Jul 10:37 ..
    -r--------   1 frankm frankm  155 25. Aug 22:10 config
    drwx------ 258 frankm frankm 4,0K 10. Jul 2021  data
    drwx------   2 frankm frankm 4,0K 25. Aug 21:02 index
    drwx------   2 frankm frankm 4,0K 10. Jul 2021  keys
    drwx------   2 frankm frankm 4,0K 25. Aug 22:10 locks
    drwx------   2 frankm frankm 4,0K 25. Aug 21:02 snapshots
    

    In der Doku hatte ich gelesen, das es jetzt noch einen Schritt benötigt.

    After the migration is complete, run prune to compress the repository metadata.

    ec2510d2-e11f-409e-bcd2-aa75e97d6654-image.png

    Danach benutzt das Repo die Version 2. Es ist aber nocht nicht alles komprimiert.

    File contents stored in the repository will not be rewritten, data from new backups will be compressed. Over time more and more of the repository will be compressed. To speed up this process and compress all not yet compressed data, you can run prune --repack-uncompressed

    Vorher

    e938e73b-35c0-4b55-a45e-127d93cb2825-image.png

    Nachher

    Uuups, jetzt ist mir der Plattenplatz ausgegangen. Ok, machen wir morgen weiter.

    [frank-ms7c92 ~]# restic prune --repack-uncompressed -r /mnt/Backup/Datensicherung_Home_Restic_UI/
    enter password for repository: 
    wrong password or no key found. Try again
    enter password for repository: 
    repository 50a2a753 opened (repository version 2) successfully, password is correct
    loading indexes...
    loading all snapshots...
    finding data that is still in use for 12 snapshots
    [0:06] 100.00%  12 / 12 snapshots
    searching used packs...
    collecting packs for deletion and repacking
    [0:00] 100.00%  48761 / 48761 packs processed
    
    to repack:        639695 blobs / 232.525 GiB
    this removes:      17295 blobs / 2.420 GiB
    to delete:             0 blobs / 0 B
    total prune:       17295 blobs / 2.420 GiB
    remaining:        834691 blobs / 230.262 GiB
    unused size after prune: 0 B (0.00% of remaining size)
    
    repacking packs
    [20:01] 35.12%  17121 / 48748 packs repacked
    Fatal: write /mnt/Backup/Datensicherung_Home_Restic_UI/data/f5/f5aa7d219ded5c271bf36ef67676f9af9d7817cf24d3245807734e6e6ca61e73-tmp-2111188238: no space left on device
    

    Ok, der Vorgang ist jetzt abgeschlossen. Kalkuliert bitte für den Vorgang den Platz der aktuell verbraucht wird obendrauf. Unter Umständen wird das schwierig.

    [frank-ms7c92 Backup]# restic prune --repack-uncompressed -r /mnt/Backup/Datensicherung_Home_Restic_UI/
    enter password for repository: 
    repository 50a2a753 opened (repository version 2) successfully, password is correct
    loading indexes...
    loading all snapshots...
    finding data that is still in use for 12 snapshots
    [0:06] 100.00%  12 / 12 snapshots
    searching used packs...
    collecting packs for deletion and repacking
    [0:00] 100.00%  48761 / 48761 packs processed
    
    to repack:        639695 blobs / 232.525 GiB
    this removes:      17295 blobs / 2.420 GiB
    to delete:             0 blobs / 73.281 GiB
    total prune:       17295 blobs / 75.701 GiB
    remaining:        834691 blobs / 230.262 GiB
    unused size after prune: 0 B (0.00% of remaining size)
    
    deleting unreferenced packs
    [0:01] 100.00%  4447 / 4447 files deleted
    repacking packs
    [1:56:48] 100.00%  48748 / 48748 packs repacked
    rebuilding index
    [0:01] 100.00%  12707 / 12707 packs processed
    deleting obsolete index files
    [0:00] 100.00%  6 / 6 files deleted
    removing 48748 old packs
    [0:02] 100.00%  48748 / 48748 files deleted
    done
    

    Ich kann hier leider nicht aufzeigen, ob ich etwas gespart habe. Dafür hätte ich vorher mal eine Bestandsaufnahme machen müssen. Vergessen 😞

    Die neuen Funktionen arbeiten aber soweit korrekt, soweit ich das aktuell beurteilen kann. Werde mich mit dem Thema aber noch etwas ausführlicher beschäftigen, auch weil ich die neuen Funktionen in mein Resti UI einbauen werde.

  • Vorstellung Restic UI als PyWebIO Version

    PyWebIO
    7
    0 Stimmen
    7 Beiträge
    175 Aufrufe
    FrankMF

    Link Preview Image Merge branch 'master' into 'main' (45c83cd8) · Commits · Frank / restic_ui_pywebio · GitLab

    Fix some bugs See merge request Bullet64/restic_ui_pywebio!71

    favicon

    GitLab (gitlab.com)

  • Restic UI - Repo Version

    Restic UI
    1
    0 Stimmen
    1 Beiträge
    95 Aufrufe
    Niemand hat geantwortet
  • Restic UI - Youtube Video Vorstellung

    Restic UI
    3
    0 Stimmen
    3 Beiträge
    194 Aufrufe
    FrankMF

    Hallo @berthold, du bist mein einziger Star 🙂 Ok, darum geht es mir ja nicht, wie Du weißt mache ich das hauptsächlich für mich und meine Backups klappen damit sehr gut. Ist also produktiv einsetzbar.

    Wie Du gemerkt hast, gibt es Zeiten da mache ich ganz viel und dann wieder Zeiten da passiert nix. Das ist bei mir normal, ich muss da "Bock" drauf haben. Habe ich viel Stress auf der Arbeit, passiert Abends eher sehr wenig..

    Ich hoffe das ich mittlerweile alle Fehler gefunden habe, die Grundfunktionen sind alle funktional. Mittlerweile kann man die JSON Datei mit den Daten der Backups auf Wunsch auch verschlüsseln 🙂

    Ich habe noch eine ganze Reihe an Notizen, was ich gerne noch machen möchte. Wichtig ist mir aber im Moment, das ich alle Fehler finde und das so wie es jetzt ist, einwandfrei läuft.

    Darum, wenn es jemand nutzt, bitte gebt Feedback. Egal ob positiv oder negativ. Ich freue mich persönlich natürlich mehr über positives Feedback 🙂

  • Restic v0.13.0 released

    Restic
    1
    0 Stimmen
    1 Beiträge
    108 Aufrufe
    Niemand hat geantwortet
  • Proxmox - Hetzner Storage Box in VM einbinden

    Proxmox
    1
    0 Stimmen
    1 Beiträge
    2k Aufrufe
    Niemand hat geantwortet
  • Python3 - subprocess.Popen

    Python3
    1
    0 Stimmen
    1 Beiträge
    269 Aufrufe
    Niemand hat geantwortet
  • Restic & Rclone & Nextcloud

    Linux
    3
    0 Stimmen
    3 Beiträge
    716 Aufrufe
    FrankMF

    Hier mal eine Ausgabe vom ersten Durchgang

    root@frank-MS-7C37:~# restic --password-file /root/passwd -r rclone:Nextcloud:HOME_UBUNTU backup --files-from /root/includes.txt repository 99xxxxa0 opened successfully, password is correct created new cache in /root/.cache/restic rclone: 2020/05/08 17:47:57 ERROR : locks: error listing: directory not found rclone: 2020/05/08 17:47:58 ERROR : index: error listing: directory not found rclone: 2020/05/08 17:47:58 ERROR : snapshots: error listing: directory not found Files: 3503 new, 0 changed, 0 unmodified Dirs: 2 new, 0 changed, 0 unmodified Added to the repo: 16.872 GiB processed 3503 files, 21.134 GiB in 1:02:56 snapshot fdxxxxec saved

    Der erste Durchgang hat also etwa eine Stunde benötigt. Durch die Deduplikation der Daten, ist der Vorgang beim zweiten Durchgang viel schneller weil nur neue oder geänderte Daten gesichert werden. Und außerdem sind alle Daten AES-256 verschlüsselt. Also perfekt zur Ablage in irgendeiner Cloud 😉

    root@frank-MS-7C37:~# restic --password-file /root/passwd -r rclone:Nextcloud:HOME_UBUNTU backup --files-from /root/includes.txt repository 99xxxxa0 opened successfully, password is correct Files: 57 new, 41 changed, 3449 unmodified Dirs: 0 new, 2 changed, 0 unmodified Added to the repo: 22.941 MiB processed 3547 files, 21.137 GiB in 0:13 snapshot c6xxxxe4 saved

    Wie ihr seht, hat der zweite Durchgang nur ein paar neue und geänderte Daten gesichert. Der Rest ist ja schon vorhanden. Und das kann man dann auch problemlos täglich, wöchentlich oder was auch immer mal eben schnell durchführen.

    Eines meiner absoluten Lieblingstool 🙂

  • Restic - Update

    Restic
    1
    0 Stimmen
    1 Beiträge
    405 Aufrufe
    Niemand hat geantwortet