Skip to content

Redis Replication - Can't handle RDB format version 10

Verschoben Redis
  • Debian hat einen neuen Kernel raus gebracht, so das ich diesen installiert habe und heute Morgen meine Cloud einmal durch gestartet habe. So weit lief alles. Zur Sicherheit kontrolliere ich immer die Replication der Redis Datenbank. Im Log dann dieses.

    685:S 07 May 2022 08:01:46.686 # Can't handle RDB format version 10
    685:S 07 May 2022 08:01:46.686 # Failed trying to load the MASTER synchronization DB from disk
    

    Versionen kontrollieren

    Master

    root@server:~# redis-server -v
    Redis server v=7.0.0 sha=00000000:0 malloc=jemalloc-5.2.1 bits=64 build=698b5df4772f6164
    

    Paketversionen ?

    golang-github-stvp-tempredis-dev/stable,stable 0.0~git20160122.0.83f7aae-2.1 all
      Go package to start and stop temporary redis-server processes
    
    libtest-redisserver-perl/stable,stable 0.21-2 all
      redis-server runner for tests
    
    python3-hiredis/stable,stable 1.0.1-1+b2 amd64
      redis protocol reader for Python using hiredis
    
    redis/unknown,unknown,now 6:7.0.0-1rl1~bullseye1 all [installed]
      Persistent key-value database with network interface (metapackage)
    
    redis-server/unknown,now 6:7.0.0-1rl1~bullseye1 amd64 [installed,automatic]
      Persistent key-value database with network interface
    

    Replica

    root@database-2gb-nbg1-2:/var/log/redis# redis-server -v
    Redis server v=6.0.16 sha=00000000:0 malloc=jemalloc-5.2.1 bits=64 build=6d95e1af3a2c082a
    

    Paketversionen ?

    golang-github-stvp-tempredis-dev/stable,stable 0.0~git20160122.0.83f7aae-2.1 all
      Go package to start and stop temporary redis-server processes
    
    libtest-redisserver-perl/stable,stable 0.21-2 all
      redis-server runner for tests
    
    python3-hiredis/stable,stable 1.0.1-1+b2 amd64
      redis protocol reader for Python using hiredis
    
    redis/stable,stable-security,stable,stable-security,now 5:6.0.16-1+deb11u2 all [installed]
      Persistent key-value database with network interface (metapackage)
    
    redis-server/stable,stable-security,stable,stable-security,now 5:6.0.16-1+deb11u2 amd64 [installed,automatic]
      Persistent key-value database with network interface
    

    Gut, die beiden Versionen passen nicht zusammen 🤔 Nach einem Schluck Kaffee, fällt auf das ich beim MASTER, wohl die Redis Pakete von Redis direkt beziehe.

    deb [signed-by=/usr/share/keyrings/redis-archive-keyring.gpg] https://packages.redis.io/deb bullseye main
    

    Ok, das erklärt die Differenz. Da ich jetzt wusste, woher das Problem kam, konnte ich versuchen es zu lösen. Es ergaben sich dabei mehrere Probleme.

    Problem 1

    Installation nach Anleitung, scheitert.

     root@:/etc/systemd/system# curl -fsSL https://packages.redis.io/gpg | sudo gpg --dearmor -o /usr/share/keyrings/redis-archive-keyring.gpg
     sudo: gpg: command not found
     (23) Failed writing body
    

    Dafür habe ich keine Lösung gefunden, ich habe aber im Kopf das da irgendwann auf Debian Seite was geändert wurde? Da ich mich damit nicht aufhalten wollte, habe ich die Dinge die ich brauchte von dem anderen Server kopiert 😉

    Problem 2

    Nach

    apt update && apt upgrade
    

    startet Redis nicht 😞

    root@# systemctl status redis-server.service
    ● redis-server.service - Advanced key-value store
         Loaded: loaded (/lib/systemd/system/redis-server.service; enabled; vendor preset: enabled)
         Active: failed (Result: protocol) since Sat 2022-05-07 09:07:49 CEST; 5min ago
           Docs: http://redis.io/documentation,
                 man:redis-server(1)
        Process: 5467 ExecStart=/usr/bin/redis-server /etc/redis/redis.conf (code=exited, status=0/SUCCESS)
       Main PID: 5467 (code=exited, status=0/SUCCESS)
            CPU: 23ms
    
    May 07 09:07:49 database systemd[1]: redis-server.service: Scheduled restart job, restart counter is at 5.
    May 07 09:07:49 database systemd[1]: Stopped Advanced key-value store.
    May 07 09:07:49 database systemd[1]: redis-server.service: Start request repeated too quickly.
    May 07 09:07:49 database systemd[1]: redis-server.service: Failed with result 'protocol'.
    May 07 09:07:49 database systemd[1]: Failed to start Advanced key-value store.
    

    Es hat lange gedauert und viele Test, bis ich raus bekommen hatte das das Problem im redis-server.service lag. Ich habe mich hinterher gefragt, warum startet der Dienst auf dem anderen Server einwandfrei!? Also vergleichen und feststellen, das er etwas anders ist. Die folgende Zeile

     ExecStart=/usr/bin/redis-server /etc/redis/redis.conf
    

    ist Standard(?). Bin mir da nicht 100% sicher, aber so war es angelegt, nachdem ich redis-server mit purge entfernt hatte und danach neu installiert habe. Auf meinem anderen Server sieht das aber wie folgt aus.

     ExecStart=/usr/bin/redis-server /etc/redis/redis.conf --supervised systemd --daemonize no
    

    Danach ein

    systemctl daemon-reload
    

    und ich konnte den Dienst wieder erfolgreich starten.

    systemctl start redis-server.service
    

    Kontrolle ob die Replication einwandfrei läuft mit

    tail -n 45 /var/log/redis/redis-server.log
    

    Ausgabe

    6208:S 07 May 2022 09:34:05.469 * Successful partial resynchronization with master.
    6208:S 07 May 2022 09:34:05.469 * MASTER <-> REPLICA sync: Master accepted a Partial Resynchronization.
    6208:S 07 May 2022 09:39:05.098 * 10 changes in 300 seconds. Saving...
    6208:S 07 May 2022 09:39:05.102 * Background saving started by pid 6276
    6276:C 07 May 2022 09:39:05.673 * DB saved on disk
    6276:C 07 May 2022 09:39:05.675 * Fork CoW for RDB: current 1 MB, peak 1 MB, average 0 MB
    6208:S 07 May 2022 09:39:05.703 * Background saving terminated with success
    6208:S 07 May 2022 09:44:06.046 * 10 changes in 300 seconds. Saving...
    6208:S 07 May 2022 09:44:06.050 * Background saving started by pid 6300
    6300:C 07 May 2022 09:44:06.627 * DB saved on disk
    6300:C 07 May 2022 09:44:06.629 * Fork CoW for RDB: current 1 MB, peak 1 MB, average 0 MB
    6208:S 07 May 2022 09:44:06.652 * Background saving terminated with success
    

    Alles wieder gut. Dauer: Drei Tassen ☕

    Und, ich muss an meiner Dokumentation noch einiges verbessern.

  • FrankMF FrankM verschob dieses Thema von Privat am

  • Redis ConnectionPool

    Redis
    2
    0 Stimmen
    2 Beiträge
    188 Aufrufe
    FrankMF

    Die Antwort von ChatGPT wie der Redis ConnectionPool funktioniert. Ein paar Dinge finde ich komisch.

    https://chat.openai.com/share/b10fdadc-2c9b-404a-bc99-c883d110d6af

  • Redis Stack?

    Redis
    1
    0 Stimmen
    1 Beiträge
    120 Aufrufe
    Niemand hat geantwortet
  • Docker & Redis Datenbank

    Verschoben Linux
    2
    0 Stimmen
    2 Beiträge
    182 Aufrufe
    FrankMF

    @FrankM sagte in Docker & Redis Datenbank:

    save 60 1
    #save 900 1
    save 300 10
    save 60 10000

    Hier kann man auch noch schön sehen, wie ich gekämpft habe, bis ich mal eine dump.rdb gesehen habe. Auch irgendwie logisch, das ich nie eine gesehen hatte, wenn man weiß das

    save 900 1

    bedeutet, das er alle 900 Sekunden speichert, wenn mindestens eine Änderung vorhanden ist. Das kann dann schon was dauern. Ich habe das dann mal verkürzt, damit ich schneller ein Ergebnis habe.

    save 60 1

    Das brachte mich dann dem Ziel näher. Danach konnte ich die dump.rdb auch finden.

    Bitte keine Redis DB ohne Passwort laufen lassen!
  • Python & Redis-Datenbank

    Verschoben Linux
    3
    0 Stimmen
    3 Beiträge
    115 Aufrufe
    FrankMF

    Heute dann die nächste Herausforderung. Mein JSON soll so aussehen, damit ich das entsprechend erweitern kann.

    Stocks {0: {'stockname': 'Deutsche Telekom Aktie', 'wkn1': '4534543534', 'wkn2': 'sfsdfsdfsfdfd', 'quantity': 100}, 1: {'stockname': 'Henkel', 'wkn1': '4534543534', 'wkn2': 'sfsdfsdfsfdfd', 'quantity': 50}}

    Die Daten sollen wie oben schon ausprobiert, in einer Redis Datenbank liegen. So weit auch kein großes Problem. ABER, der Zugriff auf diese Daten war dann meine nächste Hürde 🙂

    Ok, ich habe also mehrere Einträge im JSON File bzw. in der Datenbank. Wie komme ich da nun wieder dran. Ein paar ☕ später dann die Lösung.

    Wie komme ich an den einzelnen Eintrag, also über den Index??

    r1.json().get('stocks', 1)

    Gibt als Ergebnis

    {'stockname': 'Henkel', 'wkn1': '4534543534', 'wkn2': 'sfsdfsdfsfdfd', 'quantity': 50}

    Ok, das passt schon mal. Somit kann man dann gewohnt auf die einzelnen Elemente zugreifen.

    print("TESTING", testing['stockname'])

    Ausgabe

    TESTING Henkel

    Ok, Teil 1 erledigt. Jetzt habe ich ja irgendwann mehrere Elemente in der Liste und brauch dann den letzten Index , um damit was machen zu können. Also, z.B. durch die Daten zu loopen.

    objkeys = r1.json().objkeys('stocks') print("Objkeys", objkeys)

    Ausgabe

    Objkeys ['0', '1']

    Ok, kommt eine Liste des Index zurück. Damit kann man arbeiten 😉

    Ich hatte dann zum Testen mittels einer while Schleife die Daten geladen, aber jetzt beim Tippen klingelt es und wir machen das schön mit enumerate 😉

    @staticmethod def load(): data = {} for count, value in enumerate(objkeys): testing = r1.json().get('stocks', count) data[count] = { "stockname": testing['stockname'], "wkn1": testing['wkn1'], "wkn2": testing['wkn2'], "quantity": testing['quantity']} return data

    Somit habe ich die Daten aus der Redis Datenbank in einem Objekt und kann damit arbeiten.

  • Redis - Fehler bei apt update && apt upgrade

    Redis
    1
    0 Stimmen
    1 Beiträge
    186 Aufrufe
    Niemand hat geantwortet
  • Redis Replication über Wireguard

    Redis
    5
    0 Stimmen
    5 Beiträge
    415 Aufrufe
    K

    👍
    spart bischen zeit

  • Redis oder MongoDB?

    Verschoben Redis
    1
    0 Stimmen
    1 Beiträge
    481 Aufrufe
    Niemand hat geantwortet
  • Redis Datenbank sichern

    Verschoben Redis
    1
    0 Stimmen
    1 Beiträge
    759 Aufrufe
    Niemand hat geantwortet