Proxmox- Erfahrungen mit zfs-storage, raidz ?

doch, auf jeden Fall auch im Vergleich zu ZFS Proxmox
zB in #zfsrocks 001 und davor in 000

Hallo Gerd!

Die Idee ist auch nicht schlecht – habe ich zum Testen zZ auch so. Ich habe festgestellt, dass man scheinbar leider nicht ohne weiteres einen ZFS-Pool, den man unter Linux/Proxmox erstellt hat direkt unter FreeNAS/FreeBSD weiter verwenden kann (zfs import lieferte jedenfalls Fehlermeldungen). Da scheint es eine Inkompatibiltät FreeBSD ↔ Linux zu geben!?? Oder hast du das schon mal gemacht?

In dem einen Video oben wird eine iSCSI-Verbindung erwähnt, auf der die virt HDDs liegen. Die ist dann aber mit 10 GBit angebunden … schon klar, dass das die Sache komplexer und evtl anfälliger macht … aber es scheint gut und schnell zu laufen?

In dem Video von unicks.eu läuft die Installation von FreeNAS ja so, dass das selbst unter Proxmox virtualisiert wird und dann das Proxmox-ZFS als passthrough durchgereicht wird. Vorteil: Der ZFS-Pool steht sowohl als Storage für die VMs zur Verfügung als auch unter FreeNAS als Backup/Snapshot/Replication. Ob das auf diese Art aber richtig ausfallsicher ist??? Darüber lässt sich streiten – in dem Video gibt’s darauf ja auch keine endgülitige Antwort… Wie siehst du das? Sollte man das so machen oder für FreeNAS lieber bei einer bare-metal-Installation bleiben? Ich bin auch nicht ganz sicher, ob man sich unter Proxmox einen Gefallen damit tut, wenn man den HBA an eine VM durchreicht???

Schönen Gruß,
Michael

Nee, hab ich nicht, bisher nur mit FreeNAS rumgespielt, kann mir aber vorstellen dass die beiden nicht 1:1 passen. Unter Proxmoxen ging der ZFS import bisher reibungslos.
Zu dem Rest kann ich dir aus dem gleichen Grund auch nichts sagen.
Ich nutze zZ einen refreschten Altserver (neues Netzteil, neue Lüfter, ZFS Raid1) auf den ich die Snapshots und immer seltener vzdumps in zweiter Stufe nach dem lokalen speichern sichere.
Wenn jetzt der Hauptserver komplett ausfiele, könnte der Altserver zumindest zum Teil dessen Aufgabe übernehmen. Mein Ziel war hier eine Art low budget Vorstufe zum Hochverfügbaren System zu schaffen. Alles im Proxmox Tutorial Link beschrieben.

Grüße,
gerd

Während ich hier schreibe habe ich parallel ein 50km entferntes Proxmox 4 (Jessie) auf Proxmox 5 (Stretch) remote hochgezogen und die drei VMs, davon eine linuxmuster.net 6.2 inst. und ein Debian Stretch Samba4 Domaincontroller ge-updatet - jetzt alles fertig :wink:
Mach das mal mit Windows ;-))
gerd

Hi Gerd.

Ja, genau das ist auch mein Ziel … ich will den Backup-Server aber eigentlich nur ungerne 24/7 mitlaufen lassen, da das wirklich nicht notwendig ist und unnötig Energie verschleudert. Daher suche ich auch noch eine Möglichkeit, wie der 2. Server z.B. nachts hochgefahren wird, dann zuverlässig abgewartet wird, bis der Snapshot übertragen ist, um sich dann wieder schlafen legen zu können. Hast du sowas auch im Einsatz? Man könnte sich ein einfaches Bash-Script dazu basteln — aber sicher gibt’s schon was passendes?

Was das Desaster-Szenario angeht: Völlig automatisch wird’s bei uns nicht laufen. Das bond.0 „Server ↔ Switch“ müsste manuell gewechsel werden …

Hier eine Übersicht über die aktuellen „Feature Flags“ Feature Flags - OpenZFS
Schönen Gruß,
Michael

Ja, da hast du absolut recht, das Teil muss wiklich nicht 24/7 laufen.
Nach dem ersten initialen Snapshot, benötigen die nächsten max. paar Minuten bei 1GBit.
Wenn’s also nur um Snapshots geht, müsste unser Server nachts vielleicht ne 1/2h laufen. Wir überlegen uns mal was. Wer zuerst eine Lösung hat, sagt Bescheid.

Schnellschuss und sehr unkompliziert wäre ein per BIOS gesteuerter täglicher Start, zB um 03:10, dann ein cronjob der nach getaner Arbeit oder von allein, zur bestimmten Zeit runter fährt.
Die von mir im Link genannten Snapshot Tools haben - soweit ich weiss - die Möglichkeit, ein Job nach Fertigstellung dran zu hängen - ich guck mal nach, nächste Woche.
Ohne sauber funktionierenden NTP geht eh nix mehr.
Grüße,
gerd

Und siehe da – sowas gibt’s natürlich längst :slight_smile:

Ich bin mittlerweile soweit, dass zfs-auto-snapshot problemlos funktioniert. Als Replication-Backup-Script stehen ja mehrere zur Wahl. … da bin ich noch dran…

Hi. Ich pushe diesen Thread nochmal nach oben, weil es in Sachen Proxmox etwas Neues zu berichten gibt:

Das vereinfacht Backups per ZFS auf eine andere Maschine weiter und integriert es nun auch in die Proxmox-WebUI … top!!

Viele Grüße,
Michael

Hi.
Ich habe den PBS mittlerweile auf einem alten Server ausprobiert – und zwar so, dass da bereits Proxmox PVE 6.x lief und ich kurzerhand den PBS dazu installiert habe. Jetzt kann ich die neue WebUI unter :8007 erreichen, während die „normale“ WebUI weiterhin unter :8006 zur Verfügung steht. Arbeitsaufwand: 5 Minuten!

Wenn man nun die Backups von ZFS nach ZFS durchführen lässt, merkt man sehr schnell, wie schnell und performant das funktioniert; vor allem bei den Folgebackups.

In diesem Video erklärt jemand die Grundfunktionen. Das ist aber noch die 0.8-beta. Ein paar Dinge haben sich da nochmal weiterentwickelt:

Unter’m Strich von mir: :+1: :+1: :+1:

Viele Grüße,
Michael

Hallo Michael,

… manchmal hab ich fast das Gefühl, dass du ZFS richtig gut finden
würdest :slight_smile:

LG

Holger

… wir kommst du nur darauf? :slight_smile:

Kurz im Vorbeifliegen:
auf „ZFS Rocks“ gibts (mind.) eine Video von Ende letzten Jahres, absolut geil!:
Über das Thema Proxmox Backup Server und Urbackup als zwei Container unter Proxmox pve.
Setzten wir seit kurzem produktiv als eine unserer „offline“ Backups ein:
auf folgender Hardware Basis mit entsprechenden NAS Festplatten (2 - >10TB) und einer System-SSD
Gehäuse:
https://www.inter-tech.de/products/ipc/storage-cases/sc-2100
Mainbaord

Speicher
2 x DDR4 SO-DIMM Slots insg. 16 GB, Mindfactory Artikelnummer 8785128, HX424S14IB2K2/16 Kingston
Für die Kombi habe ich recht lange recherchiert und ausprobiert, (zuvor hatte ich das
GA-IMB4100TN (rev. 1.0) Übersicht | Mainboards - GIGABYTE Germany )

System:
Proxmox PVE auf die SSD grundsätzlich ohne ZFS weil hier grundsätzlich kein Raid läuft, aber möglich.
Dann zwei bis drei LXC Container:
1: Proxmox Backup Server
2: Debain (buster) für Urbackup auf denen wir Clientsicherungsimmages durchführen (keine Schule, kein Linbo)
evt. 3 Debain ab bullseye mit BackupPC4.2 für die Datensicherung
Auf den Festplatten muss man mit dem LVM-Thin klar kommen und entsprechend den wünschen einstellen
Warnung: weder das Teil zusammenzubauen, noch die Installation ist was für schwache Nerven :wink:

Das Teil Rockt!
gp

… es gibt Neuigkeiten zum PBS:

Hallo Michael,

witzig: gerade vor zwei Stunden zwei produktive Proxmox-Backup-Server auf genau diesen Stand aktualisiert, bevor deine Info rein kam. Krasses Zeugs!
Wir setzten seit ein paar Wochen die Eigenbau-Mini-Backup-Server im Kundeneinsatz produktiv ein. Auf den wir Unter Proxmox PVE einen PBS und ein URBackup auf Debian Basis als LXC Container betreiben.
Mit den Proxmox Sachen zu arbeiten inkl. des neuen PBS macht wirklich Spaß, weil hier einfach alles nahezu perfekt funktioniert. Ich bin und bleibe von dem Zeugs aus den Bergen echter Fan.

Grüße,
gerd

1 „Gefällt mir“

Hi Gerd.
Ich nutze hier den PBS auch für Backups über’s Netzwerk. Damit werden alle VMs, die auf dem Produktivserver laufen, zusätzlich per ZFS Snapshots auf dem PBS gesichert. Das klappt so gut, dass ich das nicht mehr missen möchte.

Der momentane Stand sieht so aus …
Screenshot_20210421_142309

Viele Grüße,
Michael

damit meinst du, dass du einerseits das in deinem Screen gezeigte laufen lässt und unabhängig davon, noch remote snapshots, oder als Snapshot Replikation bezeichnet, laufen lässt?

Grüße,
gerd

@Michael
ich weiss nicht, seit wann du den PBS einsetzt: bei meinen ersten Versuchen -vor kurzem- mit dem PBS, dachte ich mir , dass das aus Effizenzgründen nur bei „kleineren“ Umgebungen Produktiv einsetzbar ist, weil ansonsten die Übertragungszeiten im Vergleich zu ZFS-Snapshots viel zu lange dauern würden. Wenn es zwingend um Effizenz geht - dachte ich - muss ich weiterhin auf ZFS Snapshots setzten.
siehe: Proxmox u. ZREP

Seit paar Tagen und seit Version EDIT: PBS 1.1-2, sehe ich das nicht mehr ganz so, das hat bei meinen Installationen seit dem enorm an geschwindigkeit / effizenz zugeleg, mind. Faktor vier!
Hast du auch ähnliches festgestellt?
(Laufzeit der Backup Tasks - Status - Duration)
Grüße,
gerd

Ja, wir versuchen so gut es geht die 3-2-1 Strategie umzusetzen.

Ob es nun deutlich schneller geworden ist, weiß ich noch nicht, aber das wäre natürlich schön. Soooo langsam fand ich es bisher aber auch gar nicht – eher im Gegenteil. Im Vergleich zu Vollbackups (ohne ZFS) ist das doch schon x-fach schneller.

Hallo Michael,
so für PBS-Dummies: Muss ich die zfs-Storages irgendwie konvertieren, so dass OpenZFS 2.0 „drauf“ ist? Ich habe nirgends eine Update-Anleitung gefunden…

LG
Max

Hallo Max,

wenn du die neuen Features nutzen möchtest, musst du sowohl unter PVE als auch unter PBS ein zpool upgrade ausführen.

Viele Grüße
Christoph