Proxmox- Erfahrungen mit zfs-storage, raidz ?

Gestern kam das Proxmox Upgrade auf 5.4
In diesem Zusammenhang bin ich über diesen (schon älteren) Artikel gestoßen — was haltet ihr davon?

Für mich heißt das, dass ZoL keine denkbar brauchbare Lösung für Produktivsysteme unter Linux (mehr) sein kann.
Wenn ich ZFS will, muss ich ein anderes OS, z.B. FreeBDS, nehmen, welches weniger restriktive Lizenzbedingungen hat als Linux und dort schon quasi zum festen Bestandteil gehört.

So traurig wie das ist, ist dies der Abgesang von Proxmox mit ZFS. Es sei denn, Proxmox switcht von Debian/GNU-Linux auf BSD-Unterbau.

Viele Grüße
Thomas

Ich habe mittlerweile auch ein paar Kommentare unter dem Artikel gelesen. Dort wird gesagt, dass das Problem bereits gelöst sei?!? :thinking:

Hallo,

Ich habe mittlerweile auch ein paar Kommentare unter dem Artikel
gelesen. Dort wird gesagt, dass das Problem bereits gelöst sei?!? :thinking:

ich gehe auch davon aus, dass das gelößt wird.
Die linux Kernelentwickler sind manchmal sehr deutlich in ihren Ansagen:
was ich gar nicht schlecht finde, sondern sogar für nötig halte um die
riesen Kiste am laufen zu halten.
Das breitet zwar immer mal schmerzen, aber es ist viel besser als bei
Windows, wo alles immer Jahrzenhntelang abwärtskompatibel sein soll
(aber meist nicht wirklich ist).

Viele Grüße

Holger

Zumindest mal, ist das ne deutliche Aussage.
Mir ist das lieber als so ein halblebiges Rumgeeier.
Gibt’s nicht mehr und gut ist.

Wenn der Bäcker keine Wurschtsemmel mehr verkauft, muss ich die beim Metzger holen…

Viele Grüße
Thomas

sehe das auch so wie Holger schreibt.
Da bin ich recht entspannt, dass auch die Proxmox Entwickler das auf dem Schirm haben und rechtzeitig für eine Lösung oder zumindest an einem “workaround” arbeiten. Außerdem sehe ich hier mittel- bis langfristig den Wechsel von ZFS zu BTRFS, zumindest, wenn es keine andere saubere Lösung gibt, bei einem der nächsten Releases
Schade, sehr schade, ist nur, dass sich RedHat von der Entwicklung von BTRFS verabschiedet hat und wohl auch dadurch die Entwicklung von BTRFS viel zu langsam voran kommt. zZ kommt das für den Produktiveinsatz wohl lange nicht an ZFS ran - leider.

Grüße,
gerd

Interessant wird es erst, wenn man mehr als einen Node anbinden will. Da wird dann Ceph oder Gluster interessant. Da sind speicherintensive Dateisysteme wie ZFS eher nachteilig.
Die Entwicklung geht eher in die Richtung verteilte Dateisysteme, da Hochverfügbarkeit, auch in der Schul-IT, eine immer größere Rolle spielt und sich Ausfälle, z.B. beim elektronischen Tagebuch, schon jetzt massiv auswirken.

Viele Grüße
Thomas

Hi.
Ich habe erst gestern davon gehört, dass man ZFS komplett zerschießen kann, wenn man versucht, das Dateisystem von zwei Hosts gleichzeitig zu mounten (Stichwort “multi-host”). Keine gute Idee (und auch nicht dafür gemacht).

Zum Thema “Hochverfügbarkeit” – ja, ich denke auch, dass es zukünftig auch in der Schul-IT immer inakzeptabler wird, wenn der/ein Server nicht läuft. Daher muss auch in gescheite Hardware ordentlich investiert werden. Mit “consumerware” kommt man da uU schnell(er) an die Grenzen…
Schöne Grüße,
Michael

Bei uns läuft jetzt ein ZFS-Pool (RAID-Z2). Unter Proxmox war das innerhalb weniger Sekunden eingerichtet. Echt super!
Erleichternd kommt hinzu, dass man die virt. Platten der VMs im laufenden Betrieb “neuerdings” einfach auf den zfs-pool umziehen lassen kann. Dann hat man alles fast nahtlos (bis auf einen Neustart) migriert…

Ich wollte aber noch auf dieses ganz frische Tutorial hinweisen - iSCSI kommt sicher auch noch dran:

Ein FreeNAS habe ich heute zwischendurch kurz aufgesetzt. Das kommt ja per default mit ZFS daher… es ist jetzt nicht mehr weit bis zu den Snapshots mit zfs-auto-snapshot

Schönen Gruß,
Michael

Ich poste hier mal munter weiter … keine Ahnung, ob noch jemand mitliest :thinking: :interrobang: Diese beiden Videos sind der Knaller und zeigen gut, wie’s mit ZFS & FreeNAS laufen kann.

und

Schönen Vatertag zusammen,
Michael

Hallo Michael,
jetzt habe ich deine Infos noch nicht alle durch, arbeite aber seit einigen Monaten auch Produktiv mit on- und offline Snapshots, dazu habe ich meine Überlegungen und mein Wiki-Doku hier veröffentlicht:


Als Backup Ziel nehme ich nicht Free Nas, sondern einen (alten zweit-) Server, auf dem einfach die gleiche Version von Proxmox und ZFS (im Raid1) drauf kommt.
Meine nächste Stufe die oben ebenfalls beschrieben ist, ist die Sicherung Standordübergreifend über eine Internetleitung…
Wenn man einmal eine zerschossene VM in 2 Sek. per zfs rollback zurückgeholt hat, will man nie mehr ohne… :wink:
Und: die ZFS-Rocks Videos kennst du? Suchstichworte: “ZFS-Rocks youtube”
Grüße,
gerd

Klar, ebenfalls super.
Aber FreeNAS zeigt er nicht, oder?

doch, auf jeden Fall auch im Vergleich zu ZFS Proxmox
zB in #zfsrocks 001 und davor in 000

Hallo Gerd!

Die Idee ist auch nicht schlecht – habe ich zum Testen zZ auch so. Ich habe festgestellt, dass man scheinbar leider nicht ohne weiteres einen ZFS-Pool, den man unter Linux/Proxmox erstellt hat direkt unter FreeNAS/FreeBSD weiter verwenden kann (zfs import lieferte jedenfalls Fehlermeldungen). Da scheint es eine Inkompatibiltät FreeBSD ↔ Linux zu geben!?? Oder hast du das schon mal gemacht?

In dem einen Video oben wird eine iSCSI-Verbindung erwähnt, auf der die virt HDDs liegen. Die ist dann aber mit 10 GBit angebunden … schon klar, dass das die Sache komplexer und evtl anfälliger macht … aber es scheint gut und schnell zu laufen?

In dem Video von unicks.eu läuft die Installation von FreeNAS ja so, dass das selbst unter Proxmox virtualisiert wird und dann das Proxmox-ZFS als passthrough durchgereicht wird. Vorteil: Der ZFS-Pool steht sowohl als Storage für die VMs zur Verfügung als auch unter FreeNAS als Backup/Snapshot/Replication. Ob das auf diese Art aber richtig ausfallsicher ist??? Darüber lässt sich streiten – in dem Video gibt’s darauf ja auch keine endgülitige Antwort… Wie siehst du das? Sollte man das so machen oder für FreeNAS lieber bei einer bare-metal-Installation bleiben? Ich bin auch nicht ganz sicher, ob man sich unter Proxmox einen Gefallen damit tut, wenn man den HBA an eine VM durchreicht???

Schönen Gruß,
Michael

Nee, hab ich nicht, bisher nur mit FreeNAS rumgespielt, kann mir aber vorstellen dass die beiden nicht 1:1 passen. Unter Proxmoxen ging der ZFS import bisher reibungslos.
Zu dem Rest kann ich dir aus dem gleichen Grund auch nichts sagen.
Ich nutze zZ einen refreschten Altserver (neues Netzteil, neue Lüfter, ZFS Raid1) auf den ich die Snapshots und immer seltener vzdumps in zweiter Stufe nach dem lokalen speichern sichere.
Wenn jetzt der Hauptserver komplett ausfiele, könnte der Altserver zumindest zum Teil dessen Aufgabe übernehmen. Mein Ziel war hier eine Art low budget Vorstufe zum Hochverfügbaren System zu schaffen. Alles im Proxmox Tutorial Link beschrieben.

Grüße,
gerd

Während ich hier schreibe habe ich parallel ein 50km entferntes Proxmox 4 (Jessie) auf Proxmox 5 (Stretch) remote hochgezogen und die drei VMs, davon eine linuxmuster.net 6.2 inst. und ein Debian Stretch Samba4 Domaincontroller ge-updatet - jetzt alles fertig :wink:
Mach das mal mit Windows ;-))
gerd

Hi Gerd.

Ja, genau das ist auch mein Ziel … ich will den Backup-Server aber eigentlich nur ungerne 24/7 mitlaufen lassen, da das wirklich nicht notwendig ist und unnötig Energie verschleudert. Daher suche ich auch noch eine Möglichkeit, wie der 2. Server z.B. nachts hochgefahren wird, dann zuverlässig abgewartet wird, bis der Snapshot übertragen ist, um sich dann wieder schlafen legen zu können. Hast du sowas auch im Einsatz? Man könnte sich ein einfaches Bash-Script dazu basteln — aber sicher gibt’s schon was passendes?

Was das Desaster-Szenario angeht: Völlig automatisch wird’s bei uns nicht laufen. Das bond.0 „Server ↔ Switch“ müsste manuell gewechsel werden …

Hier eine Übersicht über die aktuellen „Feature Flags“ Feature Flags - OpenZFS
Schönen Gruß,
Michael

Ja, da hast du absolut recht, das Teil muss wiklich nicht 24/7 laufen.
Nach dem ersten initialen Snapshot, benötigen die nächsten max. paar Minuten bei 1GBit.
Wenn’s also nur um Snapshots geht, müsste unser Server nachts vielleicht ne 1/2h laufen. Wir überlegen uns mal was. Wer zuerst eine Lösung hat, sagt Bescheid.

Schnellschuss und sehr unkompliziert wäre ein per BIOS gesteuerter täglicher Start, zB um 03:10, dann ein cronjob der nach getaner Arbeit oder von allein, zur bestimmten Zeit runter fährt.
Die von mir im Link genannten Snapshot Tools haben - soweit ich weiss - die Möglichkeit, ein Job nach Fertigstellung dran zu hängen - ich guck mal nach, nächste Woche.
Ohne sauber funktionierenden NTP geht eh nix mehr.
Grüße,
gerd

Und siehe da – sowas gibt’s natürlich längst :slight_smile:

Ich bin mittlerweile soweit, dass zfs-auto-snapshot problemlos funktioniert. Als Replication-Backup-Script stehen ja mehrere zur Wahl. … da bin ich noch dran…

Hi. Ich pushe diesen Thread nochmal nach oben, weil es in Sachen Proxmox etwas Neues zu berichten gibt:

Das vereinfacht Backups per ZFS auf eine andere Maschine weiter und integriert es nun auch in die Proxmox-WebUI … top!!

Viele Grüße,
Michael